Opal1031

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본LLM09: 2025 벡터 및 임베딩 취약점아홉 번째 챕터의 주제는 "허위 정보"이다 허위 정보허위 정보의 주요 원인 중 하나는 환각이다.이는 모델이 내용을 실제로 이해하지 못한 채 출력을 생성하는 경우 발생한다. 환각LLM이 사실처럼 보이는 허구의 콘텐츠를 생성하는 현상 또한 훈련 데이터에 내재된 편향과 불완전한 정보에 의해서도 허위 정보가 생성될 수 있다. 허위 정보LLM이 신뢰할 수 있는 것..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본LLM08: 2025 벡터 및 임베딩 취약점여덟 번째 챕터의 주제는 "벡터 및 임베딩 취약점"이다. 벡터 및 임베딩 취약점LLM과 RAG를 활용하는 시스템에서 중요한 보안 위험을 초래할 수 있다. RAG (Getrieval-Augmented Generation, 검생 증강 생성)LLM이 답변을 생성하기 전에 외부의 신뢰 가능한 지식 기반에서 관련 정보를 검색하여, 이를 바탕으로 정확하고 최신화 된..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본LLM07: 2025 시스템 프롬프트 유출일곱 번째 챕터의 주제는 "시스템 프롬프트 유출 취약점"이다. 시스템 프롬프트 유출시스템 프롬프트 자체의 유출은 실제 위험을 초래하지 않는다.그러나 이러한 정보가 발견되면 다른 공격을 수행하는 데 이용될 수 있다. 시스템 프롬프트 유출 취약점시스템 프롬프트나 지침이 모델의 행동을 유도하는 데 사용되지만, 의도치 않게 민감 정보를 포함할 수 있는 위험 시스템..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본LLM06: 2025 과도한 위임여섯 번째 챕터의 주제는 "과도한 위임"이다.과도한 위임LLM 기반의 시스템은 일정 수준의 자율성을 부여받는데, 그 권한의 범위에 따라 동적으로 작동한다. 이 과정에서 과도한 권한 위임으로 인한 취약점이 발생할 수 있다. 과도한 위임 (Excessive Agency)LLM이 오작동하는 원인과 상관없이 예상치 못한 입력, 애매한 프롬프트 또는 조작된 출력에 의해 손상..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다. 포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본LLM05: 2025 부적절한 출력 처리다섯 번째 챕터의 주제는 "부적절한 출력 처리"이다. 부적절한 출력 처리LLM이 생성한 콘텐츠는 프롬프트 입력에 의해 제어될 수 있기에, 기능에 대한 간접적인 접근을 제공하는 것과 유사하다. 부적적한 출력 처리LLM이 생성한 출력을 다른 구성 요소와 시스템에 전달하기 전에 충분한 검증, 정제 및 처리가 이루어지지 않는 것 해당 취약점을 악용하면 아래와 같은..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본LLM04: 2025 데이터 및 모델 오염네 번째 챕터의 주제는 "데이터 오염"이다. 데이터 오염사전 학습, 미세 조정 또는 임베딩 데이터가 조작되어 취약점, 백도어 또는 편향성이 발생하는 경우를 말한다. 데이터 오염으로 인해 모델의 보안, 성능 또는 윤리적 행동을 손상시킨다.이로 인해 유해한 출력이나 기능 저하를 초래한다.LLM 수명 주기데이터 오염은 LLM 수명 주기의 여러 단계를 대상으로 할..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본 LLM03: 2025 공급망세 번째 챕터의 주제는 "공급망"이다. LLM 공급망LLM 공급망에는 다양한 취약점이 존재한다. 취약점에 의해 학습 데이터, 모델 및 배포 플랫폼의 무결성에 영향을 미칠 수 있다.이에 따라 편향된 출력, 보안 침해 또는 시스템 장애로 이어질 수 있다.이는 변조 또는 오염 공격(Poisoning Attack)을 통해 조작할 수 있다. LoRA (Low-Rank Adapt..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본 LLM02: 2025 민감 정보 유출두 번째 챕터의 주제는 "민감 정보 유출"이다. 민감 정보민감 정보에는 다음과 같은 것들이 포함된다.개인 식별 정보 (Personally Identifiable Information, PII)재무 정보건강 기록기밀 비즈니스 데이터보안 자격 증명 및 법률 문서고유한 교육방법과 소스코드애플리케이션에 포함된 LLMLLM의 출력을 통해 민감한 데이터, 독점 알고리즘 ..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다. 포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본 LLM01: 2025 프롬프트 인젝션첫 번째 챕터의 주제는 "프롬프트 인젝션"이다.프롬프트 인젝션 취약점이용자 프롬프트가 의도하지 않은 방식으로 LLM의 동작 또는 출력을 변경할 때 발생LLM을 사용할 때, 데이터 처리 과정에서 사용자에게 직접적으로 보이지 않을 수 있다.즉, 이용자의 의도와는 무관하게 입력이 LLM 모델에 영향을 미칠 수 있다.RAG 및 미세 조정과 같은 기술은 LLM 출력의..

※ 본 포스트는 "SW 산학협력 프로젝트"에 앞서 LLM 및 AI와 관련된 학습을 위해 읽은 논문의 요약본입니다.※ 비영리적인 순수한 학습 기록용입니다.※ 저작권 문제가 있을 경우, 즉시 수정 또는 삭제하겠습니다.포스팅에 앞서 해당 논문은 아래의 링크에서 확인할 수 있습니다.OWASP Top 10 2025 번역본본격적인 내용에 앞서 OWASP과 관련된 기본적인 정보들 및 이전 버전과 크게 달라진 점을 소개하는 챕터이다.간단하게 앞으로 읽어 나갈 내용들의 사전 지식 정도로 보고 넘어가면 좋을 것 같다.OWASPOWASP (Open Web Application Security Project, 오픈소스 웹 애플리케이션 보안 프로젝트)전 세계의 개발자, 보안 전문가, 기업, 교육 기관 등이 모여 웹 애플리케이션..