컨텍스트관리1 AI 환각의 유형과 대처 방안 AI가 만들어내는 허상과 그 뒤에 숨겨진 메커니즘을 밝히다 인공지능(AI)은 자연어 처리(NLP), 컴퓨터 비전, 자율적 의사 결정 등 여러 분야에서 놀라운 발전을 이루어왔다. 그러나 AI 모델과 관련된 가장 난해하고 우려되는 문제 중 하나는 바로 AI 환각 현상이다. AI 환각이란 AI 시스템이 부정확하거나, 무관한 정보, 또는 완전히 허구의 정보를 생성하는 현상을 말합니다. AI의 신뢰성을 높이기 위해서는 이러한 다양한 유형의 AI 환각을 이해하는 것이 중요하다.1. 외재적 환각(Extrinsic Hallucinations)2. 내재적 환각(Intrinsic Hallucinations)3. 사실적 환각(Factual Hallucinations)4. 충실성 환각(Faithfulness Hallucin.. 2024. 12. 18. 이전 1 다음
