구글, 모르면 "모른다"고 답하는 AI 개발(어스파이어, ASPIRE)

https://www.aitimes.com/news/articleView.html?idxno=156630

구글, 모르면 "모른다"고 답하는 AI 개발 - AI타임스

 

1. 생성형AI의 한계 - hallucination

- hallicunation(환각) : 인공지능(AI)이 주어진 데이터나 맥락에 근거하지 않은 잘못된 정보나 허위 정보를 생성하는 것을 의미한다.
--> 몰라도 아는 척 답변함(거짓정보)

 

2. 구글의 어스파이어 모델

기존 LLM+ 신뢰도 점수에 따라 답변을 취사선택하는 선택적 예측(selective prediction)

https://blog.research.google/2024/01/introducing-aspire-for-selective.html

Introducing ASPIRE for selective prediction in LLMs