출처: 토큰포스트
AI 챗봇에 대한 소비자의 관심 감소로 2024년 2분기 AI 산업의 수익이 하락했다.
최근 발표된 연구에 따르면, 시간이 지남에 따라 AI 챗봇이 더 많은 오류를 범하고 있으며, 이는 신형 모델이 출시될수록 심화되는 것으로 나타났다.
5일(현지시간) 코인텔레그래프에 따르면, ‘더 크고 더 교육 가능한 언어 모델들이 점점 더 신뢰성을 잃고 있다’는 제목의 연구가 발표되었다. 이 연구는 AI 챗봇이 시간이 지날수록 더 많은 실수를 하고 있으며, 새로운 모델이 출시될수록 정확성이 떨어지는 경향이 있다고 지적했다. 연구 공동 저자인 렉신 저우는 AI 모델이 그럴듯한 답변을 제공하도록 최적화되면서, 정확도보다는 그럴듯한 답변을 우선시하는 경향이 있다고 분석했다.
AI ‘환각 현상’이라고 불리는 문제는 시간이 지남에 따라 스스로 강화되는 경향이 있으며, 더 큰 언어 모델이 신형 모델의 학습에 사용되면서 ‘모델 붕괴’라는 현상까지 초래한다고 연구는 지적했다. 매튜 로이 편집자는 사용자들에게 AI 도구에 지나치게 의존하지 말고, 항상 검색 결과를 확인하는 것이 중요하다고 경고했다.
구글(Google)의 AI 플랫폼 또한 2024년 2월 역사적으로 부정확한 이미지를 생성한 사건으로 비판을 받았으며, AI ‘환각 현상’ 문제는 여전히 해결되지 않고 있다. 이를 해결하기 위해, 엔비디아(Nvidia) CEO 젠슨 황은 AI 모델이 더 철저한 연구와 출처 제공을 해야 한다고 제안했다.
