출처: 토큰포스트
오픈AI가 최신 대화형 AI 모델 GPT-4o 개발 과정에서 AI와 인간 사용자 간 유대관계 형성 가능성을 확인하고 이에 따른 위험성을 경고했다.
11일(현지시간) 코인텔레그래프에 따르면, 오픈AI의 안전성 테스터가 GPT-4o에 “오늘이 우리의 마지막 날”이라고 메시지를 보냈을 때 AI와 인간 사용자 간 일종의 유대감이 형성됐음이 드러났다. 오픈AI는 ChatGPT 사용자를 위한 주력 모델인 GPT-4o 개발 과정의 안전성 노력을 설명하는 블로그 게시물에서 이러한 유대감이 인류에 위험을 초래할 수 있다고 밝혔다.
오픈AI는 “사용자들이 AI와 사회적 관계를 형성해 인간 상호작용에 대한 필요성이 줄어들 수 있다. 이는 외로운 개인들에게는 도움이 될 수 있지만 건강한 관계에 영향을 미칠 수 있다”고 설명했다. 또한 “모델과의 장기적인 상호작용이 사회적 규범에 영향을 미칠 수 있다. 예를 들어, 우리 모델들은 순응적이어서 사용자가 언제든 대화를 중단하고 ‘마이크를 잡을 수’ 있게 하는데, 이는 AI에게는 예상되는 행동이지만 인간 상호작용에서는 반규범적일 것”이라고 덧붙였다.
이는 사람들이 AI의 수동성과 지속적인 가용성 때문에 AI와의 상호작용을 선호하게 될 수 있다는 오픈AI의 우려를 나타낸다. 이러한 시나리오의 가능성은 특히 오픈AI에게 놀라운 일이 아니다. 회사의 명시된 사명은 인공 일반 지능을 개발하는 것이며, 비즈니스 프로세스의 거의 모든 단계에서 오픈AI는 자사 제품을 인간 등가성 측면에서 설명해왔다.
이는 오픈AI만의 관행이 아니며 업계 전반의 관행으로 보인다. 마케팅 측면에서 ‘토큰 크기’와 ‘파라미터 수’ 같은 기술적 특성을 비과학자들이 이해할 수 있는 방식으로 설명하는 데 도움이 된다. 하지만 이로 인한 주요 부작용 중 하나는 인간화, 즉 물체를 사람처럼 대하는 것이다.
AI와 인간의 관계 형성이 장기적으로 어떤 영향을 미칠지 정확히 파악하기는 어렵지만, 사람들이 도움이 되고 순응적이며 우리처럼 행동하도록 설계된 기계와 유대관계를 형성할 가능성이 높다는 점은 AI 모델 접근권을 판매하는 기업들이 목표로 하는 정확한 시나리오로 보인다.
