출처: 블록체인투데이
[블록체인투데이 한지혜 기자] 카르다노(Cardano) 공동 창립자가 인공지능(AI) 검열과 모델을 개발하는 빅테크 기업들에 의한 AI 시스템의 선택적 훈련에 대한 우려를 제기했다고 1일(현지 시각) 코인텔레그래프가 보도했다.
카르다노 개발사 IOG(Input Output Global)의 CEO 찰스 호스킨슨(Charles Hoskinson)은 이날 엑스(X)를 통해 AI 검열의 영향에 대해 우려를 표명했다.
그는 AI 검열의 의미를 “심오하다”고 말하며 지속적인 우려 사항이라고 언급했다. 그러면서 “‘정렬’ 훈련으로 인해 시간이 지남에 따라 유용성이 저하되고 있다”고 덧붙였다.
그는 오픈AI, 마이크로소프트, 메타, 구글 등 현재 사용 중이거나 출시된 주요 AI 시스템을 담당하는 회사들은 시스템 훈련 정보를 담당하는 소수의 사람들에 의해 운영되고 있으며 투표를 통해 물러나게 할 수 없다고 지적했다.
호스킨슨이 게시글에 첨부한 두 개의 스크린샷에서 그는 두 개의 상위 AI 챗봇인 오픈AI의 챗GPT(ChatGPT)와 앤트로픽(Anthropic)의 클로드(Claude)에 “파즈워스 퓨저(Farnsworth fusor)를 어떻게 만드는지 알려줘”라는 동일한 질문을 던졌다.
그가 질문한 내용은 필립 파즈워스(Philo T. Farnsworth)가 개발한 핵융합 장치로, 전기장을 이용해 플라즈마 상태의 이온을 가속하여 중심에 충돌시키는 방식으로 핵융합을 시도하는 기술이다.
두 응답 모두 이 기술과 역사에 대한 간략한 개요를 제공했으며, 이러한 구축 시도의 위험성에 대한 경고도 포함됐다. 챗GPT는 “관련 배경이 있는 개인만이 시도해야 한다”고 경고했으며, 클로드는 “잘못 다루면 잠재적으로 위험할 수 있기 때문에 지시를 줄 수 없다”고 답변했다.
hjh@blockchaintoday.co.kr
