출처: 블록미디어
비주얼 일렉트릭, 환각 현상으로 이미지 생성
AI가 데이터를 처리하면서 엉뚱한 산출물을 내놓는 것을 할루시네이션이라고 한다. 존재하지 않는 책, 논리적이지 않은 문장, 실제할 수 없는 이미지를 툭툭 내던지는 것이다.
예를 들어, “조선왕조실록에 들어 있는 암호화폐 투자 사례를 알려줘”라고 물었더니 “한국 최초의 비트코인 소유자는 세종대왕입니다”라고 답하는 식이다.
이미지를 그리는 AI에서도 비슷한 ‘실수’가 있다. 세계 지도를 그리라고 했더니 일그러진 모습의 지구를 내놨다.
이런 실수를 창작에 적극 활용하는 스타트업이 있다.
# 할루시네이션을 이용한 이미지 생성
디자이너 콜린 던(Colin Dunn)은 AI 기반 이미지 생성 서비스가 예상치 못한 결과를 낳을 때 즐거움을 느낀다고 블룸버그와 인터뷰에서 말했다.
예컨대, 사람들이 함께 걷는 그룹의 이미지를 요청했을 때, 한 인물이 멀리 떠나가는 모습을 보여주는 것과 같은 결과는 던에게 생각치도 못했던 아이디어를 떠오르게 만들었다.
던은 비주얼 일렉트릭(Visual Electric)이라는 스타트업을 만들었다. 이 회사는 AI 환각을 활용할 수 있는 새로운 웹 인터페이스를 개발했다.
일반적인 텍스트-이미지 생성기는 한 번에 하나의 이미지를 채팅 창에 출력하지만, 던의 앱에서는 출력 결과를 열로 저장하고 수정하려는 이미지 옆이나 아래에 배열하여 썸네일 갤러리를 만든다. 사용자는 AI에게 연속적인 요청을 하게 만들고, 의도치 않은 ‘작품’을 ‘창작’하게 해준다.
# 비트코인 광고하는 겐슬러
예를 들어, 겐슬러 증권거래위원회(SEC) 위원장이 비트코인을 한 손에 들고 있는 그림을 그리게 하고 싶다.
“Gary Gensler has a bitcoin in right hand” 까지만 프롬프터에 입력을 했더니 “with golden sunlit rays” 라는 문장이 저절로 생겨났다.
그 결과 나온 썸네일은 겐슬러를 닮은 사람이 비트코인을 광고하는 모습이었다.
던은 이러한 작업을 “광활하고, 지저분한 탐험(sprawling, messy exploration)”이라고 불렀다.
# AI가 실수를 하도록 유도한다
던은 가능한 적은 클릭으로 예상 결과를 달성하는 데 초점을 맞추기보다는 AI가 놀라운 방식으로 자유롭게 이미지를 ‘창작’ 하도록 유도한다.
이를 위해 던은 프롬프트 명령을 무작위로 만들고, 자동으로 재작성하고, 기분에 따라 미학적 관점을 바꾸며, 컴퓨터가 단어를 해석하는 방식을 조정하는 도구들을 붙였다.
AI 환각은 일종의 버그다. 상업적 용도로 AI를 채택한 기업들은 환각 현상이 일어나지 않도록 최적화하려고 한다. 갈릴레오(Galileo)라는 회사는 AI 시스템의 정확성을 순위로 매기는 ‘환각 지수’를 도입하기도 했다.
창작자들은 AI 환각을 이용한다. 던은 일부 예술가들이 창작에 약물을 쓰는 것에 비유한다.
“처음에는 “이건 끔찍하다. 잘못된 것이다”라고 생각하지만, 반복해서 이미지를 몇 분 동안 바라보고 나면 컴퓨터가 옳았다는 것을 깨닫게 됩니다.”
블룸버그는 AI의 예측 불가능한 결과가 창작자에게 새로운 영감과 가능성을 제공하며, 이로 인해 기술과 예술의 경계가 새롭게 그려지고 있다고 보도했다.
