출처: 토큰포스트
이스라엘 기반의 AI 스타트업 AI21이 기업용 생성형 AI의 성능을 향상시키는 새로운 플랫폼 ‘Maestro’를 공개했다. 이 시스템은 대형 언어 모델(LLM)의 출력을 보다 정교하게 조정하고, AI 응답의 정확성을 높이는 데 초점을 맞춘다.
AI21은 엔비디아(NVDA), 구글(GOOGL) 등의 주요 투자자로부터 총 3억 3,600만 달러(약 4,838억 원)의 자금을 유치한 바 있으며, 기업 특화 LLM인 ‘Jamba’ 시리즈를 제공하고 있다. 이 모델들은 최대 25만 6,000개의 토큰을 처리할 수 있으며, ‘검색 증강 생성(RAG)’ 기술을 활용해 훈련 데이터에 포함되지 않은 정보를 분석할 수 있도록 설계됐다.
일반적으로 기업이 LLM을 실질적인 운영 환경에 배포할 때, 오류 가능성을 줄이기 위한 프로세스를 구축해야 한다. 이 과정에서 개발자들은 AI 응답을 자동으로 검사하는 소프트웨어 워크플로를 만들어야 하지만, 이는 설정과 유지 관리가 어렵다는 단점이 있다. AI21의 Maestro는 이러한 문제를 해결하는 데 초점을 맞춘 AI 계획 및 조정 시스템으로, LLM의 오류를 줄이는 작업을 간소화하고 효율성을 극대화한다.
Maestro의 작동 방식은 비교적 간단하다. 사용자가 프롬프트를 입력하고 생성된 응답이 충족해야 할 요구 사항을 설정하면, 시스템이 이를 자동으로 반영한다. 예를 들어, AI 응답이 특정 비용을 초과하지 않도록 제한하는 등의 제약 조건을 적용할 수 있다. 이를 통해 수작업 코딩 없이도 AI 모델의 성능을 최적화할 수 있다.
또한 Maestro는 복잡한 요청을 처리할 때, 이를 여러 작은 단계로 나누고 최적의 처리 방식을 선택하는 기능을 갖췄다. AI의 분석 능력을 향상시키는 이 방식은 ‘연쇄적 사고(Chain of Thought)’ 기법과 유사한 원리를 따른다. AI21은 Maestro를 통해 LLM의 정확도를 최대 50%까지 향상시킬 수 있다고 밝혔다. 특히 ‘o3-mini’와 같은 고급 LLM 모델과 결합하면, 95% 이상의 정확도로 질문에 답할 수 있다는 분석도 내놨다.
AI21은 Maestro가 기업 환경에서 대형 문서의 분석, 고객 문의 응답 품질 개선뿐만 아니라 반복적인 비즈니스 업무 자동화에도 유용할 것으로 기대하고 있다. AI21의 공동 CEO인 오리 고셴(Ori Goshen)은 “대기업들의 AI 대량 도입은 다음 산업 혁명의 핵심”이라며, “Maestro는 이를 실현하기 위한 첫 번째 단계로, AI가 신뢰할 수 있는 방식으로 구동될 수 있도록 돕는다”고 강조했다.
현재 Maestro는 초기 액세스 단계에서 일부 고객에게 제공되고 있으며, AI21은 연내 정식 출시를 목표로 하고 있다.
