출처: 블록체인투데이
[블록체인투데이 이아름 기자] 온체인 AI는 소형 모델에는 가능하지만, 메모리, 컴퓨팅 파워, 합의 메커니즘의 현재 한계로 인해 대규모 AI 모델, 예를 들어 대형 언어 모델(LLM)의 효과적인 블록체인 배포가 어렵다. 그러나 이 격차를 해소하기 위한 많은 혁신이 진행되고 있다. AI는 계산 비용이 매우 높고, 분산 컴퓨팅 또한 비용이 많이 든다. 따라서 두 가지 모두 비싼 요소를 결합하면 복잡한 문제가 발생한다.
◆빠른 이해를 돕기 위한 몇 가지 개념
– 훈련 vs 추론
AI에 대해 이야기할 때, 사람들은 종종 모델의 ‘훈련’ 또는 ‘추론’을 의미한다. 훈련은 추론보다 수천 배 더 어렵고 자원을 많이 소모한다.
– CPU vs GPU
GPU는 AI 모델에 최적화된 컴퓨터이다. GPU는 전통적인 일반 컴퓨터(CPU)보다 1000배 빠르게 모델을 처리할 수 있다. 이는 대부분의 웹2 환경에서 AI의 병목 현상이 GPU를 사용하는 것만으로 해결되기 때문이다.
– 메모리
스마트 계약의 메모리는 저장소와 힙 메모리로 구성된다. 이 두 가지 메모리 유형 모두 AI 모델을 실행하는 데 중요하다.
◆AI가 스마트 계약을 통해 호스팅되기 위해 필요한 세 가지 요소
메모리 AI 추론에 필요한 메모리 요구사항은 AI 모델마다 크게 다르다. 예를 들어, 소형 머신 러닝 모델은 몇 메가바이트(MB)만 필요하지만, 대형 언어 모델(LLM)은 기가바이트(GB)의 메모리를 요구할 수 있다.
ICP의 스마트 계약은 400GB의 안정적인 메모리와 4GB의 힙 메모리를 가지고 있다. 이는 ICP 스마트 계약이 많은 AI 모델을 호스팅할 수 있음을 의미하지만, 모든 모델은 아니다. 이에 반해 이더리움의 스마트 계약은 KB 단위로 측정되는 스택 메모리를 가지고 있다. 이는 이더리움이 대부분의 AI 모델을 호스팅할 수 없음을 의미한다.
계산 능력 AI 추론에 필요한 계산 능력은 초당 부동 소수점 연산(FLOPS)으로 측정된다. AI 모델의 복잡성과 크기에 따라 필요한 계산 능력이 크게 달라질 수 있다.
ICP 스마트 계약은 초당 20억 회의 연산을 수행할 수 있다. 또한, ICP 스마트 계약은 부동 소수점 연산과 정수 연산을 모두 처리할 수 있다. 이더리움 스마트 계약은 EVM에 의존하며, 고성능 계산 작업에 최적화되어 있지 않다. 이더리움은 대다수 AI 모델에 필요한 기가 FLOPS보다 훨씬 낮은 계산 성능을 가지고 있다.
– 하드웨어 문제
웹2 세계에서 모델의 계산 자원을 증가시키는 것은 일반적으로 GPU를 사용하는 것을 의미하는데, 이 때문에 GPU의 수요가 높다. 기술적 이유로, GPU는 멀티스레드로 설계되어 있기 때문에 모든 연산이 결정론적이지 않으며, 블록체인은 합의를 위해 결정론적 계산을 요구한다. GPU의 결정론적 행동을 보장하는 방법은 있지만, 신중한 고려와 구성이 필요하다. 이를 해결하기 위해서 GPU의 결정론성을 확보하기 위한 방법은 비결정성을 처리하도록 합의 프로토콜 수정하거나 비결정성을 수용하고 제로 지식 증명 사용하는 것이 대두되고 있다.
AI의 블록체인 통합은 아직 완전히 실현되지 않았다. AI 추론의 통합을 위한 유망한 진전이 있지만, 메모리, 계산 능력, 합의 메커니즘에서 상당한 격차를 해결해야 한다. 이러한 도전 과제는 극복할 수 있지만, 집중적인 연구와 혁신이 필요하다. 이러한 장애물을 이해하고 해결함으로써, AI의 힘과 블록체인의 보안 및 분산화를 결합하는 꿈이 현실이 될 수 있다.
