출처: 토큰포스트
딥시크(DeepSeek) R1의 등장이 인공지능(AI) 기술의 발전 가능성과 위험성을 동시에 보여주고 있다. AI 모델이 저비용으로 빠르게 개발될 수 있다는 점은 긍정적이지만, 개인정보 보호, 편향성, 보안 취약점 등의 문제가 여전히 해결되지 않은 상태다.
딥시크 R1은 1월 20일 출시 이후 세계 각국의 기술 전문가와 정책 입안자들의 주목을 받고 있다. 일부에서는 혁신적인 기술 도약으로 평가하는 반면, 다른 이들은 보안과 프라이버시 문제를 이유로 회의적인 태도를 보이고 있으며, 일부 국가에서는 사용을 금지하는 조치까지 내놓고 있다.
이 모델은 단 60일 만에 개발되었으며, 비용도 600만 달러(약 87억 원) 이하로 억제됐다. 이는 기존 AI 모델들이 막대한 컴퓨팅 자원을 필요로 했던 것과 대비되는 특징이다. 딥시크는 모델 최적화 기술을 활용해 비용과 시간을 절감하는 방식을 택했으며, 이러한 접근 방식이 AI 개발자들에게 새로운 방향성을 제시할 수 있다는 평가를 받고 있다.
그러나 딥시크 R1은 기존 대형 언어 모델(LLM)과 마찬가지로 논리적 추론 능력, 복잡한 계획 수립, 실세계 이해 능력, 지속적인 기억 유지와 같은 한계를 지니고 있다. 이는 현재의 LLM이 근본적인 한계를 뛰어넘지 못했음을 의미하며, 보다 근본적인 AI 구조 혁신이 요구되는 상황이다.
한편, 딥시크 R1의 약관 분석 결과, 사용자 데이터 보관 정책과 감시에 대한 우려가 제기됐다. 계정을 삭제하더라도 데이터가 완전히 제거되지 않으며, 사용자의 입력 및 출력을 모니터링할 수 있는 권한을 보유하고 있다. 또한 중국 법률을 따르기 때문에 정부 요청 시 데이터 접근이 가능하다는 점도 논란이 되고 있다. 이러한 조항들은 유럽연합(EU)의 일반 데이터 보호 규정(GDPR)에 위배된다는 이유로 벨기에, 아일랜드, 이탈리아 등의 국가에서 해당 AI 모델의 사용을 일시적으로 금지하기도 했다.
또한, 딥시크 R1은 편향성과 검열 문제에서도 자유롭지 않다. 중국의 AI 규제법에 따라 “사회주의 핵심 가치를 준수해야 한다”는 조항이 포함되어 있어 일정한 정치적 검열이 존재할 가능성이 제기됐다. 이는 딥시크 R1이 중국 정부의 시각을 반영할 수밖에 없는 구조임을 의미한다.
보안 취약성도 중요한 문제로 떠올랐다. 보안 기업 퀄리스(Qualys)의 테스트 결과, 딥시크 R1 모델은 절반 이상의 보안 침투 테스트에서 안전 장치를 회피당하는 취약성을 보였다. 이는 AI 모델을 활용하는 기업들에게 큰 리스크로 작용할 수 있다. 골드만삭스(Goldman Sachs)는 딥시크 R1 도입을 고려하고 있지만, 정밀한 보안 점검이 필요하다는 입장을 밝혔다.
결국 AI 모델 사용의 핵심은 책임 있는 혁신과 철저한 위험 관리에 달려 있다. 중앙화된 AI 개발의 문제를 해결하기 위해 탈중앙화된 AI, 나아가 탈중앙화 자율조직(DAO) 기반의 AI 개발이 하나의 대안이 될 수 있다는 목소리도 커지고 있다. AI의 글로벌 확산 속도를 고려할 때, 국제적인 AI 규제 프레임워크 구축이 시급한 과제로 떠오르고 있다.
