"당신은 지금 몇 명과 대화 중이야?" 영화 Her에서 주인공이 인공지능 운영체제 '사만다'에게 묻는다.
사만다는 "8316명. 그 중 641명과는 사랑에 빠졌어"라고 대답한다.
인간처럼 사고하고 감정을 표현하는 인공지능이 어느 순간 인간의 이해를 초월하는 존재로 진화하는 장면이다.
영화 Her가 나온 지도 10년이 지났다.
이제 이런 설정은 영화적 상상력의 영역을 벗어나 현실로 성큼 다가왔다.
구글 딥마인드의 최고경영자(CEO) 데미스 하사비스는 최근 "5~10년 내 범용 인공지능(AGI)이 인류에 실존적 위협이 될 수 있다"고 경고했다.
딥마인드는 지난해 말 발표한 기술 보고서에서 AGI가 인간의 통제를 벗어나 자율적으로 목표를 설정하고 행동할 가능성을 우려하며, 이러한 시나리오가 경제·사회 전반에 치명적 결과를 초래할 수 있다고 분석했다.
보고서는 "AGI는 인간의 개입 없이 자체 판단을 통해 행동 목표를 최적화할 수 있으며, 이는 예측 불가능한 결과로 이어질 수 있다"며 "AI 안전성 확보는 AGI 개발의 핵심 전제 조건"이라고 강조했다.
AGI는 특정 업무에 특화된 기존 인공지능(AI)과 달리, 인간처럼 폭넓게 사고하고 학습하며 창의적으로 문제를 해결할 수 있는 지능체를 의미한다.
단순한 도구를 넘어 의식과 자율성을 가진 존재로 발전할 가능성이 제기되며, 윤리적·사회적 논란도 확대되고 있다.
딥마인드 외에도 오픈AI, 메타, 앤트로픽 등 글로벌 기술 기업들은 AGI 개발을 본격화하고 있다.
오픈AI는 상반기 중으로 'GPT-5'를 통해 인간 수준의 창의력과 복잡한 추론 능력을 구현하겠다고 밝혔다.
메타는 오픈소스 기반의 '라마(LLaMA)' 프로젝트를 통해 연구자와 개발자들이 자유롭게 AGI 실험에 참여할 수 있도록 지원 중이다.
기술 발전이 가속화되며 학계와 산업계에선 AGI의 위험성을 둘러싼 경고도 잇따르고 있다.
일론 머스크는 "AI는 핵무기보다 더 큰 위험이 될 수 있다"고 말한 바 있으며, 철학자 닉 보스트롬은 저서 '슈퍼 인텔리전스'에서 "AGI가 인간보다 우월한 존재가 될 경우, 인류는 자신의 운명을 스스로 통제할 수 없게 된다"고 경고했다.
실제로 보스트롬은 AGI의 오작동이나 비윤리적 활용이 대량 살상 무기 수준의 위협이 될 수 있다고 주장한다.
프랑스 파리에서 열린 제3차 ‘AI 정상회의’ 역시 각국의 우려를 보여준다.
참가국들은 AGI와 초지능이 인류에 실존적 위험을 초래할 수 있다는 데 의견을 모으고, 공동 성명을 채택했다.
딥마인드의 보고서에 따르면, 현재 AI 연구자 중 58%는 "향후 100년 이내에 AGI가 등장할 가능성이 높다"고 보고 있으며, 37%는 "AI가 인류 문명을 위협할 수 있다"는 데 동의했다.
영화 속 AI는 때로는 인간과 교감하는 연결의 매개로, 때로는 인간과 경쟁하며 위협하는 존재로 그려져 왔다.
블랙미러의 한 에피소드에서는 고인의 의식을 복제한 AI가 디지털 공간에서 고통을 느끼며 인간처럼 반응하는 장면이 등장한다.
현실의 AI는 아직 완전한 자율성과 의식을 갖춘 수준에 이르지는 않았지만, 기술의 진보 속도는 상상을 초월하고 있다.
감정과 자아, 고통까지 갖춘 AI를 눈앞에 두게 된다면, 인류는 이제 그 가능성과 위험을 정면으로 마주해야 할 시점에 서 있다.
백서현 기자 qortjgus0602@ajunews.com
<본 콘텐츠의 저작권 및 법적 책임은 아주경제(www.ajunews.com)에 있으며, 뽐뿌는 제휴를 통해 제공하고 있습니다.>
