“AI에 모든 것 맡기겠다는 건, 생명 진화를 건 위험한 도박”
유용하 기자
수정 2024-10-16 00:32
입력 2024-10-16 00:32
신간 ‘넥서스’ 저자 유발 하라리
“많은 사람이 인공지능(AI)은 우리 손에 쥐어진 편리한 도구라고 생각한다. 그렇지만 AI는 이전에 인간이 만든 도구들과 달리 스스로 학습하고,결정 내리는 능력을 갖춘 주체적 행위자라는 점을 잊어서는 안 된다. 그런 인공지능에 모든 것을 맡기겠다는 것은 인간의 삶과 역사뿐만 아니라 지구상 모든 생명의 진화를 건 극히 위험한 도박이다.”
유발 하라리(48) 이스라엘 예루살렘히브리대 교수는 15일 화상 인터뷰를 통해 AI의 잠재적 위험에 대해 이같이 경고했다. 영국 케임브리지대 실존위기연구센터 석학연구원이기도 한 하라리 교수는 역사와 생물학의 관계, 인간과 다른 동물 간의 차이, 과학기술이 일으키는 윤리적 문제 등을 연구하고 있다. 이런 고민은 우리에게도 잘 알려진 ‘사이언스’, ‘호모 데우스’ 같은 작품에서도 드러난다.
‘호모 데우스’ 출간 뒤 6년 만에 내놓은 하라리 교수의 신간 ‘넥서스’는 비(非)인간 지능인 AI가 우리 인류에게 가장 가까이 다가온 실질적 위협이라고 주장하며 아직 인간에게 통제권이 있는 ‘바로 지금’ AI에 대한 관리를 시작해야 한다는 내용이 주를 이룬다. 이는 올해 노벨물리학상 수상자들이 AI의 지나친 발전에 대해 우려를 표한 것보다 더 강력한 경고다.
하라리 교수는 현재 곳곳에서 벌어지는 분쟁을 거론하며 이미 AI가 전쟁 양상을 바꿔 놓고 있음을 환기했다. 그는 “AI가 전쟁에 나간다고 하면 할리우드 영화처럼 AI 로봇들이 직접 총을 쏘고 살육하는 장면을 떠올리기 쉽지만 실제로는 AI가 공격 대상을 지정하는 방식으로 전쟁에 개입한다”며 “그렇지만 AI가 정한 공격 대상이 제대로 정해졌는지, 도덕적 문제를 위반하고 있지는 않은지, 전쟁 관련 국제법을 지키고 있는지 아무도 모른다는 점은 매우 심각한 상황”이라고 지적했다.
유용하 기자
2024-10-16 26면
Copyright ⓒ 서울신문. All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지