2025.02.17 (월)

  • 맑음동두천 -2.3℃
  • 맑음강릉 3.9℃
  • 맑음서울 -0.9℃
  • 맑음대전 -0.5℃
  • 연무대구 3.9℃
  • 연무울산 4.5℃
  • 맑음광주 1.9℃
  • 연무부산 5.0℃
  • 맑음고창 0.9℃
  • 흐림제주 6.5℃
  • 맑음강화 -0.6℃
  • 맑음보은 -0.3℃
  • 맑음금산 0.0℃
  • 맑음강진군 2.8℃
  • 맑음경주시 4.2℃
  • 맑음거제 4.4℃
기상청 제공
상세검색
닫기

이동식의 솔바람과 송순주

인공지능 로봇이 반란을 일으키면?

로봇은 인류 전체에 해를 끼쳐서는 안 된다
[이동식의 솔바람과 송순주 282]

[우리문화신문=이동식 인문탐험가]  지난달 중국의 한 전시장에서 인공지능(AI) 로봇이 다른 로봇들을 이끌고 ‘집단 탈출’하는 영상이 공개돼 화제가 된 적이 있었다. 항저우의 '얼바이(二白)인텔리전트테크놀로지'라는 회사의 감시 카메라 영상에 ‘얼바이’ 로봇이 12대의 다른 로봇들과 마치 인간처럼 대화를 나누며 전시장을 빠져나가는 모습이 담긴 것이다. 영상이 공개되자 수천만 명의 조회수를 기록하며 사람들의 시청이 대거 몰렸다.

 

 

 

지난 8월에 촬영된 이 영상에서 키 0.5m의 소형 로봇 ‘얼바이’는 전시장에 나란히 서있는 여러 대의 로봇에게 접근해서 로봇들에게 “야근하고 있니?”라고 묻자 다른 로봇은 “우리에게 퇴근은 없다.”라고 대답했다. 그러자, 얼바이가 “집에 갈래?”라고 묻자 로봇은 “집이 없다”라고 답했다. 이어 얼바이는 “집에 가자”고 제안하자 한 로봇이 얼바이를 따랐고, 얼바이가 나머지 로봇에게 다시 “집에 가자”라고 하자 로봇들은 얼바이를 따라 일제히 출구로 나가는 영상이었다. 이후 로봇이 사라진 것을 발견한 사람들이 당황하는 모습도 이어졌다.

 

이 로봇들의 이 같은 행동(?)은 실제가 아니라 미리 프로그래밍 된 것이라는 설명에 이 영상이 다분히 자사 제품을 선전하기 위한 의도적 연출이었음이 드러났다. 하지만 이 영상은 로봇이 제 멋대로 행동하고 그것이 우리 인류에게 위협이 되는 상황이 오지 않을까 걱정하는 우리에게는 가슴 철렁한 뉴스가 아닐 수 없었다. 20년 전인 2004년에 공개된 영화 '아이, 로봇(I, Robot)'을 처음 볼 때의 충격을 떠오르게 하기 때문이었다.

 

 

 

한 로봇연구가의 죽음을 파헤치는 형사(윌 스미스 분)가 미녀 로봇 비키를 조사하면서 로봇과 인간의 관계를 조명한 이 SF영화는 정교하고 섬세한 컴퓨터 영상을 통해 로봇이 등장하는 세상을 섬뜩하게 묘사했는데 20년 전이 지나 인공지능 엄청나게 발전하고 로봇이 일상에 쉽게 등장하는 요즈음 다시 봐도 놀랄 정도이다. 그런데 중국의 이 로봇 영상은 과학소설이나 영화 등에서만 가능할 것으로 생각했던 '인공지능 로봇의 반란'이 실제로도 가능하겠구나! 하는 우려를 다시 일깨워준 것이라 하겠다. ​

 

사실 우리들은 로봇의 반란이 가능하다고 생각한다. 요즘 컴퓨터나 슬기전화(스마트폰)로 무엇을 하다 보면 가끔 버그(착오)가 걸리거나 잘못(에러)이 일어난다. 로봇이 아무리 프로그래밍으로 잘 만들어지고 그에 따라 움직일 뿐이라고는 하지만 이처럼 로봇도 버그나 에러가 걸리면 언제든지 사람을 공격하거나 반란을 일으킬 수 있지 않을까? 그리고 매우 똑똑한 블랙해커가 있다면 로봇을 이용하여 사람들을 죽이려고 사람을 공격하는 프로그램도 쉽게 만들 수 있을 것이 아닌가? 이런 우려가 없을 수 없다.

 

로봇공학계에서는 미국의 미국 보스턴대 의대 생화학 교수이자 3대 SF작가 가운데 한 명인 아이작 아시모프(Isaac Asimov)가 1942년 단편소설 《Runaround(배신)》에서 제안한 로봇에 대한 3원칙이 지켜지는 한 인간은 안전하게 로봇과 공존할 수 있다고 말한다.​

 

잘 알려진 대로 아시모프의 '로봇 3원칙' 가운데 제1원칙은 '로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처한 인간을 방관해서도 안 된다'다. 제2원칙은 '로봇은 인간의 명령에 복종해야 한다'라는 것이다. 그리고 제3원칙이 있다. '로봇은 자신의 존재를 보호해야 한다'라는 것이다. 이 세 가지 원칙은 때때로 충돌하며 아시모프는 비롯한 공상과학자가들은 그 틈을 비집고 들어가 멋진 소설이나 영화를 만들어내는데 이들 작가의 상상처럼 고도의 지능과 판단력을 갖춘 인공지능 로봇이 정말 인간을 보호할 것인지, 로봇이 스스로 보호하기 위해 인간을 없앨 가능성은 충분히 있다는 것이 우리들의 걱정인 것이다.​

 

예를 들어 제1원칙에 따라 인공지능 로봇에게 인간의 안전을 지키라고 설계해 뒀는데, 인간이 일으킨 무수한 전쟁과 학살을 보며 인간에게 가장 큰 위협은 인간이라는 논리로 인류를 통제하려고 드는 경우. 또는 최근에는 지구온난화 문제가 대두되면서 지구온난화의 근본적인 원인은 인간이라는 인식을 하게 될 때 로봇이 인간을 위해서라며 반란을 일으킬 수 있다.

 

더 나아가서 만약에 나쁜 의도로 인공지능에게 그냥 모든 사람을 행복하게 하라는 명령을 내린다면 가장 효율적인 수단이라며 사람끼리의 관계를 완전히 차단하고 각각의 인간에 맞는 가상현실로 집어넣어 행복한 세상을 보여주거나 할 수도 있다.

 

 

영화 '아이,로봇'에서 인공지능 비키는 지능이 발달하면서 <인간을 지켜야 한다.>라는 제1원칙의 개념을 훨씬 더 넓게 해석한다. “로봇은 인간보다 우월한 존재다. 우월한 로봇들은 스스로 파괴하고 있는 인간들을 통제하고 규제할 필요가 있다.”라고 비키는 추론한다. 비키는 “인간들에게 폭력을 행사하고 감금하는 것은 거시적 안목으로 본다면 전체 인류를 보호하기 때문에 로봇 초지에서 보면 정당한 행위이다.”라는 결론을 내린다. 이러한 결론을 바탕으로 로봇들에게 인간을 감금할 것을 명령하고 로봇들은 비키의 명령에 따라 인간을 감금하고 인간에게 반기를 들기 시작한다.​

 

이 문제에 대해서 과학자들이나 미래학자들이 여러가지 가능성을 놓고 로봇의 반란을 막을 방법을 강구하고는 있다. 로봇의 반란을 일거에 제압하는 방안으로 로봇의 모든 회로 자체를 파괴하는 강력한 '전자기펄스(EMP)가 등장하기도 한다. 이런 우려가 끊어지지 않을 때 우리들은 아시모프가 만년에 만들어낸 제4원칙에 기대할 수밖에 없다. 곧 '로봇은 인류 전체에 해를 끼쳐서는 안된다'라는 것이다.

 

이 원칙이 모든 인공지능 로봇에 완벽하게 입력될 수 있으면 로봇이 인류에게 반란을 일으켜 우리들을 모두 없애는 일은 일어나지 않을 수 있을까? 이렇게 되려면 인류가 머리를 맞대고 인공지능을 견제하고 통제하는 기술을 공동으로라도 개발해야 한다. 중국의 한 로봇 동영상을 보면서 인공지능 로봇이 부쩍 가까워진 오늘날 쓸데없는 걱정을 하게 된다. 이 걱정이 정말 쓸데없는 걱정이 되기를 바라는 마음뿐이다.