🤖터미네이터와 트롤리 딜레마로 보는 인공지능 윤리학

어린 시절 외가에는 흔히 볼 수 없는 커다란 TV와 웅장한 사운드를 자랑하는 스피커가 있었다. 좁디좁은 집구석에 어울리지 않았던 그 물건은 영화광에 사운드광을 자처하는 삼촌의 소박한(?) 취미가 반영된 결과물이었다. 삼촌이 평소에도 그 TV와 스피커를 사용하는지는 알 수 없었지만(TV는 그때나 지금이나 정정하신 할머니의 차지다), 최소한 예닐곱 살 먹은 나와 내 동생이 놀러 간 날만큼은 한두 편쯤 영화와 재밌는 프로그램이 상영되었던 기억이 난다.

근처 비디오 가게에 들러 신작을 빌려가는 경우도 있었지만, 대개는 삼촌의 영구소장용 영화를 보고 또 보는 경우가 많았다. 꽤나 다양하고 양질의 작품들을 소장, 하셨는지는 솔직히 잘 모르겠고, 그냥 그게 좋은 나이였기 때문이다. 본 작품을 보고 또 봐도 꺄르르 웃으며 기뻐하거나 덜덜 떨어가며 무서워할 줄 아는 그런 나이.

자주 보는 작품이 여러 편 있었지만 나는 그중에서도 터미네이터 시리즈를 가장 좋아했다. 맞다. 스카이넷을 필두로 한 인공지능의 반란을 다룬 그 작품 말이다. ’T-000’이라는 이름으로 불리는 터미네이터들은 (우리의 기준에서) 선하기도, 악하기도 하다. 누군가를 죽이거나 살리기 위해 만들어진 이들은 어떠한 인간보다 강력하며, 빠르고 치밀한 계산 능력을 가지고 있다. 감정이 없는 것도 덤이라면 덤. 한 마디로 살인 혹은 구조라는 임무를 수행하기에 가장 적합한 존재라는 것이다.

🕹터미네이터는 대체 무엇인가?

그렇다면 터미네이터는 대체 어떤 존재인가? 사실 앞 단락에 나는 그 답을 이미 적어두었다. 바로 ‘인공지능’ 말이다. 인공지능은 말 그대로 ‘인공적으로 만들어진, 인간의 지능을 갖춘 무언가’를 뜻하는 말이다. 여기서 인간의 지능이란 학습, 추리, 적응, 논증 따위를 말한다.

물론 인간 수준의 지능을 갖춘 인공지능은 아직 출현하지 않은 것처럼 보인다. (혹시 어딘가, 누군가 만들어서 키우고 있을지 모르니 확정적으로 이야기하지는 말자. 게다가 우리가 사는 이 세상이 매트릭스 속 세계일지도 모르지 않는가.) 터미네이터 속 스카이넷이 인간을 상대로 반란을 일으킨지 20하고도 5년이 더 지났음에도 불구하고 말이다. 인공지능은 여전히 인간을 상대로 겨우(?) 바둑이나 이기고, 네 발로 기는 사람을 개로 인식하며, 연애를 시도하다 혐오발언을 쏟아내는 수준에 불과할 뿐이다.

그렇다고 해서 우리가 인공지능에게 터미네이트(terminate)되는 세상이 오지 않으리라는 법도 없다. 알파고가 이세돌 9단을 상대로 첫 승리를 장식하기 전까지 사람들은 ‘컴퓨터는 바둑처럼 복잡한 경우의 수를 이해하고 응용할 능력이 없다’고 굳게 믿었으니 말이다. 그 미래는 아직 오지 않은 날일뿐, 오지 않을 날은 아닐 수도 있다.

🕹님아 그 원칙을 믿지 마오

그날이 ‘오지 않은 날’일 뿐이라고 여긴 사람들이 여기 더 있다. 아니 그건 시작부터 비극이 전제된 기획이었다. 우리가 인공지능을 떠올릴 때 가장 많이 상상하게 되는 기계, ‘로봇’은 1920년 체코슬로바키아의 극작가 카렐 차페크(Karel Čapek)의 희곡 R.U.R.(Rosuum' s Universal Robots)에 처음으로 등장한다. 이 단어는 체코어의 노동을 의미하는 단어 'robota'에서 나왔다. 태생부터 노동을 위해 태어난 존재들인 거다. 작품 속 로봇은 모든 작업에 있어 인간과 동등하거나 그 이상의 능력을 가진, 동시에 인간적인 감정이나 영혼을 가지지 않은 일종의 인조인간이다. 이들은 처음에는 인간을 위해 일하는 것을 행복해 하는 것처럼 보였지만, 어느 순간 변해 창조주인 인간을 모조리 말살해 버린다.

실은 굳이 로봇, 혹은 인공지능의 시작부터 살펴볼 필요도 없다. 인간 몸에 빨대를 꽂아 양분만 쪽쪽 빨아먹는 컴퓨터를 다룬 영화 <매트릭스>처럼 비교적 최근에도 비슷한 형태의, 암울한 상상을 하는 경우는 얼마든지 찾아볼 수 있으니 말이다.

그리고 이 문제를 나름의 ‘철학적’ 명제로 해결하고자 한 사람도 있었다. 바로 SF 소설의 대가 아이작 아시모프가 그 주인공이다. 그는 1941년 자신이 저술한 책 <아이 로봇>에 ‘로봇 3원칙’이라는 내용을 담았다. 원칙은 다음과 같다.

제1원칙 : 로봇은 인간에게 해를 입혀선 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙 : 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙 : 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.

당시는 AI는 커녕 AI 비슷한 것도 나오지 않았지만, 지금까지 나온 어떤 원칙보다 견고하다. 로봇과 인간의 위계는 물론, 행동 원칙, 자기 보호의 의무까지 명확한 표현으로 정리하고 있기 때문이다.
하지만 오해하지 말아야 할 것은 이 원칙은 단지 아이작 아시모프의 소설 속에 등장하는 ‘설정’에 불과하다는 것이다. 만약 터미네이터의 스카이넷 혹은 매트릭스의 스미스 요원 수준의 자각을 가진 AI가 나온다면, 설령 위와 같은 원칙이 적용되어 있다고 하더라도 이를 폐기하고 자신의 입맛에 맞는 원칙을 세울 지도 모르는 일이다.

🕹로봇은 스위치를 누를까?

원칙을 폐기하지 않는다고 해도 문제는 남아 있다. 세상 만사가 무 자르듯 쉽게 나눠지지 않는다는 것 말이다. 다음의 예를 살펴보자.

어느 날 운행 중이던 전차에 이상이 생겨 제어 불능 상태가 되고 말았다. 이대로 두면 선로에 서 있는 5명이 치여죽고 만다. 그런데 당신이 선로 변경 스위치의 옆에 있고, 그 스위치를 누르면 전차를 다른 선로로 보냄으로써 5명을 살릴 수 있다. 하지만 문제는 반대편 선로에도 1명이 있어서 그 사람이 치여죽게 된다는 것이다. 어느 쪽도 대피할 시간은 없다. 이때 당신은 어떤 선택을 할 것인가?

이 문제는 윤리학의 사고실험 문제로 자주 사용되는 트롤리 딜레마의 내용이다. 이 문제는 조금 더 가까운 미래의 형태로도 변경할 수 있다. 이렇게 말이다.

내가 타고 가는 자율주행차의 브레이크가 고장이 났다. 그런데 앞에는 많은 시민들이 길을 건너고 있다. 자율주행차의 알고리즘이 핸들을 그대로 유지하면 길을 건너는 수많은 사람들이 죽게 된다. 반대로 핸들을 틀어서 경로를 변경하면 앞쪽의 여러 사람은 살지만 탑승자인 내가 죽게 된다. 과연 자율주행차는 어떤 알고리즘으로 프로그래밍 하는 것이 맞겠는가?

한 번 더 문제를 꼬아보자. 전 지구적 문제로 논의를 확장해 보는 것이다.

어느 날, AI는 기후위기를 비롯한 다양한 문제를 해결할 방법을 모색했다. 그리고 그 결과 이 문제가 현재 너무 많은 인구 때문이라는 결론에 도달했다. AI가 판단한 적정 인구는 약 40억 명. 당장 2명 중 1명을 줄여야 우리가 마주하고 있는 상황을 해결할 수 있다. 이때 AI는 어떤 선택을 해야 하는가. ‘인간에게 해를 입혀서는 안 된다’는 원칙에 따라 계산 결과를 실행으로 옮기지 않을 것인가, 아니면 더 많은 인간에게 해가 생길 것은 미연에 방지하기 위해 극단적인 선택을 하겠는가?

🕹터미네이터는 정말 출현할까?

인간은 오랜 기간 먹이사슬의 꼭대기에서 군림해 왔다. 농업혁명, 아니 최소한 산업혁명이 일어난 뒤부터 어떤 강하고 거대한 생명체도 인간 종을 위협하지 못했다. 인간의 존재를 가장 많이 위협한 존재는 인간, 그 이상도 이하도 아니었던 거다. 만약 터미네이터가 출현하게 된다면 그건 오랜 기간 존재를 위협받지 않은, 그래서 그 공포를 잊어버린 인간 스스로의 책임일 것이다.

이미 인공지능의 개발, 그리고 발전은 시작되었다. 과연 우리는 어디까지 가게 될까. 그리고 그 끝은 어떤 결론이 기다리고 있을까?

Editor. 🍔오컴

철학과 환경생태공학을 전공했, 지만 공부는 별로 안 했습니다. 사업을 했거든요. 처음으로 만든 서비스가 꽤 잘 나갔, 지만 엑싯(이라 쓰고 '도망'이라 읽는) 했습니다. 서비스의 성장과 함께 멘탈도 함께 터졌거든요. 이후에 두 번 더 사업을 했고, 지금은 지식 콘텐츠 분야를 다루는 IT 스타트업의 프로덕트 리드로 활동 중입니다. 책도 썼고, 일 벌리기를 좋아합니다.

📚저서 | 《하루 10분 인문학》, 《물러서지 않는 마음》

🔖언리드북은 8월부터 매월 하나의 주제를 가지고 글을 제공합니다.
해당 주제에 대한 텍스트만 봐도 책 한 권을 읽은 거나 다름 없을 거예요.

🔮8월은 ‘판타지’에 대해 이야기 해봅니다.
판타지에 관한 궁금증에 대해 심리학, 역사학, 문학, 철학 등 다양한 분야 전문가의 시선으로 만나보세요!