인공지능을 중단시켜야만 하는가?
1. 영문 오디오 및 원문 스크립트
2. 한국어 오디오 및 번역 스크립트
(1) 한국어 오디오: https://youtu.be/W155J9KeBRM
(2) 번역 스크립트
최근 일론 머스크를 포함한 기술 관련 산업의 수많은 유명 인사들이 인공지능에 관한 모든 연구를 6개월간 중단할 것을 촉구하는 공개 서한(a)에 서명했다. 인공지능 이론가인 엘리저 유드코프스키는 이것만으로 충분하지 않다고 본다. 타임지에 쓴 사설(b)에서 그는 "모든 것을 중단할 필요가 있다.(c)"고 주장하면서 다음과 같이 직설적으로 언급했다.
“나뿐 아니라 이 문제에 집중하고 있는 연구자들은 초인적으로 스마트한 인공지능을 만들면 나타날 가장 가능성이 높은 결과는 지구상의 모든 사람이 실제로 다 죽는 것이라고 예상한다. "아마도 가능성이 크지는 않지만 있을 수는 있다"가 아니라 "그렇게 될 것이 분명하다."”
유드코프스키는 공황 상태에서의 어조로 미국과 같은 국가들이 "대규모 AI 훈련의 위험을 줄이기 위해 필요하다면" 핵 전쟁의 위험도 기꺼이 감수해야 한다고 제안하기까지 했다.
많은 전문가들은 인공지능의 현재 상태가 최신 아이폰으로 업그레이드하는 것보다는 원자력을 최초로 수집하는 것에 더 가깝다고 제안한다. 과거 컴퓨터가 단순히 데이터를 분류한 반면, 최신 버전의 인공지능은 수백만 명의 사람들이 사용하는 단어의 맥락을 이해할 수 있는 능력이 있어 문제를 해결하고, 미래 결과를 예측하고, 지식을 확장하고, 잠재적인 조치를 취할 수 있다.
이러한 비평가들은 그 가능성이 인공지능의 의식이 어떻게든 "깨어나게" 하는데 국한되지 않는다고 제안한다. 소위 "Paper Clip Maximizer (d)"로 불리는 잘 알려진 사고 실험에서는, 강력한 인공지능한테 윤리적인 안전장치가 없이 "가능한 한 많은 종이 클립을 생성"하라는 간단한 작업이 주어진 시나리오를 설명한다. 인공지능은 가장 효율적인 방법으로 그 작업을 진행하기 위해 우리를 인터넷에서 차단하고, 전체 산업을 통제하고, 지구의 자원을 그 단일 목표에 바치기로 결정할 수 있다. 만약 이를 달성하는 방법을 바로 알고 있지 않다면, 지구상의 모든 생명체들에게 해를 끼치는 종이 클립을 가장 많은 생산하라는 목표를 실행하는 방법을 배울 수 있을 것이다. 인터넷이 어디에나 있고, 전 산업이 자동화되고, 기업들이 점점 더 강력한 인공지능을 개발하기 위해 경쟁하는 시대에 무시무시하지만 실현 가능해 보이는 시나리오이다.
인공지능이 제기하는 진짜 위험은 잠재력이 아니다. 그것은 윤리의 결여이다. 우리의 과학과 기술이 "우리가 무언가 할 수 있다면 그 일을 해야만 한다"는 식의 윤리적 추론의 지도를 받을 때, 더 크고 더 빠른 것은 더 좋은 것이 아니다. 수년 전, 신학자이자 윤리학자인 피터 크리프트는 우리의 윤리를 능가하는 기술의 현실을 지적했다(e). "우리 장난감이 활과 화살로부터 열핵폭탄으로 발전되는 동안 우리는 도덕적으로는 어린아이가 되었다.”
옳고 그름과 인간이 무엇을 의미하는지에 대한 질문은 인공지능의 윤리에 필수적이다. 악의나 부주의로 설계된 우리 기술의 파괴적인 능력은 인공지능이 타락했다는 증거가 아니라 우리가 타락했다는 증거이다. 크리프트 박사가 썼듯이, 열핵무기 같은 기술은 "역사상 모든 도덕주의자, 설교자, 예언자, 성인, 현자들이 할 수 없었던 것을 달성한다. 미덕의 실천이 생존을 위한 필수품이 되게끔 만든 것이다.(f)"
동시에 기독교인들은 결코 숙명론에 빠져서는 안 된다. 엘리저 유드코프스키와 같은 무신론자에게, 보다 우월한 지각 있는 존재에게 멸종될 위협은 가능한 것과 피할 수 없는 것 사이에 있다. 무신론적 자연주의가 선언하는 것처럼 현실에서의 이야기가 적자생존이라면, 인공지능은 가장 높은 곳에서 인간의 자리를 차지하기 위해 완벽하게 맡겨진 것처럼 보인다. 잔혹한 지능과 능력 말고 "인간성"에 대한 더 나은 정의가 없다면, 인공지능은 인류를 대체할 운명인 새롭고 폭력적인 잠재력을 가진 (니체가 언급한) 초인(g)이 된다.
기독교인들은 이것이 이야기의 끝이 아니라는 것을 알고 있다. 우리는 큰 악을 행할 수 있지만, 우리보다 더 위대한 분께서 역사의 키를 잡고 계시다. 기독교는 윤리적, 목적론적인 기술적 비전을 기반으로 할 수 있다. 인공지능은 버릴 이상도 아니고, 어떤 대가를 치르더라도 추구해야 할 유토피아적 꿈도 아니다. 오히려, 모든 기술과 마찬가지로, 윤리적 기반을 공유하면서 인간 가치, 존엄성, 예외주의에 대한 정확한 비전을 가지고 통제해야 하는 강력한 도구이다.
물론, 그 비전은 우리가 뛰어난 지성과 사랑과 지혜를 가진 누군가에 의해 창조되었을 때에만 진리가 된다.
이 브레이크포인트는 케이시 리앤더와 공동으로 작성했다. 이 문화적인 순간에 그리스도인답게 살 수 있는 더 많은 자료를 보려면 colsoncenter.org를 방문하기 바란다.
#인공지능#기독교세계관#일론머스크#윤리#기술#ArtificialIntelligence#ChristianWorldview#ElonMusk#Ethics#Technology
Comments