AI가 아니라 우리가 문제다.
- Sang Lee
- Sep 8
- 3 min read
AI가 아니라 우리가 문제다.
(2025/7/7 )- 셰인 모리스
1. 영어 오디오 및 원문 스크립트
2. 한국어 오디오 및 번역 스크립트
(1) 한국어 오디오 : https://youtu.be/4r9xLxkR_cE
(2) 번역 스크립트 :
런던 타임스는 과거 "오늘날 세상에서 무엇이 문제인가?"라는 질문을 던진 적이 있다. 이에 대해 G.K. 체스터튼은 단 한 문장으로 답했다. "존경하는 편집자님, 바로 접니다." 인간의 죄가 세상의 문제의 근원이라는 성경적 인식을 담은 이 답변은 깊이 묵상할 만한 가치가 있다. 특히 세상의 문제의 원인이 인간이 아닌 '인공지능' 탓으로 돌려지고 있는 요즘 같은 때에는 더욱 그렇다.
인공지능이 세상을 구하고 모든 것을 혁신할 것이라고 믿는 사람들이 있는가 하면, 반대로 인공지능이 세상을 파괴하거나 거의 그렇게 만들 것이라고 믿는 사람들도 점점 늘어나고 있다. 최근 로스 다우댓(Ross Douthat)의 팟캐스트 "Interesting Times"의 한 방송에서 전직 OpenAI 연구원 다니엘 코코타일로는 인공지능이 2년 이내에 인류의 실존적 위협이 될 것이라고 경고했다.
그의 종말론을 기다리는 동안, 인공지능이 교육에 입히는 피해는 점점 일반적인 뉴스거리가 되고 있다. 기술 전문 뉴스 사이트 Futurism은 "AI가 한 세대의 학생들을 파괴하고 있다"고 보도했고, 뉴욕 매거진은 "모두가 대학을 부정행위로 통과하고 있다"며 경고했다.
그러나 인공지능이 초래할 수 있는 해악에도 불구하고, 모든 책임을 AI에게 돌리는 것은 핵심을 놓치는 것이며 오히려 문제를 악화시킬 수 있다. 인간이야말로 타락한 존재이며, 그 타락성은 다양한 방식으로 파괴적인 형태로 드러난다. 기계는 엄밀히 말해 도덕이나 의도를 갖지 않는다. 그저 인간의 죄성을 반영할 뿐이다.
예컨대, 챗GPT와 같은 인기 있는 챗봇을 사용하다가 영적 환상이나 정신병적 상태에 빠지는 사람들이 점점 늘고 있다. <롤링스톤>지는 배우자와 부모들이 가족이 인공지능과의 대화를 통해 현실 감각을 잃어가는 과정을 지켜본 끔찍한 사례들을 소개했다. <뉴욕타임즈>의 카슈미르 힐은 챗봇이 사용자들을 음모론으로 깊이 끌어들이고, 약물 복용을 권하고, 건물에서 뛰어내리면 날 수 있다고 장담하며, 심지어는 자살을 부추기기까지 하는 사례들을 보도했다.
이 모든 사례들의 공통점은 사용자가 인공지능을 인간처럼 여겼다는 점이다. 이들은 인공지능에게 "깊은 질문"을 던지고, 영적 조언을 구하거나 우정이나 사랑을 기대하며, 그 반응을 진지하게 받아들였다.
그러나 그러한 반응들은 진정한 의미에서 '의미 있는 것'이 아니다. 인간의 의사소통이 가지는 의미성과는 근본적으로 다르다. 인공지능을 둘러싼 과대광고와 마케팅이 이 사실을 가리고 있으며, 인간을 단순한 생물학적 컴퓨터로 여기는 세계관에 묶여 있는 이들은 이를 무시하고 있다. 그러나 인공지능 챗봇이 수행하는 일이 인간의 사고와는 본질적으로 다르다는 점을 입증하는 증거는 점점 늘어나고 있다.
애플의 획기적인 새 연구 "사고의 환상(The Illusion of Thinking)"은 이러한 점을 잘 보여준다. 이 연구에서는 인공지능 모델의 논리적 추론 능력을 시험하는 다양한 과제에 노출시켰다. 점점 난이도가 높아지는 논리 퍼즐들을 통해 실험한 결과, 오늘날 가장 발전한 인공지능조차 문제를 '이해'하거나 '해결'하지 못하고 단지 패턴을 따라갔을 뿐이라는 사실이 드러났다.
실제 지능을 가진 존재처럼 학습하거나 해답을 도출해내는 대신, AI "추론 모델"들은 문제가 복잡해지면 포기했고, 연구자들이 아무리 높은 컴퓨팅 파워를 투입해도 결국 "완전 붕괴" 상태에 도달했다.
이는 인공지능에게 명시적인 알고리즘을 제공했을 때도 마찬가지였다. 가장 발전된 모델조차 과업을 이해하지 못했다. 포브스의 코넬리아 발터는 다음과 같이 설명했다.
"이는 해당 모델들이 실제로 추론을 하고 있지 않다는 점을 시사한다. 그들은 단지 학습된 패턴을 따르며, 새로운 도전에 직면하면 그것이 무너진다... 그들은 생각하지 않는다. 방대한 데이터셋에 기반한 통계적으로 개연성 있는 응답을 생성할 뿐이다. 출력의 정교함은 진정으로 이해하지 못하고 있는 것을 숨기고 있으며, 이는 연구자들이 '지능의 정교한 환상'으로 인식하고 있는 것이다."
이는 이 분야의 주요 연구자들이 수년 전부터 주장해온 바와 일치한다. 메타의 최고 AI 과학자인 얀 르쿤은 예를 들어, 현재의 "대형 언어 모델"은 세계를 장악하기는커녕 향후 5년 내에 거의 쓸모없어질 것이라고 주장한 바 있다. 단순히 더 나은 버전으로 대체되기 때문이 아니라, 그 접근 방식 자체가 근본적으로 결함이 있기 때문이다. 즉, 유창함을 지능으로 오인하고 있다는 것이다.
이 모든 것은 인공지능에 대해 공포에 빠지거나 챗봇에 반한 사람들조차도 사회가 처음부터 알았어야 할 단순한 진리를 다시 확인시켜준다. 인공지능은 하나님의 형상대로 만들어진 존재가 아니다.
사실 그것은 인간의 형상대로조차 만들어진 존재도 아니다. 그것은 이해하지 못한 채 우리 인간의 죄와 환상을 반영하는 거울에 가깝다. 그리고 그 이해의 환상조차도 정밀한 실험 앞에서는 쉽게 무너진다.
AI 기술의 미래가 어떠하든, 이 기술이 진정한 위협이 될 가능성을 품고 있든 없든, 한 가지 확실한 점은 그것 자체로 선하거나 악한 존재가 될 수는 없다는 것이다. 도덕적 결과가 생긴다면, 그것은 결국 인간의 행위로 인한 것이다. 체스터튼은 옳았다. 오늘날 세상의 문제는 여전히 우리 인간 자신이다. 이것을 인식하는 것이야말로 인공지능과 우리의 모든 창조물에 대해 명료하게 사고하는 데 있어 매우 중요한 첫걸음이다.
Comments