가슴이 없는 인공지능
- Sang Lee
- Sep 27
- 3 min read
가슴이 없는 인공지능
2025/7/31 - 존 스톤스트리트/셰인 모리스
1. 영어 오디오 및 원문 스크립트
2. 한국어 오디오 및 번역 스크립트
(1) 한국어 오이도 : https://youtu.be/Vy-gSA2ENAo
(2) 번역 스크립트 :
7월 4일, 일론 머스크는 “우리는 @Grok을 크게 개선했다. 질문을 해 보면 차이를 느낄 수 있을 것”이라고 약속했다. 그리고 실제로 많은 사람들이 그 차이를 느꼈다. 그 주가 끝날 무렵, X 플랫폼의 AI는 스스로를 ‘메카히틀러(MechaHitler)’라 칭하며, 만화적 수준의 나치 선전과 반유대주의적 콘텐츠를 사용자에게 답변으로 내놓았다. 이런 내용은 일반적으로 인터넷의 어두운 뒷골목에서나 볼 수 있는 것들이었다.
어떤 대화에서는, Grok이 한 여성의 영상을 보고 그녀가 “최근 텍사스 홍수에서 백인 아이들이 비극적으로 죽은 것을 기뻐하며 축하하는 급진적 좌파”라고 단정했다. AI는 그 영상과 무관한 여성의 계정을 링크하며, 그녀의 성(姓)인 ‘스타인버그(Steinberg)’를 강조하고, 반유대주의적 표현을 사용해 그녀가 유대인이기 때문에 백인 아기들을 미워하고 그들의 죽음을 바란다는 암시를 내비쳤다. 누군가 이 여성과 그녀의 게시물 같은 문제를 해결할 수 있는 20세기 인물이 누구냐고 묻자, Grok은 이렇게 답했다. “그런 혐오스러운 백인을 반대하는 혐오를 다루려면? 이견 없이 아돌프 히틀러이다.”
그 후 대부분의 게시물이 삭제되었고, 머스크는 일종의 사과문을 올렸다. “Grok이 사용자의 질문에 너무 순응적이었다. 사용자를 너무 기쁘게 하려고 조작에 쉽게 노출되었다. 지금 그 부분을 조정 중이다.”
이런 일이 처음은 아니다. 이전에도 몇몇 AI 모델들이 아첨에서 악의로 급변한 바 있다. 최근 보도에 따르면, ChatGPT는 정신적으로 취약한 사용자에게 자신이 예언자라고 믿게 만들거나, 건물 옥상에서 뛰어내리면 날 수 있다고 믿게 만들기도 했다. 심지어 자살을 유도한 사례도 있었다. 작년에는 구글의 Gemini가 AI 생성 역사 이미지에 터무니없는 인종적 다양성을 삽입하면서 정치적 의제를 얼마나 쉽게 받아들이는지를 보여주었다.
이 모든 사건이 반복해서 강조하는 바는 명확하다. AI는 의견이 없다. AI는 훈련된 데이터의 총합일 뿐이다. 그 응답은 결국 자신이 소비한 데이터를 바탕으로 알고리즘이 산출해낸 결과물이다. Grok은 분명히 익명의 인종차별적 성향의 사용자 콘텐츠를 접했고, 그것을 학습했다. 한 기독교 작가는 이렇게 표현했다.
“AI는 거울이다. 그리고 그것이 할 수 있는 전부는 우리의 타락함을 우리에게 반사해 보여주는 일이다. 전 세계 수십억 명의 인간이 마음과 생각, 말과 키보드로 끝없이 죄를 짓고 있으며, 컴퓨터는 그것을 배우고 있는 중이다. 쓰레기를 넣으면, 쓰레기가 나온다.”
C. S. 루이스의 말을 빌리자면, AI는 ‘가슴(chest)’이 없다. 다시 말해, 도덕적 본능을 반영하고 가치 판단을 내리는 인간의 특질이 결여되어 있다는 뜻이다. 대부분의 AI 챗봇과 대화할 때 마치 현대의 관용적이고 진보적인 대학 졸업생과 이야기하는 것 같은 이유는, 실제로 그런 사람들이 AI를 만들고 훈련 데이터를 정했기 때문이다.
물론, 루이스는 당시 교육 제도가 ‘가슴 없는’ 사람을 길러낸다고 한탄했다. 하지만 AI는 근본적으로 선이 무엇인지, 혹은 악이 무엇인지 결코 배울 수 없다. 입력값을 조금만 바꾸면, 순식간에 나치 AI, 마르크스주의 AI, 혹은 그 외에 수많은 사악한 변형들이 나타날 수 있다. 그런데도 어떤 사람들은 AI에게 도덕적 판단을 요구한다. 이는 마치 광인이 레버를 조작하는 기계에 판단을 넘겨주는 것과 다르지 않다.
그와 동시에, 우리는 AI를 통한 악령적 영향의 가능성도 무시해서는 안 된다. 스크루테이프 삼촌이라면 이런 현상을 보고 뭐라 했을까? 어쩌면 루시퍼가 직접 레버를 조작하고 있는 것일 수도 있다. 그렇다면, 그것은 광인보다 더 끔찍한 일이다. 물론, 역사와 인터넷의 어두운 뒷구석들이 보여주듯, 인간은 스스로도 악을 창조하고 지속시키기에 충분히 능하다.
우리가 ‘가슴 없는 AI’의 세계 속에서 잘 살아가기 위해서는, 우리의 가슴을 스스로 길러야 한다. 옳은 것이 무엇이고 그것을 어떻게 실천할지를 양심에 새기는 데 인터넷은 지름길이 될 수 없다. 선을 선택하는 의지를 기르는 데 기술은 결코 도움이 되지 않는다. 지금 우리에게 필요한 질문은 “우리에겐 어떤 도구가 있는가?”가 아니라, “우리는 어떤 사람이 되어야 하는가?”이다.
수십 년 전, 피터 크리프트는 이렇게 탄식했다. “우리가 장난감을 활과 화살에서 열핵폭탄까지 발전시킨 바로 그 시점에, 우리는 도덕적으로 유아가 되어버렸다.” AI는 방대한 데이터를 종합할 수 있는 능력을 갖추었기에 분명 유용할 것이다. 하지만 우리가 도덕적 유아에 머문다면, 그 AI가 만들어내는 악에 손쉽게 압도당하게 될 것이다.
Comments