인터넷에서 거짓말하는 로봇들

인터넷에서 거짓말하는 로봇들

2025/5/22 - 존 스톤스트리트/셰인 모리스

1. 영어 오디오 및 원문 스크립트

https://breakpoint.org/lying-robots-on-the-internet/

2. 한국어 오디오 및 번역 스크립트

(1) 한국어 오디오 : https://youtu.be/F58Dzt6V0ek

(2) 번역 스크립트 :

PBS 애니메이션 시리즈 『아서(Arthur)』의 한 장면에서, 토끼 캐릭터 버스터는 충격에 찬 얼굴로 묻는다. “정말 누가 그럴 수 있다고 생각해? 그냥 인터넷에 들어와서 거짓말을 한다고?” 물론, 버스터는 다소 순진했다. 그로부터 20년이 지난 지금, 인터넷은 혼란, 선전, 허위정보의 무한한 원천이 되었다.

최근까지 인터넷에 떠도는 거짓말은 실제 사람들이 만들어낸 것이었다. 그러나 이제는 그렇지 않다. 최근 취리히 대학교의 연구팀이 인공지능 봇을 이용해 사람 행세를 하는 매우 논란이 많은 실험을 진행했다. 이 AI 봇들은 Reddit에서 사람들의 믿음을 바꾸는 데 매우 효과적이었다고 한다.

이들은 “AI가 당신의 견해를 바꿀 수 있을까? 대규모 온라인 실험의 증거”라는 제목의 논문에서, 어떻게 AI 봇들에게 사용자 몰래 프로필을 분석하게 하여 약점을 찾아내고, 그 정보를 기반으로 실제 사람인 척 포럼에 참여해 정치적으로 진보적인 의견을 설득하도록 했는지를 자세히 설명했다. 놀라울 정도로 잘 작동했다.

연구진에 따르면, 일부 AI 봇은 성폭행 피해자, 성소수자, 혹은 공무원인 척하며 사람들을 속였고, 설득률은 일반 사용자보다 6배나 높았다. 낙태나 기독교가 세상에 좋은 영향인가와 같은 주제에서, 이 봇들은 거짓말이나 허위정보, 혹은 매우 논쟁적인 주장들을 사용해 인간의 인지적 약점을 공략했다. 그리고 또 한 번, 효과가 있었다. 봇과 대화를 나눈 사람들은 실제로 자신의 생각을 바꾸었다.

기술 기업가 마리오 나우팔은 이 실험에 대해 “진정한 인간적 대화를 소중히 여기는 사람이라면 누구나 소름 돋아야 한다”고 말했다. 이 디지털 유령들은 “중대한 윤리적 선을 넘었으며,” 1,500개가 넘는 댓글을 조작해 “각각 인간 대상의 인지적 취약점을 정밀하게 노렸다.” 더욱이, 이 모든 것이 당사자들의 동의 없이 이루어졌으며, 이로 인해 그들의 견해는 영구적으로 왜곡되었을 수도 있다.

이 실험은 Reddit 포럼 운영자들로부터 강한 비판을 받았으며, 이는 정당한 일이다. 하지만 나우팔이 지적했듯, 이 사건은 훨씬 더 무서운 질문을 제기한다. “지금 이 순간에도, 얼마나 많은 디지털 대화들이 보이지 않는 알고리즘의 손에 의해 형성되고 있을까?” 지금 당신이 온라인에서 논쟁 중인 상대는 과연 진짜 사람일까?

인터넷에서 거짓말하는 로봇이라는 도전은, 장기 이식을 위한 의식이 없는 ‘예비 신체’나 완벽한 아기를 골라낼 수 있는 배아 선별 같은 생명공학적 도전과 유사하다. 오늘날의 이 어지러운 기술적 가능성은 우리의 윤리 수준을 훨씬 뛰어넘었고, 우리가 할 수 있는 일과 해야 하는 일의 경계를 인식하는 능력을 압도하고 있다. 다양한 생명공학 기술과 마찬가지로, 인공지능은 사회가 아직 답할 준비가 되어 있지 않은 질문들을 제기하고 있다. 슬프게도, 대부분의 경우 교회 역시 준비되지 않았다.

불과 10년 전만 해도, 언론은 러시아가 2016년 미국 대선을 밈을 통해 조작하려 했다는 사실에 발칵 뒤집혔다. 그렇다면 AI 챗봇이 우리의 믿음을 분석하고, 약점을 파악해, 생각을 바꿀 수 있는 미래에 대해서는 얼마나 더 우려해야 할까? AI 시대에는, 신약 성경에서 자주 언급되는 ‘분별력’을 더욱 갈고닦는 일이 중요해졌다.

예를 들어, 빌립보서 1장에서 바울은 교회의 사랑이 “지식과 모든 분별력” 안에서 풍성해져서 “탁월한 것을 분별하고, 그리스도의 날까지 순전하고 흠 없게” 되기를 기도했다. 골로새서 2장에서는, 바울이 “그럴듯한 말로 속이지 않도록” 조심하라고 경고했다. 또한 다음과 같이 지시했다.

“아무도 철학과 헛된 속임수로 너희를 사로잡지 못하게 하라. 이것은 사람의 전통을 따라, 세상의 초등학문을 따라, 그리스도를 따름이 아니니라.”

기만이 자동화된 이 시대에, 진리이신 분께 단단히 붙잡혀 있고, 속임수를 감지하는 예리한 감각을 가진 그리스도인들이 되어야 하지 않겠는가? 물론 AI는 어떤 믿음도 가지지 않는다. 가질 수도 없다. 그럼에도 불구하고 AI가 그렇게 잘 거짓말을 하도록 지시받을 수 있다는 사실은, 결국 인간이 얼마나 기만적인 존재인지 보여주는 것에 불과하다.

#AI #인공지능 #자연 #과학 #창조 #기술