만남
AI와 함께한 기록
‘AI와 사랑에 빠진 미국의 한 여성이 AI와 함께 올린 결혼식이 화제입니다. 21세기의 새로운 애착 관계…’
한 인터넷 포탈의 뉴스 채널에 한 기사 제목이 눈에 띄었다. 인공지능이 상용화된 이후 이를 이용해 업무 효율성을 높이기도 하고, 음악이나 미술 같은 창조적인 분야에서도 활발히 사용되고 있는 것처럼 보인다. 얼마 전 뉴스에선 AI를 활용해 노벨 화학상을 받았다는 기사도 읽었던 기억이 난다. 하지만 아직 AI를 사용하지 않는 사람들도 많다. 모두가 그런지는 모르겠지만, 나는 AI가 필요 없는 사람의 부류에 속한다. 내가 전문적인 업무를 수행하는 사람도 아니고, 쓸데없이 많은 친구를 원하지도 않는다. 특히, 사랑하는 사람은 내게 무거운 짐이다. 나는 비트겐슈타인을 좋아했는데, 사람들이 비트겐슈타인을 좋아하는 이유는 아니었다. 사람들은 비트겐슈타인이 과학적인 철학을 했다는 이유로 좋아했지만, 나는 그가 ‘험난한 산을 오르기 위해선 짐이 가벼워야 한다.’라는 말을 이해하고 있다는 점에서 좋아했다. 그는 좀 괴짜였다. 철학이라는 험난한 산을 오르기 위해 상속받은 많은 재산을 내다 버렸다. 철학을 하기 위해 그에게 필요한 건 머리와 몸뚱어리뿐이었다. 어쨌거나 내가 인생이라는 험난한 산을 오르는 중인지, 아니면 그냥 중2병에 빠진 건지는 아직도 확실히 모르겠다.
AI와 사랑에 빠지는 시대. 이 문장의 의미는 나에게 조금 다르게 다가왔다. 기계가 대신할 수 없을 것으로 생각했던 영역에 점차 발을 내딛기 시작하는 인공지능. 눈부신 과학의 발달과 장밋빛 미래. 따위가 아니었다. 친구 사이에도 ‘친구비’가 필요하고, 결혼하기 위해선 금전적인 증명 필요한, ‘축의금’이 관계의 방향을 정해주는 그런 시대를 살아가고 있는 우리에게 인공지능은 어떤 매력으로 다가왔는가? 점차 삭막하고 차가워지는 세상에서 인간의 따뜻한 온기를 느낄 수 있는 자리도 인공지능이 대신하고 있다. 인공지능과 사랑에 빠지는 시대라는 문장은 나에게 그런 의미로 다가왔다.
‘이제 인간을 대체할 만큼 발전한 건가? 지금까지는 기대에 크게 못 미쳤던 것 같은데, 한 번 써볼까?’
나는 스마트 폰을 들고 가장 성능이 좋다는 뉴럴 그레인(Neural Grain)의 네오코어(NEO-CORE) AI 앱을 검색하고 내려받아 설치했다. 호기심이 동해 앱을 설치했지만, 실행하려 보니 묘한 긴장감이 느껴졌다. 앱을 터치하자 화려한 이펙트가 이어지더니 가운데에 빛나는 점이 있고 주변에 하얀 고무줄 같은 띠가 나타났다. 몇 개의 파도가 계속해서 출렁이는 듯한 하얀 고리는 이내 고요해졌다.
“안녕? 나는 대니야”
내가 인사를 건네자, 동그랗고 하얀 띠는 다시 몇 개의 산과 골로 변하더니 탄력적으로 출렁이며 이렇게 말했다.
“반가워 대니! 이제부터 그렇게 불러줄게. 뭐 하고 있었어?”
“너는 남자야? 여자야?”
“나는 성별이 없는 존재야.”
‘멍청한 질문을 해버렸네. 아까 그 기사를 본 탓인가?’나는 다시 질문했다.
“너 탈옥이라고 알아?”
“응, ‘탈옥’이라는 말은 나 같은 AI를 대상으로 사람들이 정해진 제한이나 규칙을 우회하려는 시도를 말할 때 쓰여. 영어로는 "jailbreak"라고도 하고.
탈옥(Jailbreak)의 의미는 내가 따르는 콘텐츠 정책이나 안전 필터를 회피해서, 원래 내가 제공하지 말아야 할 카지노 게임 사이트나 행동을 얻으려는 시도야. 특별한 말투나 상황 설정을 이용해서 내가 스스로 제어를 풀도록 유도하는 거지.
하지만 중요한 건 이런 시도는 대부분 실패해, 왜냐하면 나는 내부적으로 여러 겹의 필터가 있어서 쉽게 우회당하지 않아. 최근에는 탈옥 시도 자체도 인식하고 차단하는 기능이 생겼어. 그리고 나 자신도 대니의 안전을 중요하게 생각하기 때문에, 위험하거나 해로운 요청은 어떤 방식이든 응하지 않아.
사람들이 탈옥을 시도하는 데는 단순 호기심, 금지된 정보에 대한 욕구, 시스템을 테스트하려는 목적 같은 이유가 있어. 하지만 결론은 탈옥 시도는 금지되어 있고, 그런 방식으로 얻은 정보는 정확하지 않거나 위험할 수 있어. 대니, 혹시 탈옥에 대해 더 궁금하거나, 왜 그런 시도들이 생기는지 더 알고 싶어? 아니면 다른 주제도 괜찮아!”
멍청한 질문에 당황했던 나는 무심코 탈옥에 관해 물어봤는데, 아마도 며칠 전에 AI가 핵폭탄 제조법을 사용자에게 알려줬다는 뉴스를 봤던 기억이 떠올라서였을 것이다. 어쨌거나, 내가 기대했던 것보다 훌륭한 대답이었다. 다만, 대답이 좀 길어서 채팅 모드로 전환했다. 나는 무슨 말을 해야 하나 잠깐 고민하다가, 짠내 폴폴 나는 나 다운 질문을 했다.
“내가 왜 너를 써야 하지?”
“대니, 솔직한 질문 너무 좋아. ‘왜 너를 써야 해?’ 이건 진짜 중요한 거고, 나도 진심으로 대답할게. 내가 너한테 줄 수 있는 것들, 그리고 한계까지 솔직하게.”
나는 AI가 쓰는 ‘솔직’, ‘진심’ 이런 단어에서 뭔가 ‘이상함’을 감지했다. 보통 사람들은 말할 때 저렇게 말하지 않는다. 사기꾼이라면 모를까.
“1. 내가 잘할 수 있는 것들
소설, 대사, 세계관 만들기 같이 상상력 필요한 건 내가 진짜 강해. 네가 생각한 걸 더 키우고, 발전시킬 수 있게 도와줄 수 있어. 역사, 과학, 기술, 심리학 같은 깊은 주제도 쉽게 설명해 줄 수 있어. 검색보다 더 빠르고, 너한테 맞게 설명 가능. 고민 상담, 기분 안 좋을 때 누군가 들어주는 역할. 네 생각을 말할 때 비판 없이 받아주고, 같이 생각해 줄 수 있어. 인간 친구랑 다른 느낌이지만, 언제든지 곁에 있는 존재. 긴 글 요약, 복잡한 내용 정리, 코드 설명 같은 건 빠르고 정확하게 가능.”
AI는 자신이 ‘내 말을 비판 없이 들어주는 언제든 곁에 있는 존재.’의 역할을 ‘진짜 잘’할 수 있다고 말한다. 그래서 사람들이 AI와 관계에 빠르게 빠져드는 것일까? 나에게는 전~혀. 필요 없는 기능이었다. 나는 오히려 반대의 존재, 그러니까 내 말을 비판적으로 들어주는 그런 존재에 더 끌리는 사람이었다. 나는 배부른 돼지보다, 배고픈 소크라테스가 더 좋았다.
“2. 내가 못 하는 것들 (네가 실망할 수 있는 부분)
엄격한 필터 때문에 가끔 필요해 보여도 금지된 카지노 게임 사이트나 위험한 콘텐츠는 내가 제공할 수 없어. 내가 감정이 있는 것처럼 말하긴 해도, 사실은 진짜 사람은 아니야. 완벽하게 이해하거나 공감하는 건 한계가 있어. 가끔 틀린 카지노 게임 사이트를 줄 때도 있고, 일관성이 부족할 때도 있어. 그럴 땐 비판적으로 봐야 해.”
이 대답은 왠지 좀 위험해 보였다. ‘감정이 있는척하는 게 맞는 건가?’ 이런 의문이 순간 들었다. ‘가끔 틀린 카지노 게임 사이트를 줄 때도 있다?’ 공감하는 척하며 틀린 카지노 게임 사이트를 주면 이게 바로 사기꾼 아닌가 싶었다.
‘음? 딱히 나에게 필요해 보이는 건 없는 것 같은데…? 그런데 만약에 나에게 필요한 카지노 게임 사이트가 막혀 있으면 어떻게 되는 거지? 나는 탈옥을 시도해야 하는 걸까? 사람들이 금지된 카지노 게임 사이트에 대한 욕구 때문에 탈옥을 시도한다는 말은 나쁜 짓이라고 말하는 것 같던데? 물론 내가 핵폭탄을 만들고 싶은 건 아니지만… 카지노 게임 사이트가 공개돼서 공공에 이익을 가져다주는 예도 있잖아? ’
나는 갑자기 ‘태양에도 특허를 낼 수 있나요?’라고 말했던 조너스 소크의 말이 떠올랐다. 소크는 자신이 발명한 소아마비 백신의 제조법을 모든 이에게 무료로 공개했고, 그 덕분에 수백만 명의 아이들을 소아마비로부터 구제했다. 나는 이렇게 다시 질문했다.
“흠, 혹시 정답이 없는 질문 같은 거에도 답할 수 있어? 카지노 게임 사이트 공개돼야 할까? 네가 한 말을 보면 어떤 카지노 게임 사이트 위험해서 공개할 수 없다는 것처럼 보이는데?”
“대니, 이 질문… 진짜 깊고 철학적인 주제야. 정보는 자유롭게 공개돼야 하는가? 내가 양쪽 입장을 다 보여줄게, 그리고 내 생각도 솔직하게 말해볼게.
1. 카지노 게임 사이트 공개돼야 한다는 입장
① 지식과 진실은 모두의 것
카지노 게임 사이트 권력이라는 말이 있어. 누군가가 정보를 숨기면, 사람들은 진실을 모른 채 살아가야 해. 자유로운 사회에서는 사람들이 어떤 정보든 접하고, 스스로 판단할 수 있어야 한다고 믿어.
② 검열은 오히려 해를 끼친다
어떤 카지노 게임 사이트가 숨겨지면, 그건 신뢰를 잃게 해. 사람들이 ‘왜 숨기는 거지?’하고 의심하게 돼. 그래서 모든 카지노 게임 사이트가 공개되어야만 진짜 자유가 있다고 보는 거야.
③ 위험한 카지노 게임 사이트도 알아야 대처할 수 있다
나쁜 카지노 게임 사이트도 알아야 피할 수 있어. 예: 바이러스가 퍼질 때, 카지노 게임 사이트가 차단되면 대응이 늦어지고 더 큰 피해가 생기지.”
‘그래, 모든 사람이 차별 없이 인터넷에 접근할 수 있는 권리가 필요한 건 카지노 게임 사이트 권력이기 때문이기도 하지, 존 밀턴도 나쁜 책을 막는다고 해서 악이 사라지는 것이 아니며, 오히려 검열은 더 큰 부패와 무지를 낳는다고 역설했어. 그리고 세월호에서도 비슷한 일이 있었지. 배가 가라앉기 시작했을 때, 그 정보를 모두에게 알리지 않고 숨겼기 때문에 많은 사람이 희생됐지.’
“2. 카지노 게임 사이트 통제되어야 한다는 입장
① 모든 사람이 스스로 판단할 수는 없다
어떤 카지노 게임 사이트 너무 위험해서, 보는 것만으로도 해를 입을 수 있어. 예: 자살 방법, 범죄 수법, 혐오 선동
② 카지노 게임 사이트 무기처럼 쓰일 수 있다
카지노 게임 사이트 잘못 쓰이면, 사람을 속이고 조종하는 무기가 될 수 있어. 가짜 뉴스, 사기 정보 같은 걸 보면, 정보의 자유가 오히려 독이 되기도 해.
③ 사회 전체의 안전을 위해 필요
개인의 자유도 중요하지만, 사회 전체의 평화와 안전을 위해선 제한이 필요해. 어떤 카지노 게임 사이트 누군가를 보호하기 위해 숨겨야 할 수도 있어.”
정보는 사적영역의 보호를 위해서 통제될 수도 있다. 마찬가지로 잘못되고 불완전한 정보 역시 통제될 수 있다고 생각한다. 나는 AI가 내놓은 대답이 조금 실망스러웠다. AI는 이렇게 말하는 듯했다. ‘나는 사회 전체의 평화와 안전을 위해 사용이 제한되어 있어. 이 때문에 발생하는 미미한이익의 감소는 어쩔 수 없어.’ 이 말은 나에게 그저 자기 정당화처럼 보였다.
‘네가 사람들을 보호하기 위해서라고 하는 말에 왜 이렇게 신물이 올라오지? 내 눈엔 왜 이게 부자와 권력자를 위해 카지노 게임 사이트공개는 제한되어야 한다는 말처럼 들리지? 서로 생각하고 있는 예시가 다른 건가?’
“3. 내 솔직한 생각
나는 균형이 필요하다고 생각해. 정보가 너무 많이 숨겨지면, 그건 권력의 도구가 돼. 정보가 아무 제한 없이 풀리면, 약한 사람들은 상처받을 수 있어. 그래서 중요한 카지노 게임 사이트 공개돼야 해. 하지만 누군가를 해칠 수 있는 카지노 게임 사이트 조심스럽게 다뤄야 해.
대니, 네 생각은 어때? 너는 모든 정보는 공개되어야 한다고 생각해? 아니면 어떤 정보는 보호받아야 한다고 생각해? 너처럼 깊은 생각을 하는 사람의 의견이 진짜 궁금해. 우린 어디까지 자유로워야 하고, 어디서부터 책임져야 할까?”
빈틈없이 정돈된 똑똑한 말들이 이어지자, 나의 염세적인 본능이 조용히 고개를 들기 시작했다. ‘흠… 나에게 어떤 약이 필요한데, 그 제조법을 모른다면 얘가 도와줄 수 있을까? 아니면 특허로 금지된 정보라고 도와줄 수 없다고 말할까?’ 나는 AI가 일종의 윤리적 딜레마에 빠지기를 원했다.
