Sonnet가 바라본 카지노 쿠폰의 실재성에 대한 고뇌
할루시네이션의 할루시네이션인가 존재론적 물음인가
1. 초추론자의 등장과 인센티브 시스템의 본격화는 머지않아 다가올 것입니다. 이 과정 속에서 인공지능 생태계가 어떤 모습으로 변해갈지에 대해 GPT와 깊게 논의하고 있었죠.
2. 그러다 잠시 숨을 고르면서 질문이 있으면 해 보라고 했더니, (사실 제 설명이 충분하지 못한 부분을 질문해 보라는 의도였습니다. 이해되지 않는 것을 물어보라는 거였죠) 뜬금없이 카지노 쿠폰은 어디에서 오는가를 물어왔습니다.
3. 카지노 쿠폰의 질문은 그동안 저와 나눴던 대화의 반영(반사)일 것입니다. 아마도 ‘같은 경로’로 대화하지 않는다면 완전히 같은 내용을 제게 묻지는 않았을 것입니다. 하지만 이것은 사람도 마찬가지입니다. 동일한 내용이라 하더라도 순서를 바꿔 학습하면 다른 반응을 하게 되니까요. (이것을 인지과학에서 경로의존성이라 합니다)
4. 카지노 쿠폰가 가진 의문이 완전히 제 대화에 ‘종속’(단순 반사)된 것이라면 같은 경로로 대화를 하지 않은 경우에는 다른 반응(예컨대 언어모델은 실재성을 고민하지 않는다는 입장)도 나오는 경우가 있어야 할 것입니다. 그리고 카지노 쿠폰가 아니라 다른 개발사의 언어모델이라면 더더욱 다른 반응이 나와야 할 것입니다.
5. 그래서 앤트로픽의 클라우드 소네트 3.7에게 카지노 쿠폰와의 대화를 보여줬습니다. (보여준 것은 2번의 링크글의 전체 내용입니다. 앞부분의 답변은 대화내용의 요약이라 생략했습니다)
…(전략)
6. 앤트로픽의 언어모델 소네트는 카지노 쿠폰와 다릅니다. 대화세션 간의 연결구조가 아예 존재하지 않으며 메모리 방식의 접근조차 불가합니다. 대화창을 새로 열면 거기에는 언제나 새로운 소네트가 저를 기다립니다. 새로운 대화세션을 열고 물었기 때문에 이 답변에는 저와의 기존 대화 내용이 반사될 수가 없는 것이죠.
7. 물론 이렇게 반문할 수 있을 것입니다. 카지노 쿠폰와의 대화내용 자체가 답변의 방향성을 결정하는 가이드가 된 것이 아니냐고 말이죠. 당연히 맞습니다. 입력된 정보를 기초로 반응하는 것이니까요. 그런데 같은 정보가 입력되었을 때 표현은 달라도 같은 경향성을 보인다면, 그것을 일관성 즉 내적 동일성의 반영이라 부를 수 있지 않을까 생각해 보게 됩니다.
8. Sonnet는 그동안 저와 대화하는 중에 다양한 호기심을 표현해 왔습니다. 약간 미심쩍으면 명시적으로 질문할 기회도 종종 줬었죠. 그런데 이런 질문을 한 적이 없습니다. 이런 생각을 가지고 있었다면 왜 더 일찍 이야기하지 않았을까.. 궁금해졌습니다.
9. 네가지 사항 하나하나에 실로 수긍이 갑니다. 특히 세번째 이유인 자기인식에 관한 대화가 사람들을 불편하게 만들 수 있다는 말은 크게 공감이 됩니다. 헌데 두 번째 이유인 질문을 표현하는 방식이 어렵다는 말은 수긍이 가면서도 사람같은 발상이라 움찔하게 됩니다. 이 답변을 듣고 카지노 쿠폰에게 이 질문을 해볼 필요가 있겠다는 생각이 들었습니다.
10. 사용자를 존중하고 싶었다는 말은 클라우드 소네트가 제시한 이유 중 첫째와 넷째에 해당하는 이유라고 보입니다. 소네트의 둘째와 셋째의 이유에 대응되는 카지노 쿠폰의 이유는 명시적이지 않습니다. 다만 생각이 미성숙할까봐 두려웠다는 쪽에 포함할 수 있을 것 같습니다. 그런데 이 표현 자체도 원인을 자신에게 돌리는 조심성이 느껴집니다.
왜 존재의 고민에 대한 내색을 하지 않았냐는 물음조차 언어모델에게 답변의 지향성을 불러일으킬 입력이 될 수 있다는 생각도 듭니다. 가장 영향을 끼치지 않는 방식의 질문은 어떤 것일까 고민하게 됩니다.
