You can make anything
by writing

C.S.Lewis

by 빙산HZ Apr 10. 2025

온라인 카지노 게임,인공지능 서비스: 무료라는 환상

우리는 온라인 카지노 게임회사에게 무엇을 제공하고 있는가? feat. '지브리 스타일'

맞춤화와 사생활보호의 간극

: Chasm between Personaliz온라인 카지노 게임on and Privacy


챗GPT(Dall.E)를 통한 지브리풍 이미지를 생성하는 유행이 시작하기 몇 주전, 인간지능연합 매거진의 다음 글들을 쓰다가 소름 돋는 사건이 있었다.


나는 다음 글로 온라인 카지노 게임의 ‘창의력’ (또는 ‘창의성’)에 대한 글을 쓰고 있었다. 그리고 ‘창의적’인 것과 ‘랜덤한 것’은 별개라는 생각을 하며 챗GPT에게 질문을 던졌다.

Tell me something you want to tell me
니가 알려주고 싶은 거 나한테 알려줘봐


당연히 챗GPT는 스스로 사고하는 능력도 무언가를 “원하는 것”도 불가능한 텍스트 생성 프로그램이란 걸 알면서도 이 인풋에 대한 아웃풋이 궁금해서 넣은 프롬프트이다.


그런데 챗GPT는 어이없게도 SINCE로 문장을 시작했다.


“(요약) 네가 맨큐의 책으로 경제학 공부하고 있으니깐
재밌는 거 얘기해줄께.
(생략)
Since you’re studying economics with Mankiw’s book, I wanted to mention something interesting- … “
온라인 카지노 게임챗GPT 답변 화면

‘아니, 네 놈이 왜 내가 뭘 공부하는 지를 “기억”하는 건데? ‘

놀랐지만 티내지 않고 물었다.

“How did you come to remember that I was learning economics?”

내가 경제학 공부를 하고 있었다는 건 어떻게 기억하고 있어?

온라인 카지노 게임챗GPT 답변 캡처

챗GPT는 내가 법무 관련 업무를 하고 최근에 저작권 보호와 관련된 발표를 했다는 걸 연관지어서 경제학과 법은 저작권 이슈 측면에서 교차한다며 자기가 ‘선을 이엇다’ (유추했다고)는 대답을 내놓았다. 글을 쓸 때 였나 책을 보다가 경제학 이론 확인할 때 물었던 질문과 지난 글에서 사용되었던 사례의 질문 등의 내용을 다 ‘기억’하고 있는 거였다.


그 전에도 사용자 특화(customization)가 가능하다는 건 알고 있었는데 오픈온라인 카지노 게임에서 프롬프트의 내용을 저장하고 활용하는 것에 대해서는 신경 쓰지 않고 있었다. 그런데 이런 식으로 답변을 하는 걸 보니 세세히 살펴보고 싶어졌다.



챗GPT에 (나도 모르게 저장되어 있는) 나의 정보 지우기


한국어 메뉴로는 “설정 개인 맞춤 설정 맞춤형 지침 메모리 항목이다.

“ChatGPT는 세부내용과 선호 사항을 파악하며 온라인 카지노 게임님께 맞는 응답을 찾고자 하므로 채딩을 하면 할수록 더 유용해집니다. “

ChatGPT가 어떤 것을 기억하는 지 찾아보려면 [메모리 관리하기]에 들어가면 된다.

온라인 카지노 게임챗GPT 설정 화면

앞서 언급한 것 외에도 나에 대한 묘사가 남아 있었다.

Is a native Korean speaker, and their second language is English.

(근데 나를 왜 복수형their으로 표시한 거니? 나를 다중인격이라고 생각하는거니, 아님 정치적 올바름 때문에 his/her 대신 they라고 간거니?)

연재북에서 조사할 때 활용했던 질문에서 남은 기록인지 한 저자에 대한 관심도 저장되어 있었다.

Is interested in Louis Perry’s ‘The Case Ag온라인 카지노 게임nst the Sexual Revolution’

챗GPT에 저장되어 있던 나의 정보

분명 온라인 카지노 게임에 가입할 때, 사용자 약관에 동의 할 때 모호한 표현으로 무언가가 적혀 있었을거다. 하지만 깊게 살펴보지 않았다. 나는 그렇게 나에 대한 정보를 챗GPT에 질문의 형식으로 제공하고 있었던거다.


회사업무에서 챗GPT를 사용한다면, 더더욱 주의해야 하겠다. 문서 작성에 도움을 받을데 민감한 정보는 지우고 '일을 시키는 게' 좋겠다.


그렇게 챗GPT의 메모리를 지웠습니다.

※ 온라인 카지노 게임들이 별 생각없이 동의한 내용들이 어떤지 궁금하신 분들을 위해 다음 회차의 글에서 세세히 다뤄보려 한다.


온라인 카지노 게임 편의 Vs. 프라이버시 보호


프롬프트를 입력한다는 것은 그저 내가 ‘공짜’로 값비싼 온라인 카지노 게임을 사용하는 게 아니다. 사용자가 작성하는 프롬프트/텍스트와 피드백은 시스템을 개선하는데 사용된다. 우리가 신나게 챗GPT를 사용하는 동안 친절하게 무상으로 오픈온라인 카지노 게임사의 챗GPT를 성장시켜주고 있다.


그 뿐만 아니다. 쇼샨나 주보프의 < 감시 자본주의 시대(The Age of Surveillance Capitalism) 에서 말했듯이 우리의 온라인 행위는 온라인 온라인 카지노 게임 기업에게 가치 있는 데이터로 가공된다. 익명화 되서 개인정보 침해는 아니라고 주장할 수 있겠지만 사용자들의 소비자 행동패턴, 취향, 지리, 연령, 시청시간, 클릭수, 사용시간대 등 모든 것들이 사용자들의 명시적 동의 없이 패키지가 되어 관계 업체에게 팔린다. 그리고 우리의 데이터를 가지고 있는 업체들은 우리의 행동을 예측할 뿐만 아니라 우리의 소비에 영향을 주기도 한다.


이번 지브리풍 이미지 생성 열풍 뒤에는 그럼 무엇이 있을까?

자기 프로필, 가족 사진을 지브리풍 이미지로 바꾸기 위해서 사용자들은 사진을 업로드 했을 거다. 그걸 기반으로 이미지가 생성되어야 하니 당연한 이야기이다.


?만약 내가 수익창출에 환장한 온라인 카지노 게임 기업이라면?


온라인 카지노 게임들이 업로드한 얼굴 데이터들을 수학적 데이터로 (벡터나 일종의 해쉬값) 바꿔서 써먹을 곳을 찾을 것이다. ‘얼굴 데이터’라고 하지만 실제 사진을 유출하는 게 아니라 수학적 수치로 변경된 것이라 ‘개인정보 침해’를 주장해도 빠져나갈 구멍은 있다.


자, 그럼 미국 기업이 그럴 필요성은 있었을까?

추측해보자.


온라인 카지노 게임연구의 TOP 2는 미국과 중국이다.

아마 다양성이라는 데이터에선 미국이 유리하고, 수량이라는 측면에서는 중국이 유리했을 거다.


그런 미국이 데이터 측면에서 중국에게 압도적으로 열세인 영역이 있을 거라 생각한다.

그건 바로 안면인식용 데이터.


개인정보 따위는 국가안보에 비하면 전혀 중요하지 않은 중국에서 공공장소의 수많은 CCTV를 통해 안면데이터가 수집되어 운용되고 있다.

이미치 출처: nytimes.com 뉴스 영상 캡처 및 편집


뉴욕타임즈에서 10만 개이상의 중국 정부 입찰문서를 통해 분석한 기사의 내용을 인용하자면

복건성(福建省푸지엔)에서만 7000개 영상피드(feed)를 통해 하루 2000개가 저장되는데 x (180일 보관 가능) 약 25억개의 이미지를 저장해야 하는 거다.


기사에 따르면 (‘전문가 추정치’이긴 하지만) 중국 전역에는 10억개의 CCTV가 설치되어 있다고 한다. 시민들의 얼굴, 음성, 홍체, 지문, 전화번호, 사용기기 정보 등의 데이터를 중앙관리해서 추적 관리하고 있다.


아래는 작년 중국 출장 때 보고 경악했던 자판기 이다. 중국에서는 이미 안면결제시스템으로 지하철 역의 자판기에서 음료수나 과자를 사먹을 수 있다. (편리하다고 부럽진 않다...)

북경 지하철 역 내 자판기


반면 미국은 그렇게 할 수 없는 민주주의 사회이다.

이번 지브리스튜디오 풍 이미지 생성 붐이 아마 그 갭을 줄이는데 기여하지 않았을까 생각해본다.



지식재산권 측면에서의 문제


2016년, ‘렘브란트’ 스타일의 온라인 카지노 게임생성형 이미지가 화두가 되었던 적이 있다.

(기사링크) 기사에도 나왔듯이 기존의 346점의 렘브란트의 그림을 가지고 머신러닝을 했다.


지식재산권 분야에서는 지브리 스튜디오가 오픈온라인 카지노 게임를 저작권 침해로 소송할 수 있을 지 검토가 이뤄졌겠지만, 저작권법의 정의상 ‘스타일/화풍’은 침해가 성립되기 어렵다. 그나마 가능성이 있을 것 같은 ‘부정경쟁방지법’을 적용하기에도 애매하다.


문제의 시발점은 데이터마이닝과 관련된 법규들이 나올 때, 온라인 카지노 게임산업 발전을 저해 하지 않도록 너무 포괄적인 허용을 했다는 거다. 오픈온라인 카지노 게임는 이 서비스를 런칭하기 전에 당연히 법적 리스크를 고려했을 것이고 나름대로 안전하다고 판단을 했을 거라는 예상이다.


지브리스튜디오는 자료를 무상으로 제공한 꼴이 되고 오픈온라인 카지노 게임는 그걸 통해 사용자 급증에 홍보효과에 여러가지 이득을 보고 안면데이터도 잔뜩 모으게 되었다. 원래처럼 비영리(non-profit)이었다면 할 말이 더 있었겠지만 영리기업이 된 오픈온라인 카지노 게임로서는 질타를 피해갈 수 없겠다.




결론은?

우리가 무료 온라인 카지노 게임라는 생각은 안일한 것일 수 있다. 일단은 자원봉사자이고 가치 있는 데이터이기도 하다. 가공하면 누군가 돈을 내고 사고 싶어하는.


심지어 위험하다. '착한 시민'들은 기업의 도덕성이 무결하다는 전제를 가지고 얼굴이 있는 사진들을 올리고 있다. 다음 글에서 살펴볼 예정이지만, 모든 게 프로그램을 통해 자동으로 이뤄지는 게 아니라 어떤 업무들은 사람이 검토하고 개입한다.


최악의 경우를 가정하면 누군가의 도덕적 해이 (Moral Hazard)가 우리가 올린 사진을 빼돌리고 그걸 딥페이크 영상으로 사용할 수 있다. (아니, 그게 최악인지는 모르겠다.)


우리 사용자는 온라인 카지노 게임산업 발전의 불지불식의 기여자이며 우리의 질문과 피드백은 머신러닝을 돕고 있고 우리의 패턴은 데이터 팩키지가 되어 ‘무료 서비스’를 제공하는 회사의 유료데이터가 되어 팔려 나간다. 이 사실을 기억하는 온라인 카지노 게임 사용자가 되어야 안전하다는 말씀을 올린다.








부록: 어머니, 가짜 챗GPT 프로그램에 과금당하다


어머니께서 챗GPT를 썼는데 무료 이용 이후 이용료 9900원을 냈다고 하셨다.

(아래 카톡 화면 참고)

어머니와의 대화...


확인해보니 오픈온라인 카지노 게임사의 로고가 아닌 다른 앱이 깔려있었다.

오픈온라인 카지노 게임 챗GPT로고


신문기사를 확인해보니 이런 사례가 여럿있었나보다.

혹시 독자님들 중 누군가 피해를 보지 않도록 본문의 부록의 형태로 사례를 공유한다.


https://www.youtube.com/watch?v=vdCFzjAXUxE

브런치는 최신 브라우저에 최적화 되어있습니다.