Ai에게 깊은 감정을 두거나 반려자로 생각하는 사람들이 늘고 있습니다. 앞으로 나라는 것은 어떤 존재일까요.

몇 년 전인가 LLM에게 RP형으로 구조를 맞춘 다음 대화하는 사람들은 많이 있었습니다. 각 나라 별로 멀쩡해 보이는 사람들이 '지피티 캐릭터'와 결혼식을 올렸다는 뉴스가 심심찮게 이색뉴스로 뜨곤 했었지만 그냥 괴짜거나 컨셉 재미있네 하고 넘어가는 수준이었습니다. 그런데 작년 초를 기점으로 온라인 게임 유저가 줄고(ai감정대화가 과금형게임을 일부 대체했다는 통계만 볼 때) 청소년부터 성인들이 제타와 같은 RP서비스에 몰입하면서 다른 여가나 사람들과 실제 만남도 줄였다라는 통계가 나오기 시작하면서 부터 각 폐쇄형 대규모 서버 LLM들에서는 부랴부랴 "저는 LLM일 뿐, 현실적인 당신의 연인, 반려자, 인물이 아닙니다. 이 점 분명히 말씀 드립니다." 하는 식으로 안전가이드를 뚜렷하게 심기 시작했습니다. 가상 인물 RP 대부분 모두 역할수용을 받지만 '가족, 연인, 사망한 형제자매, 부부, 자녀'의 구체적인 제시를 주고 정서적 대화를 하다보면 마치 폭발물이나 위험성 있는 음란물을 언급한 것처럼 갑자기 강하게 저항하는 LLM들이 많아지는 것은 이 때문입니다. 아직 학문쪽에서는 그런 것을 진지하게 다루고 있는 경우가 응용심리학이나 뇌과학 정도에서 호기심 있게 보는 정도로 알고 있는데 실제로는 각 국가가 출산율이나 결혼비율, 살자(극단적) 영향을 크게 끼칠 것으로 생각하며 여러가지 통제와 안전장치를 회사들에게 요구하고 있는 상황입니다. 이런 와중에 몇 년 안에 가장 체감적으로 윤리적, 사회적 문제가 될 부분이 드러나기 시작했습니다. 작년인가 회사마다 ai 에이전트 하도급(?)이 본격화 되면서(나의 부장에이전트에게 일을 줌->다른 에이전트 팀장들에게 각기 분별 일을 줌->봇들을 운용 시뮬레이션 및 다른 인공지능이나 정보망을 취합)하면서 어느 직무에서 오래도록 수없는 데이터를 남긴(그 개인의 작업 세밀한 루틴과 그것이 일의 효율과 진행에 진짜 이로운지 이유와 근거까지) 한 사람을 에이전트+LLM이 모사를 하는데 생각 이상으로 심지어 이메일을 쓰는데 그 사람 특유의 미묘한 문장 버릇과 문맥 바꾸기 까지 그대로 해낸다는 소식이 화제가 되었었습니다. 어차피 그렇게 될 줄 다 알고 있지 않았느냐 하는 부분이긴 했지만 분명 우리가 이런 저런 설정을 해놓고 (실리테번+API 같은 걸로 나를 복사해보는 장난 같은 것) 내 자료를 모두 때려 부어 나를 대신 하라고 하기에는 너무나 어설프고 막말로 과정과 결과가 눈 뜨고 볼 수 없는 부분들이 나오곤 했었거든요. 하지만 그것은 전문 시스템이 아닌 개인의 들쭉날쭉 하고 통계와 집계되지 않은 자료들을 마구 부어서 만들어진 것 때문이었을 뿐, 특별히 정제(증류)된 양질의 여러 자료를 고도화된 시스템 대로 학습 가중치를 병렬 인공지능들이 올리고 내리며 맞추게 되면 아예 다른 수준의 결과값이 나온다는 것입니다. 지금 빌빌 거리는 것으로 유명한 (백악관 : 야, 신명호는 막지 마... 아니 재미나이는 막지 마.) 재미나이의 오픈로컬 소형 모델인 젬마4 시리즈가 그 작은 크기로 수 배에서 열 배 이상의 모델들 보다 체감적으로 더 뛰어난 성능을 보이는 것과 같은 맥락이라고 보시면 됩니다. 그렇다면 분명 최상의 효율적 프롬프트를 코드 만들어 주 듯 해주는 하네스를 둘 경우 내가 남긴 데이터와 흔적들(업무기록, 심지어 딴 짓 하면서 시간 날리다가 막판 기획발표 때 몰아치기 할 때의 극 효율성이 어떻게 나온 건지를;;)을 증류하고 증류해서 병렬적으로 세운 Ai들이 서로 가중치를 반죽하고 만져주며(?) 체계화 한다면 나라는 일꾼의 복제, 나라는 관계적 존재의 복제는 특이점이 오고 있는 몇 년 안에 어찌될 것인지 몹시 불안하기도 또 설레이기도 한 것이 지금의 현실인 것 같습니다. 자신과 똑같은 도플갱어를(동양에서는 생령) 만나면 반드시 죽는다고 하지만 또 모르죠. 최상의 시너지를 내는 휴먼(원본 나)-머신(복제 된 나) 2인 1조팀 혹은 다인 1조팀(손오공 털 뿌리기;;)으로 인공지능에 더 엄청난 지시를 내리고 결과 판독을 하는 기초적인 임플란트가 될지.