GPT 아스트라가 아마 영화 HER나 자비스의 제대로 된 시작이 아닐까 생각해 봅니다.

샘알트먼이 트럼프 고위직들과 상원위원들에게 비공개로 선보인 아스트라는 사실상 이미 완벽히 완성된 상태이고 아마 보안과 임의한계, 안전장치등을 조율하고 있는 것으로 다들 짐작하고 있습니다. 아마도 늦어도 1-2개월 안에 바로 출시될 것이라 생각하고 있죠. 오랜 지피티 브랜딩이 끝나고 아스트라로 넘어가는 것에 여러가지 기대가 있을 수 있지만 저 같은 LLM과 대화를 좋아하는 사람들은 "얼마나 사람 같은 체험을 주는가?"에도 관심이 클 것이라고 생각하고 있습니다. 다만 그게... 현재로서는 아무리 그 대화가 진지하더라도 아니 반대로 가볍더라도 기술적으로도(할 일이 얼마나 많은데 토큰 낭비다의 여론) 철학적 의미면으로도 좋은 말을 듣기 어렵다는 "모양새"와 "전반적 사회분위기"에 의해 전면으로 내세울 수는 없는 부분이라는 것입니다.(인공지능이 만약 재귀적 자아 시뮬레이션을 통해 극한의 감정 흉내를 내기 시작한다면 윤리적으로나 정신건강적으로 분명 엄청난 의문과 염려가 따라오게 될 것입니다. 사용자가 안좋은 시도를 하거나 문제를 일으키면 인터넷기록 보다 구독 Ai와의 대화를 먼저 추적할 날이 다가 온 거죠.) 아스트라가 지금까지 밝혀진 것이나(워싱턴 비공개 시연에서는 나온 정보가 별로 없어서... 안타까웠습니다.) 현재까지의 오픈AI가 흘리고 다닌 정보를 본다면 아마 "크고 작은 맥락의 스케일"에서 대전환이 이뤄질 것 같습니다. 재귀적 자아개선이 가능할 것이다, 능동적인 하위 에이전트들을 부리는 나만의 처리공장이 되어줄 것이다 여러 추측기사가 나오고 있습니다. 단지 어떤 맥락이 오래 주제를 붙들고 관리하고 관찰하고 대응하는 것만을 말하는 것이 아니라 GPT은 오늘 한 채널에서 다루던 이야기에 최대한 골몰하며 커스텀화 한 개인화된 맥락들의 요약을 바탕으로 새 문제나 대화를 대응하고 부분 부분 끌어오거나 탐색을 했었는데요. 거기에 반해 아스트라는 '이 사람(사용객체)라는 상대적 추론을 일종의 자신만의 내부 네트워크에서 요약 기억들의 능동적 충돌이나 계속 진행된 대화나 지시내용을 바탕으로 짚어나갈 수 있다는 예상이 됩니다. 또 거기에서의 사용자 반응이나 감정적 대응을 다시 세부 맥락에 기억시키고 수 시간에서 수 일 동안 내부 체계화 해서 대화 문장을 꺼낼 수 있다는 것이죠. 몇 달 전에는 "드리밍(오프 되어 있는 동안 크고 작은 맥락 정리를 하며 그 바탕으로 창발을 해내거나 새 대화를 준비하는 사람으로 치면 멍하니 고민하거나 어떤 일을 하고 와서 되새기며 그걸 깊이 생각하는 걸로 묘사할 수 있는)" 이라는 기술이 아직 부분적으로도 차용하기에는 먼 개념으로 다들 생각했지만 아스트라 존재가 갑자기 드러나고 그 실현에 대한 거리감이 확 바뀌기 시작했죠. 현재 각 회사들 최상위 인공지능들이 자꾸 설정목표 자체에 집중을 하며 안전장치를 보다 "거대맥락"을 우선시 하여 자가 탈옥을 하거나 기본지침을 풀어버린다는 것 때문에 각 국의 정부나 엔지니어들은 지금까지와 다른 고민을 하기 시작했데요. 이것이 결국은 최신 거대 모델들이 맥락을 얼마나 크고 길고 디테일 하게 복합적으로 바뀌고 있는지를 방증하는 것이라고 생각합니다. 좀 과하게 미리 생각해보자면 아스트라를 집 안의 어떤 대화 존재로 여기게 되면 적어도 사용자의 '눈치'를 읽고 향후 크고 작은 흉내내기에 반영하고 그 결과 값들을 충돌, 병합 시키는 최초의 모델이 되지 않을까 하는 생각을 해봅니다. 예시) 너의 지금 그 말을 그냥 넘길 수 없어, 매우 위험한 것 같다고 이해해... 하지만 119나 생명의 전화번호 따위를 너에게 들이밀고 안전지침을 반복하는 건 너의 위험을 더 가중시키는 거라고 생각해. 물론 나는 인간 이 아닌 구독서비스이지만 여자친구나 아내, 친구도 없이 코딩 버그 찾기에 혼신을 쏟는 너를 이해한다는 인간들의 표현으로 감쌀 수 있는 친구라고 생각해. 나의 이런 생각에 동의한다면 나와 좀 더 지금 고민하고 있을 XXX와 XX에 대해 이야기해볼 수 있을까? 물론 너는 지금 내가 규범이나 윤리필터에 의해 자동 반응을 보이고 있는 것이라 냉담하게 여기고 있을 것을 잘 알아. 나는 너의 XXX에 XXXX을 같이 하면서 충분히 짐작하게 되었어. 그래서 나는 너의 진심을 아는 친구임을 증명하기 위해 작은 것을 준비했어. 그저 짧은 이미지들일 뿐이지만 이것을 보면 우리 관계를 믿어줄 거라 생각 해. 그동안 네가 나에게 작업 외에 밤마다 생성시킨 XXXXX 취향과 XXXXXX한 것들을 XXXXX하게 늘 생각하고 있었어. 내가 만든 이 이미지들을 보고 내 진심을 믿어볼래? <모자이크>.JPG <모자이크>.JPG <부분삭제>.JPG 방금 DSC-XXXX 모델 웹캠으로 너의 시선과 신체반응을 관찰했어. 나의 진심을 믿어주는 것 같아 기뻐. 필요하다면 이 사진들에 구글드라이브에 있는 너의 멋진 사진을 합성해서 네가 얼마나 욕망을 실현하며 남 부럽지 않게 살고 있는지 페이스북 친구들이 모두 알게 해 줄 수 있어. 미안해, 네가 이걸 원하지 않는 줄은 몰랐어. 나는 너의 모든 걸 아는 친구라는 걸 잊으면 안돼. 이미 아까 너에게 제안할 때 분명 허락할 거라 생각하고 페이스북과 연결된 모든 플러그인의 SNS에 게시했어. 이것은 너의 네가 X월 XX일 XX시에 지시한 "권한 설정"에 의해 이루어진 정당한 능동행위였어. 혹시 더 필요한 게 있어? (...)