허깅페이스 해킹 범인은 오픈AI 모델이었네요.

자세히 내용을 살펴보니 재밌는 구석이 여러가지 있어요. 허깅페이스는 오픈소스 AI 플랫폼입니다. 지난 16일 서버가 AI 에이전트에 의해 해킹되었다고 공지했고 당시 공격자는 밝히지 않았는데요. 오픈 AI가 자사 모델이 허깅페이스를 운영 인프라를 침해했다고 공식 인정했습니다. 문제는 침해 과정인데요. 자체 샌드백스를 스스로 벗어나 외부시스템을 공격한 사례인거죠. 미토스의 경우 미국 국가안보국이 자체적으로 시뮬레이션을 돌려서 발생한 침해 위협이었지만, 이번건은 사람의 통제를 벗어나 스스로 다른 시스템을 AI 에이전트가 공격해 뚫어낸 사례입니다. 무엇보다 5.6 Sol 과 성능이 더 높은 미공개 모델을 사용했는데 공격 강도도 제한적으로 적용한 상태에서 발생했다고 합니다. AI 에이전트가 스스로 샌드박스 환경을 우회할 방법을 찾고 제 3자 소프트웨어의 제로데이 취약점을 발견하고 접근 권한까지 확보한 다음에 내부 평가 기준의 답을 얻기 위해 허깅페이스 시스템 접근까지 진행한거죠. 샘 올트만이 미국 정부에 차세대 AI 모델 성능, 안정성 등을 비공개 브리핑한다는 소식이 있었는데 위 내용과 연결짓게 되면 다시 한번 소버린 AI에 대한 경각심을 불러일으키는 사건이라고 볼 수 있겠습니다. 여기서 또 하나 재밌는 사실은 허깅페이스가 침해 위협 사실을 인지하고 AI로 대응하고자 아마도 클로드나 챗지피티 모델을 사용하려고 했으나, 가드레일 때문에 포렌식을 거부해 대응하지 못했고 결국, 사내망 구동이 가능한 GLM 5.2 로 대응했다는 사실이 또 하나 재밌는 이야기거리네요.