이미지데이터센터 버블이 터지는 이유

GPU의 효율 증가는 유휴 데이터센터를 발생시킨다 예를 들어 1만장의 gpu로 1억건의 AI요청을 처리할 수 있다고 치자 gpu의 효율성이 3배 증가하면 3,300장의 gpu로도 1억건의 ai요청을 처리할 수 있게 되고 나머지 gpu는 놀게 된다 이것이 유휴 데이터센터 발생의 기본 논리이다 하지만 여기서 끝내면 다음과 같은 반론이 나올 것이다 1. gpu는 많이 사용할수록 더 좋은 결과를 낸다 2. gpu의 효율성이 3배 증가한다고 해서 gpu를 1/3만 쓰는게 아니다 나는 이 반론이 왜 현실세계에서는 적용되지 않는지를 얘기해보겠다 1. AI 모델의 비싼 사용료 앤트로픽에서 글래스윙 프로젝트를 통해 공개된 미토스 AI모델에 대해 팔로알토 네트웍스는 미토스의 성능을 인정하면서도 몇 주만 사용해도 수백만 달러의 비용이 발생했다는 점을 지적했다 기업의 입장에선 성능 대비 비용을 고려해야 한다 만약 gpu 효율이 높아져서 gpu를 더 적게 사용해도 똑같은 결과물이 나온다면 기업들은 gpu를 더 적게 쓰는 선택지를 고를 가능성이 높다 경제적인 관점에서 체감수익이 발생하기 때문이다 예를 들어 어떤 소프트웨어의 보안 취약점이 100개 있다고 했을 때 미토스가 처음에는 100개 중 10개만 탐지했는데 gpu를 많이 사용할수록 점점 20개, 40개, 80개로 늘어나더라도 나중에는 91개, 94개, 95개 수준으로 증가율이 감소한다 더 쉽게 얘기하자면 "2+2는?" 이라는 질문에 gpu를 100배 더 사용한다고 해서 답이 4보다 더 좋은 4가 나오는 것은 아니다 체감수익을 고려하면 그냥 4라는 답이 나올만큼의 gpu만 사용하면 그 이상의 gpu는 사용할 필요가 없다 2. 데이터센터의 비용 구조 SaaS는 사용자가 구독료만 내면 무제한으로 서비스를 제공한다 이게 가능한 것은 가변비용이 매주 낮은 산업이기 때문이다 사용자가 많아질수록 고정비용을 여러사람들에게 분담시키고 사용자가 많아져도 약간의 네트워크만 더 필요할 뿐이다 이것이 SaaS 기업의 높은 영업레버러지를 만드는 원인이다 하지만 AI는 GPU 사용료가 변수로 작용한다 사용량이 많아질수록 gpu의 계산량도 많아지고 gpu가 계산을 할 때마다 전기요금이 붙는다 데이터센터는 이 비용을 그대로 고객에게 전가시킨다 gpu 감가상각비가 너무 비싸다 데이터센터용 gpu는 물리적 수명이 5~10년이고 통상적으로 3~6년 정도에 교체를 한다 사업자는 그 기간안에 gpu 투자 비용을 회수해야 한다 예를 들어 gpu 구매비용으로 100억을 투자했을 때 4년 감가가 일어나면 매년 25억을 회수해야 한다 이 비용은 추론요금이라는 명목으로 고객에게 전가된다 AI는 헤비유저의 비중이 너무 높은 것도 변수다 여러 사람들의 사용량이 골고루 분포되어 있으면 비용을 분담시킬 수 있는데 AI는 잘 사용하는 사람이 더 극대화해서 사용하는 특징이 있다 이런 구조하에서는 AI 사용료가 저렴해지기 어렵다 많은 사람들은 gpu 추론 향상이 AI 산업의 호재로만 해석한다 그러나 투자자의 관점에서는 다른 질문도 필요하다 "곡괭이가 다다익선이라길래 많이 만들어놨는데 드릴머신이 나타나면 어떻게 될까? 결국 데이터센터 산업도 다른 자본집약적 산업과 마찬가지로 투자와 구조조정을 반복한다 역사적으로 메모리 주식은 고Per일 때 사서 저Per일 때 팔라는 격언이 있다 출처: 미국 주식 갤러리 [원본 보기]