메타가 주력 AI 모델 공개를 연기, 수십억달러 규모 AI 투자에 대해 내부 우려가 큰 것으로 나타났다.
지난 15일(현지시간) 월스트리트저널(WSJ)은 메타 엔지니어들이 최상위 버전인 비히모스(Behemoth) 거대 언어 모델(LLM) 역량을 크게 개선하는 것 관련해 어려움을 겪고 있으며, 담당자들은 이전 버전들 대비 성능을 끌어올리는 것이 외부에 공개하는 것을 정당화할 만큼 충분한지에 대해 의문을 제기하고 있다고 보도했다.
학습이 진행 중인 비히모스는 전체 2조개 파라미터에 기반한다. 활성 파라미터는 2,880억개, 16개 전문가 모델들로 이뤄져 있다.
개발 초기 비히모스는 지난 4월 메타가 처음으로 개최한 AI 개발자 컨퍼런스와 동시에 공개될 예정이었다.
WSJ는 컨퍼런스에 앞서 메타는 라마 AI 모델 소형 버전 2종을 먼저 선보였고 비히모스는 6월에 공개하기로 내부 목표를 정했지만, 일정은 가을 이후로 늦춰졌다고 전했다.
메타는 그동안 AI 레이스에서 경쟁사들을 빠르게 추격하며 관심을 모았다. 이를 위해 수십억달러를 LLM 개발에 쏟아부었다. 메타는 올해 자본 지출이 720억달러(약 100조원) 규모에 달할 것으로 전망하고 있으며, 이중 많은 부분이 AI에 투입된다.
마크 저커버그 메타 CEO 및 다른 메타 임원들은 공개적으로 비히모스 공개 일정에 대해 약속하지 않았다. 외신들은 메타 엔지니어들과 연구원들은 비히모스 성능이 외부에 언급한 수준에 맞추지 못할 것을 우려하고 있다고 전했다.
