Компании в США начали массово оптимизировать расходы на искусственный интеллект с помощью маршрутизации моделей, сообщает CNBC. Финансовые директора корпораций отказываются от использования самых дорогих нейросетей для решения базовых задач, поскольку счета за ИИ значительно превысили заложенные бюджеты.

Новый подход предполагает распределение запросов: сложные задачи направляются передовым системам от OpenAI и Anthropic, а простые передаются более дешевым аналогам. Глава компании Cognition Скотт Ву отметил, что на рутинной работе бизнес может повысить экономическую эффективность в 5-10 раз. При этом генеральный директор Glean Арвинд Джайн оценивает, что пока около 95% корпоративного использования ИИ все еще приходится на самые дорогие модели. Проблема стоимости стала очевидной даже для технологических гигантов: в компании Cisco подсчитали, что при затратах в $200 на сотрудника в неделю корпорация с 90 тысячами работников тратит на токены* около $900 млн в год.

Ранее бизнес по умолчанию направлял все запросы через самые мощные ИИ-модели независимо от их сложности. Теперь смещение спроса в сторону дешевых решений с открытым исходным кодом создает риски для OpenAI и Anthropic, чьи бизнес-модели и ожидания от IPO** строились на огромном спросе по премиальным ценам. Эксперты отмечают, что на рынке «ценовая власть смещается от компаний, продающих премиальный ИИ, к компаниям, покупающим его», заставляя разработчиков искать новые способы повышения эффективности.

*Токен — единицы учета данных, на которые нейросеть разбивает текст для его обработки и генерации ответа. В коммерческом использовании ИИ стоимость услуг часто рассчитывается исходя из количества потраченных токенов, что делает их основным показателем операционных расходов компании.

**IPO — первая публичная продажа акций компании неограниченному кругу лиц, после которой организация становится публичной, а ее бумаги начинают торговаться на бирже. Успех этой процедуры напрямую зависит от финансовых показателей и уверенности инвесторов в стабильном росте будущей прибыли.

Подпишись на MP в MAX