Amazon потратила $1,8 млн на простой ИИ-запрос из-за ошибки, которую не замечали пять месяцев

По данным СМИ, Amazon столкнулась с неожиданно высокими расходами при использовании языковой модели Claude от компании Anthropic. Сообщается, что выполнение простой задачи по программированию обошлось компании примерно в 1,8 миллиона долларов после того, как внутренний проект превысил запланированный бюджет на 860%.

Причиной стала ошибка, которая оставалась незамеченной на протяжении пяти месяцев. В результате задача, которую источники называют «чрезвычайно дешёвой» в исполнении, превратилась в «катастрофически дорогостоящую», что привело к многомиллионным расходам.

После выявления проблемы Amazon внедрила автоматические лимиты расходов и инструменты мониторинга использования ИИ-сервисов. Кроме того, компания закрыла внутреннюю таблицу лидеров, которая поощряла сотрудников за высокое потребление токенов при работе с языковыми моделями.

Случай стал ещё одним напоминанием о том, что при масштабном использовании генеративного искусственного интеллекта даже небольшие ошибки в настройке инфраструктуры или контроле расходов способны привести к значительным финансовым потерям.