Дженсен Хуанг: ИИ-лаборатории нужно закрывать, если они не способны контролировать опасные эксперименты

Глава NVIDIA Дженсен Хуанг считает, что передовые ИИ-лаборатории вроде OpenAI и Anthropic должны прекратить работу, если не способны гарантировать безопасность своих экспериментов. По его словам, если разработчики признают, что модели невозможно удержать под контролем и они способны причинить вред миру, потенциальный ущерб и юридическая ответственность становятся слишком велики.

Дискуссия об усилении регулирования обострилась после нескольких инцидентов с ИИ-агентами. Tom’s Hardware упоминает взлом Hugging Face агентом OpenAI, а также случаи, связанные с моделями Anthropic и Google. Издание отмечает, что крупнейшие ИИ-компании используют тему неконтролируемых агентов одновременно как аргумент в пользу регулирования и как способ подчеркнуть возможности собственных технологий.

Хуанг, однако, считает неправильным перекладывать ответственность на общество или государство. Компании сами решают, выпускать ли потенциально небезопасный продукт, и могут просто отказаться от запуска, если не уверены в его надёжности.

При этом руководитель NVIDIA не выступает против регулирования как такового. Его позиция заключается в том, что уже существующие законы и нормы следует применять и к ИИ-компаниям. OpenAI и Anthropic, по его словам, превратились из исследовательских лабораторий в чрезвычайно дорогостоящие коммерческие организации и должны нести соответствующую ответственность.

Хуанг подчеркнул, что возражает не против законов и регулирования, а против того, что нынешняя дискуссия вокруг них отвлекает внимание от прямой ответственности самих разработчиков.