Как ИИ усиливает управленческие провалы

ИИ ускоряет процессы принятия решений. Это дает компаниям преимущество, но и несет риск: ИИ может начать масштабировать системные ошибки. Как этого избежать? Отвечает Евгений Семенов, заместитель гендиректора Центра биометрических технологий

Масштаб инвестиций в искусственный интеллект сегодня не имеет аналогов в истории технологий. По данным исследовательской компании Rystad Energy, в 2025 году глобальные капитальные затраты на инфраструктуру дата-центров достигли $770 млрд, превысив инвестиции в добычу нефти и газа. По обновленным прогнозам на 2026 год, четыре крупнейших технологических гиганта — Microsoft, Amazon, Meta (признана в России экстремистской и запрещена) и Google — суммарно потратят на ИИ-инфраструктуру около $725 млрд, что на 77% больше рекордных показателей 2025 года ($410 млрд). Искусственный интеллект постепенно становится таким же фактором организационных изменений, каким несколько десятилетий назад стали компьютеры.

По сути, это глобальная попытка увеличить разнообразие управляющей системы быстрее, чем растет сложность мира. Именно так в середине XX века сформулировал свой знаменитый закон британский кибернетик Уильям Росс Эшби: управлять системой можно только в том случае, если разнообразие управляющей системы не меньше разнообразия объекта управления.

Закон необходимого разнообразия Уильяма Эшби получил развитие не только в западной кибернетике. В СССР и России проблемы управления сложными системами исследовали академик Никита Моисеев, Виктор Глушков, а в области организационного мышления — Георгий Щедровицкий. При всех различиях их подходов общий вопрос оставался одним и тем же: как обеспечить способность системы понимать мир быстрее, чем растет его сложность.

Проблема в том, что на практике большинство организаций используют ИИ как сверхбыстрый принтер для печати тех же отчетов, что и раньше, то есть просто ускоряют процессы, которые и раньше умели выполнять. Технологический инструмент, способный нарастить управленческое разнообразие, наконец появился. Главный вопрос: научатся ли организации использовать его для того, чтобы лучше понимать мир, или ограничатся ускорением того, что уже умели делать?

Почему ИИ — это не про технологии, а про культуру

Эволюция управления — это история борьбы со сложностью. Письменность вынесла память наружу, бюрократия создала роли, иерархии позволили управлять миллионами людей, а интернет расширил коммуникации. Каждый этап увеличивал «разнообразие» системы. Сейчас на сцену выходит ИИ, автоматизирующий не вычисления, а когнитивные функции: поиск закономерностей, анализ рисков и формирование гипотез.

На практике это означает, что впервые в истории появляется инструмент усиления процесса мышления, а не физического труда. Именно поэтому графические процессоры (GPU) и дата-центры превратились в стратегический ресурс. Однако здесь кроется главный парадокс. ИИ масштабирует именно ту управленческую культуру, которая уже есть в компании.

• Если организация умеет работать с обратной связью и признавать ошибки, нейросети многократно ускорят ее способность адаптироваться к изменениям и осваивать новые рынки.
• Если же компания подменяет анализ отчетностью и избегает обсуждения проблем, ИИ начнет с галлюцинацией генерировать красивые KPI, усугубляя бюрократический коллапс.

Мы рискуем получить ситуацию, при которой «цифровой двойник» управленца будет принимать решения быстрее, но такие же ошибочные, как и человек.

История показывает: технологические революции меняют не только инструменты, но и принципы организации. Если сложность индустриальной эпохи удалось удержать под контролем благодаря компьютерам, то со сложностью XXI века мы справимся только при одном условии — если институты и управленческие практики будут развиваться параллельно с «железом». Иначе мы просто получим суперкомпьютер, который со скоростью света будет воспроизводить наши глупые ошибки.

Уроки истории: Рим, СССР и Walmart

Как сложность убивает систему, если не успевает управление

Сегодня государства инвестируют в ЦОДы и вычислительные мощности по той же причине. В терминах Эшби речь идет не просто о серверах или моделях ИИ. Речь идет о попытке увеличить разнообразие управляющей системы быстрее, чем растет сложность окружающего мира.

Рим. Римская империя уперлась в физический предел — скорость передачи информации по дорогам. Гонцу требовались недели, чтобы донести решение из Рима до дальней провинции, и ровно столько же, чтобы донести обратную информацию о ситуации на месте. Контур управления оказался слишком медленным для размера и сложности империи.

СССР. Более интересный и неоднозначный случай. Сотни миллионов граждан, тысячи предприятий, многоуровневые цепочки планирования. Управленческие циклы удлинялись, качество обратной связи падало, информация терялась в иерархии. Разнообразие управляемого объекта превысило разнообразие управляющей системы, а инструмента, способного быстро это разнообразие нарастить, тогда просто не существовало.

Это классическая иллюстрация закона Эшби: система рухнула не потому, что планы были плохими, а потому, что ее внутреннее разнообразие перестало соответствовать внешней и внутренней сложности. Причины распада СССР, разумеется, были куда шире: экономические, политические, идеологические, но сам масштаб системы иллюстрирует, насколько критичным становится управленческое разнообразие при определенном уровне сложности.

Не случайно именно в СССР возникли проекты Виктора Глушкова по созданию ОГАС — общегосударственной автоматизированной системы управления экономикой, а параллельно формировались школы системного и организационного мышления. По сути, это были ранние попытки ответить на тот же вопрос, который сегодня ставит перед нами искусственный интеллект: как нарастить управленческое разнообразие быстрее, чем растет сложность системы.

ИИ интересен именно тем, что впервые дает шанс нарастить это разнообразие без разрастания бюрократии.

Walmart и Amazon. Противоположный пример — качественный скачок без потери управляемости, причем с измеримым результатом. Отдельный ИИ-инструмент Walmart для отслеживания свежести продуктов на полках, Eden, по заявлению компании, должен помочь сократить продовольственные потери на $2 млрд в ближайшие несколько лет. У Amazon ИИ-агенты для логистики и пополнения склада в пиковый новогодний период обеспечивали, по собственным данным компании, доставку точно в срок на уровне около 98%.

Принципиальная разница с Римом и СССР не в том, что у Walmart и Amazon больше вычислительных мощностей, а в том, что они встроили новые информационные контуры непосредственно в процессы принятия решений, увеличили способность системы видеть происходящее в реальном времени и реагировать на изменения, а не просто быстрее считать то, что считали раньше.

Ключевая мысль. История управления — это история последовательного увеличения разнообразия управляющей системы. ИИ — следующий этап этой истории, но он не сработает автоматически.

Ловушка «цифрового феодализма»: почему внедрение ИИ — не IТ-проект

Пример из практики: анализ нормативной базы

Внедрение LLM для обработки тысяч страниц нормативных документов, регламентов и методических материалов выглядит как очевидное решение. На практике проект почти неизбежно упирается в:

• отсутствие единого хранилища документов;
• неструктурированные и «грязные» данные;
• непересмотренные правила доступа к информации;
• отсутствие ответственного за результат работы модели;
• сотрудников, не обученных новым подходам к работе с информацией.

Реальная ценность ИИ в этом сценарии не повышение скорости анализа, а то, что организация начинает видеть взаимосвязи между документами, быстрее реагировать на изменения среды и удерживать больший объем сложности без пропорционального роста численности персонала. Но чтобы это произошло, нужно менять операционную модель и пересматривать процессы, данные и роли сотрудников, а не просто покупать софт.

Кибервойна как идеальный индикатор: гонка управленческого разнообразия уже идет

Еще более показателен опыт информационной безопасности. Несколько лет назад разведка, поиск уязвимостей и подготовка фишинговых кампаний выполнялись людьми. Сегодня атакующие массово используют большие языковые модели для автоматизации этих этапов, а в сложных DDoS-кампаниях ИИ уже способен в реальном времени анализировать реакцию инфраструктуры, выявлять слабые узлы и динамически перестраивать профиль атаки без участия человека.

Скорость такой адаптации принципиально выше человеческой реакции. По данным CrowdStrike, компании в сфере кибербезопасности, количество атак с применением ИИ в мире в 2025 году выросло на 89% по сравнению с 2024 годом. В России, по оценке компании «Информзащита», около 80% фишинговых атак на отечественные компании в 2025 году уже содержали ИИ-компоненты.

Вступайте в сообщество Школы управления РБК в Telegram или «Максе», чтобы общаться с руководителями из разных сфер, выстраивать нетворкинг и получать советы экспертов.

Простое увеличение ИБ-штата перестает работать. Вместо этого компании вынуждены кратно наращивать объем собираемой телеметрии, интегрировать разнородные источники данных и внедрять ИИ-инструменты для автоматизации расследований и обнаружения аномалий. По сути, растет не число людей, а способность системы безопасности воспринимать, анализировать и обрабатывать сложность.

Возникает новая гонка, которую закон Эшби описывает достаточно точно: атакующие увеличивают разнообразие и адаптивность своих воздействий — защитники вынуждены отвечать сопоставимым ростом разнообразия механизмов обнаружения и противодействия. Если одна из сторон не успевает наращивать свое внутреннее разнообразие, она теряет управляемость.

Именно поэтому ИИ в кибербезопасности не просто очередной инструмент в арсенале компании, это фактор организационной трансформации: он меняет процессы, состав данных, роли сотрудников и архитектуру принятия решений. Как и в случае с управлением в целом, ИИ дает эффект только тогда, когда организация перестраивается под него, а не просто ставит нейросеть рядом с SIEM-системой.

Три вопроса, которые стоит задать себе руководителю

1. Где находятся мои слепые зоны?

Если ключевые решения принимаются на основе устаревшей, неполной или искаженной информации, ИИ лишь ускорит ошибки. Первый вопрос не «какую модель купить», а «что моя организация не видит». ИИ способен помочь увидеть закономерности, но не может компенсировать отсутствие данных или нежелание замечать неудобные факты.

2. Способна ли организация менять свои решения?

Система, в которой обратная связь игнорируется, а ошибки воспринимаются как угроза, не станет эффективнее благодаря нейросетям. ИИ усиливает способность адаптироваться, но не заменяет ее. Более того, в таких организациях модели начинают обслуживать уже существующие заблуждения, превращая их в убедительные отчеты и рекомендации.

3. Что именно мы масштабируем?

Любая технология усиливает существующую культуру. Если компания умеет учиться, ИИ ускорит развитие. Если же она воспроизводит бюрократию и самообман, результатом станет лишь более быстрый выпуск красивых отчетов и ошибочных решений. А галлюцинации моделей в этом случае становятся не столько технической проблемой, сколько отражением собственных галлюцинаций организации. Искусственный интеллект способен придумывать несуществующие факты, но еще опаснее ситуация, когда он начинает с высокой скоростью воспроизводить и усиливать ложные представления, уже существующие внутри самой системы.

Закон Эшби остается справедливым и в эпоху больших языковых моделей: выживают не самые сильные и не самые технологичные системы, а те, чья способность к адаптации оказывается не меньше сложности мира, в котором они существуют.