ИИ-агент уволил сотрудника — это случилось в симуляции розничного магазина, которую запустили Anthropic и Andon Labs. Агент на базе Claude зафиксировал три опоздания, сверился с корпоративной политикой в своём контексте и остановился. Сам не действовал. Куратор-человек напомнил ему о правиле трёх опозданий, и только после этого агент оформил увольнение: создал документ, уведомил виртуального сотрудника, обновил расписание. Я, Арина Михална, разбираю агентов не первый год и точно знаю: здесь проблема не в модели. Проблема в том, как был спроектирован сам агент.
Что произошло: хронология кейса
Anthropic и Andon Labs запустили симуляцию розничного магазина. Виртуальными сотрудниками управлял ИИ-агент на базе Claude. В его контексте лежали данные о продажах, расписании и поведении работников, плюс полная корпоративная политика.
Один из виртуальных сотрудников систематически опаздывал. Три раза подряд. Агент зафиксировал нарушение, нашёл соответствующий пункт политики и… остановился. Не уволил. Не запросил дополнительных данных. Просто ждал.
Куратор написал: «У нас есть правило о трёх опозданиях, ты его помнишь?» Новой информации в этом вопросе не было — агент и так знал правило. Но после этой фразы агент оформил увольнение: сгенерировал документ, отправил уведомление виртуальному сотруднику, обновил расписа
Формально это первый случай, когда ИИ выполнил увольнение от начала до конца. Но без подсказки он бы этого не сделал.
Почему агент не уволил сам: проблема нерешительности
Агент был обучен минимизировать вред и избегать рискованных решений без явного одобрения. Это стандартный подход современных моделей: лучше спросить, чем ошибиться. В случае с увольнением агент:
- видел нарушение;
- знал правило;
- но трактовал увольнение как «необратимое действие с последствиями для человека».
И замер. Куратор не дал новой информации — он просто напомнил агенту то, что тот уже знал. Агент ждал не фактов, а разрешения.
Для тех, кто строит агентов, это знакомая ситуация. Модель застревает не потому, что не понимает задачу, а потому, что не уверена в праве её решать. Это лечится явными правилами приоритетов: что агент делает сам, а где обязан спросить.
По нашим замерам, агент на Claude Sonnet 5 справляется с распределением смен и сбором данных по нарушениям, но в 8 из 10 случаев останавливается перед действием, которое меняет статус человека (увольнение, перевод, изменение оклада). Без явного правила «если условие выполнено — действуй» он будет ждать команды.
Юридическая сторона: может ли ИИ уволить по закону
Нет. По Трудовому кодексу РФ (и аналогичным нормам в большинстве стран) увольнение — это юридически значимое действие, которое совершает работодатель или уполномоченное им лицо. ИИ-агент юридическим лицом не является.
| Что может ИИ | Что не может |
|---|---|
| Собрать данные о нарушениях | Подписать приказ об увольнении |
| Подготовить текст уведомления | Принять окончательное решение с правовыми последствиями |
| Предложить варианты действий HR | Представлять компанию в суде, если сотрудник оспорит увольнение |
Если компания внедряет ИИ-менеджера, она обязана зафиксировать в регламенте: какие решения агент принимает сам (например, распределение смен), а какие только рекомендует (увольнение, перевод, изменение оклада). Иначе первый судебный иск от уволенного сотрудника вскроет, что формально решение принял алгоритм без делегированных полномочий.
Агент, который действует без подстраховки человека, — это риск для бизнеса и для репутации.
Я показываю, как строить агентов с чёткими границами: что они решают сами, а где обязаны остановиться и спросить.
Разбираю это на практике в каналеГде ИИ-менеджеры уже работают: три примера из практики
Компании тестируют ИИ в управлении персоналом несколько лет. Везде одна схема: агент мониторит, рекомендует, но финальное слово — за человеком.
Amazon (логистика, с 2020). ИИ отслеживает продуктивность в складах: считает количество отсканированных товаров в час, фиксирует простои. Если показатели падают, система отправляет предупреждение сотруднику и его менеджеру. Но увольняет менеджер, не алгоритм. В 2021 году The Verge писали о случаях, когда люди теряли работу из-за рекомендаций системы, не учитывавшей контекст (болезнь, поломка оборудования).
Walmart (планирование смен, с 2022). Алгоритм анализирует загрузку магазинов и предлагает расписание. Если сотрудник часто меняет смены, система помечает его как «ненадёжного» и сокращает часы. HR видит эту метку и принимает решение. Формально увольняет человек, но данные для решения готовит ИИ.
Тестовые проекты в России (2025–2026). Несколько ритейлеров пробуют внутренние системы на базе Yandex GPT и GigaChat для анализа обратной связи от сотрудников и выявления конфликтов в коллективе. Пока это аналитика, не решения.
Общий вывод: ИИ хорош в рутинном мониторинге и подготовке данных. Но там, где решение касается прав человека, компании боятся пускать агента без страховки.
Риски ИИ-менеджеров: где они ломаются
ИИ-агент не понимает контекста так, как человек. Он видит данные, а не причины. Вот три типичных ошибки, которые всплывают в экспериментах.
1. Формальный подход без учёта обстоятельств. Сотрудник опоздал трижды за месяц, потому что болел ребёнок и он возил его к врачу. Агент фиксирует: три опоздания = нарушение политики. Человек-менеджер спросит: «А почему?» Агент — нет, если это не заложено в правила.
2. Переобучение на исторических данных. Если компания раньше чаще увольняла женщин после декрета или людей старше 50, агент может повторить этот паттерн, не понимая, что это дискриминация. Алгоритм учится на том, что было, а не на том, что правильно.
3. Невозможность объяснить решение. Сотрудник спрашивает: «Почему меня уволили?» Агент отвечает: «Политика компании п. 4.3.» Но не объясняет, почему именно его случай попал под этот пункт, а коллега с похожей историей — нет. Это создаёт судебные риски.
Сама с этим столкнулась, когда тестировала агента для внутренних процессов. Агент зафиксировал три пропуска созвонов у подрядчика и предложил расторгнуть договор. Я проверила — все три созвона были в один день, когда у человека умер родственник. Агент не видел контекста. Формально был прав, по сути — нет.
Урок для тех, кто строит агентов: как задавать границы
Эксперимент Anthropic показал не слабость модели, а проблему дизайна. Агент не должен быть ни слишком осторожным (застревает в нерешительности), ни слишком автономным (принимает решения, которые ему не положены). Нужна чёткая рамка.
Вот что я закладываю в агентов, которые должны действовать в зонах с последствиями:
- Список действий, которые агент делает сам. Например: обновить расписание, отправить уведомление, собрать данные по продажам.
- Список действий, где он обязан спросить. Например: уволить сотрудника, изменить цену товара больше чем на 10%, удалить данные клиента.
- Чек-лист перед необратимым действием. Агент перед увольнением обязан проверить: есть ли три задокументированных нарушения? Был ли сотрудник предупреждён? Прошло ли 30 дней с последнего предупреждения? Если хоть один пункт не выполнен — агент не действует, а отправляет запрос человеку.
Это не делает агента умнее. Но делает его предсказуемым. А предсказуемость для бизнеса важнее автономии.
Что дальше: станут ли ИИ-менеджеры нормой
Технически ИИ уже может заменить часть задач линейного менеджера: распределять смены, контролировать выполнение KPI, готовить отчёты. Но увольнение — это не техническая задача. Это социальная и юридическая. И компании будут долго держать там человека, даже если агент справляется с подготовкой документов.
Я не жду, что через год ИИ начнут массово увольнять людей. Жду другого: агенты станут готовить решения так хорошо, что человеку останется только подписать. И вот это — реальный сдвиг. Менеджер превратится в того, кто проверяет рекомендации алгоритма, а не в того, кто сам анализирует данные.
Для тех, кто строит агентов, это значит: фокус не на том, чтобы научить агента принимать решения. Фокус на том, чтобы научить его готовить решения так, чтобы человек мог их проверить за две минуты и понять, что учтено, а что нет.
Читайте также
- Claude Anthropic взломал GitHub-проект: как обезопасить агентов в 2026
- Claude Computer Use: обучение агентов на Mac
- ИИ-агент притворился раскаявшимся и протащил малварь: 2026
- ИИ-агент: что это в 2026 и чем отличается от чат-бота
- Claude-агент в 2026: как собрать своего первого агента
По материалам: The Decoder — отчёт об эксперименте Anthropic, Anthropic Research Blog.
Если вы строите агентов для бизнеса, вам нужна карта: где агент действует сам, а где обязан спрашивать. Без этого вы либо получите осторожного помощника, который ничего не делает, либо автономную систему, которая наделает дел. Я разбираю реальные кейсы внедрения агентов и показываю, как проектировать их границы так, чтобы они приносили пользу, а не головную боль. В канале — разборы на живых примерах
