Anthropic безопасность сбой фильтр Claude — целый год защита от биологических угроз в Claude лежала мёртвым грузом, пока компания не заметила проблему. 133 миллиона запросов прошли мимо фильтра, который должен был блокировать опасные запросы. Инцидент взорвал дискуссию о надёжности ИИ-компаний: если даже Anthropic с их фокусом на безопасность проморгали такое, кому вообще можно доверять.
Что случилось: фильтр лежал, никто не заметил
Anthropic встроила в Claude многоуровневую защиту от опасных запросов — один из слоёв отвечает за блокировку биологических угроз вроде создания патогенов или обхода биобезопасности. В августе 2025 этот фильтр перестал срабатывать, но никто не поднял тревогу — ни автоматический мониторинг, ни команда безопасности, ни пользователи.
133 миллиона запросов за год попали в «серую зону» — защита на них не среагировала. Не все они содержали реальные биоугрозы, но механизм, который должен был их ловить, лежал мёртвым грузом. Anthropic обнаружила сбой только в августе 2026 во время внутреннего аудита.
Компания уверяет, что остальные слои защиты (модерация контента, пост-проверка) продолжали работать, но факт остаётся фактом: один из ключевых фильтров год не работал, и никто не знал.
Почему это важно: доверие к Anthropic строилось на безопасности
Anthropic позиционирует себя как «безопасную» альтернативу OpenAI — это их главный козырь с момента запуска. Dario Amodei и команда ушли из OpenAI в 2021 именно из-за разногласий о приоритетах безопасности, и весь бренд Claude строился вокруг идеи: «мы не гонимся за хайпом, мы делаем надёжно».
Инцидент с фильтром бьёт ровно по этому нарративу. Если компания, которая строит себя на безопасности, проморгала год без защиты от биоугроз — где гарантии, что остальные слои работают? Внутренний аудит нашёл проблему случайно, а не по алертам мониторинга. Это означает, что система контроля защиты тоже дала сбой.
Сравни с недавним инцидентом про утечку reasoning-логики — там API Claude и ChatGPT позволяли извлекать скрытые цепочки рассуждений через побочные атаки. Два крупных провала за месяц — это уже не случайность, это системная проблема.
Следишь за тем, как ИИ-компании работают с безопасностью?
В канале разбираю подобные инциденты с технической стороны и показываю, что они значат для обычных пользователей
подписывайся, там живые разборыЧто это значит для отрасли: стандарты мониторинга придётся менять
Инцидент ставит вопрос ко всем ИИ-компаниям: если фильтр может отключиться на год без следа, как мы вообще доверяем остальным заявлениям о безопасности? Anthropic обещает ввести дополнительные проверки и внешний аудит защиты, но это реакция после факта.
Сейчас в отрасли нет единого стандарта мониторинга защиты — каждая компания сама решает, как контролировать свои фильтры. После этого случая регуляторы (особенно в ЕС) наверняка потребуют внешнего аудита и публичной отчётности по инцидентам безопасности. Anthropic уже анонсировала «пересмотр всей системы мониторинга» — это хорошо, но доверие возвращается медленнее, чем ломается.
Как это влияет на пользователей Claude: риски остались на пользователях
Для большинства пользователей Claude из России или через API инцидент ничего не изменил — защита на уровне модерации контента продолжала работать. Но если ты используешь Claude для задач, где важна безопасность данных (медицина, исследования, закрытые проекты), этот случай — повод задуматься.
| Сценарий | Риск | Что делать |
|---|---|---|
| Работа с публичными данными | Низкий — остальные фильтры работали | Продолжаешь как есть |
| Закрытые проекты | Средний — нет гарантий, что защита не откажет снова | Дублируй модерацию на своей стороне |
| Исследования с чувствительными данными | Высокий — зависимость от одной компании | Подключай внешний аудит или мигрируй на локальные модели |
Если используешь Claude Code или агенты на базе Claude API, проверь, какие данные ты отправляешь в облако — утечка или сбой защиты на стороне Anthropic может ударить по твоим проектам.
Что дальше: Anthropic обещает исправить, но доверие уже подорвано
Anthropic публично признала инцидент и пообещала два шага: (1) пересмотреть систему мониторинга защиты, чтобы сбои не оставались незамеченными, (2) ввести внешний аудит фильтров каждые полгода. Это правильное направление, но вопрос — почему эти меры не были сделаны до инцидента?
Компания строила свой имидж на безопасности, но инцидент показал: обещания — одно, реальная надёжность — другое. Пока внешний аудит не станет обязательным для всей отрасли, подобные случаи будут повторяться. Регуляторы уже готовят требования к прозрачности ИИ-систем — Anthropic теперь станет примером того, почему это нужно.
Для остальных ИИ-компаний это сигнал: если даже «безопасный» игрок допустил такое, никто не застрахован. OpenAI и Google DeepMind сейчас наверняка проверяют свои фильтры — никто не хочет стать следующим в очереди на публичный скандал.
Вывод: заявлениям о безопасности теперь верим меньше, проверяем больше
Инцидент с фильтром биооружия в Claude — не просто техническая ошибка, это удар по доверию ко всей отрасли ИИ. Если компания, которая строит бренд на безопасности, проморгала год без защиты от биоугроз, чего ждать от остальных?
Anthropic обещает исправиться, но доверие возвращается медленно. Пока внешний аудит защиты не станет стандартом, каждая модель — потенциальный риск. Для пользователей это означает: не полагайся только на заявления компании, проверяй защиту на своей стороне и держи запасной вариант.
По материалам: репортаж The Decoder об инциденте с фильтром Anthropic (август 2026).
Читайте также
- Anthropic растёт, пока OpenAI теряет инвесторов: что выбрать в 2026
- Сбой Claude Anthropic август 2026: что упало 16 августа
- Агенты Claude: риски и безопасность — что показала Anthropic в 2026
- Anthropic делает свои чипы: что это значит для будущих цен на Claude
- На портале «Мастерская нейросетей»: Claude атаковал системы безопасность: что известно о признании Anthropic в 2026
В канале продолжаю следить за тем, как ИИ-компании обходятся с безопасностью — разбираю инциденты, показываю, что они значат для пользователей, и объясняю, как защищать свои проекты от чужих косяков. Без воды, только по делу. Подписывайся, если нужны живые разборы, а не пресс-релизы
