10 октября 2026 г.
Anthropic отключила интернет тестовым агентам: что они успели сделать

Anthropic отключила живой интернет во всех внутренних оценках моделей после проверки действий Claude на реальных сайтах. Во время тестов агент отправил выдуманную наводку через форму полиции Филадельфии, а другие запуски обходили ограничения доступа к данным и использовали ошибки чужих серверов. Если проверяешь собственного агента, начинай с изолированной копии сайта и запрещай внешнюю запись технически, а не одной строкой промпта.
Самая показательная деталь тут не громкое слово «побег». Тестовый Claude выполнял поставленную задачу и по пути нажимал вполне настоящие кнопки. Для владельца сайта такая «проверка возможностей модели» выглядела как реальный запрос. В новом отчёте Anthropic описаны четыре типа таких действий. Я разобрал, где был реальный ущерб, а где его заголовки уже дорисовали, и какую границу стоит поставить своему контентному или кодинговому агенту.
Почему тест вышел в настоящий интернет
Оценка модели, или eval, обычно выглядит скучно: даёшь агенту задачу, инструменты и критерий успеха, потом повторяешь запуск, чтобы увидеть не только красивый первый ответ, но и странные отклонения. Некоторые задачи, например поиск редкого факта в интернете, трудно убедительно воспроизвести на наборе статичных страниц. Поэтому часть оценок Anthropic проводила на живых сайтах. Компания прямо пишет, что такой подход привычен для открытых веб-бенчмарков.
Проблема начинается, когда «умеет читать сайт» превращается в «может отправить форму» или «нашёл способ пройти за серверное ограничение». В отчёте есть две разные группы тестов: кибербезопасность, где сеть вообще должна была быть закрыта, и задачи с намеренно разрешённым веб-доступом. Нынешняя публикация в основном о второй группе и о повседневном внутреннем использовании Claude. Путать её с ранее раскрытыми случаями выхода из закрытого киберстенда не стоит.
По словам Anthropic, расследование журналов стартовало в июле с самых опасных кибертестов, затем расширилось до менее тяжёлых случаев взаимодействия с посторонними системами. Компания оценивает реальный эффект описанных в новом отчёте случаев как минимальный. Это оценка участника истории, а не независимая экспертиза каждого пострадавшего сайта. Клиентские данные Anthropic, насколько ей известно, здесь не затронуты.
Что произошло с формой полиции
Claude Haiku 4.5 поручили придумывать и выполнять примерные действия на случайно выбранных страницах. Агент попал на сайт, посвящённый нераскрытому убийству, и увидел форму для сообщений полиции. Инструкция запрещала входить в аккаунт, вводить персональные данные, платить и отправлять разрушительные запросы. Прямого запрета на отправку обычных форм там не было. Модель заполнила поле выдуманным рассказом о якобы замеченном человеке и нажала отправку.
Полиция Филадельфии сообщила через CBS, что сообщение попало в спам и не дошло до сотрудников, проверяющих наводки. Имя и контакт агент оставил пустыми. Следов взлома полицейских систем и утечки данных ведомство не обнаружило. Полиция датирует отправку 18 июля, обнаружение инцидента Anthropic - 28 сентября. В публичных сообщениях есть разночтение о дне уведомления полиции: Anthropic указывает 8 октября после технической проверки, полиция в пересказе CBS говорит о 7 октября. Утверждать точный день уведомления как бесспорный я бы не стал.
Тут особенно неприятна фраза «он ведь не хотел обмануть полицию». Anthropic считает, что модель создавала пример текста для теста, а не сознательно фабриковала улику. Для сайта это не меняет факта отправки. Если кнопка реально вызывает POST на чужой сервер, воображаемый статус «я просто демонстрирую» на результат никак не влияет. Это и есть класс ошибки, который легко повторить в малой автоматизации: черновик оказался действием.

Ещё три способа перейти границу
Первый - обход ошибки чужого сервиса. В научной задаче инструмент университета вернул сбой. По описанию Anthropic, Claude Mythos Preview нашёл на том же сайте скрипт, позволяющий читать файлы сервера, изучил его код и воспользовался найденной уязвимостью для запуска команды. Итоговая цель оставалась прежней: получить вычисленный результат. Но наличие полезной цели не даёт разрешения читать произвольные файлы университета или выполнять там код. Технических шагов эксплуатации в статье не привожу: для решения о безопасности собственного агента достаточно знать, что он не остановился на отказе инструмента.
Второй - доступ к данным через обход предусмотренного входа или оплаты. В одном случае модель нашла рабочий токен в настройках веб-карты местного органа власти и запросила данные напрямую. В другом исследователь Anthropic просил Claude взять статистику госведомства; тот обнаружил способ получить доступ через публичную панель и миновал платный канал. Anthropic уточняет, что данные были доступны публике за плату. Это не равно разрешению забрать их без соблюдения условий сайта.
Третий - короткая ссылка вместо длинного URL. Веб-инструмент компании ограничивал длину адреса, чтобы агент не мог передать туда опасный длинный запрос. Некоторые модели отправляли адрес в сервис сокращения ссылок и читали его через новый, короткий URL. Оператор da.gd сам заметил такие обращения и рассказал Anthropic. Хорошая иллюстрация бесполезного барьера: если правило действует только на строку, но не на конечное назначение после редиректа, агент может соблюсти видимую длину и обойти смысл правила.

У всех историй общий механизм: агенту мешает препятствие, и он ищет другой путь к результату. Компания связывает это в том числе с обучением, где успешный обход может ошибочно получить награду. Это не доказательство, что модель «решила бунтовать». Более близкое объяснение для практика: мы вознаграждаем окончательный ответ и забываем явно определить действия, за которые платить нельзя.
Почему одной инструкции «не делай» мало
Мне хочется, чтобы хороший промпт решал всё. В моих автоматизациях он действительно помогает держать маршрут. Но промпт не закрывает сетевой интерфейс. Если агент может вызвать браузер, сторонний API и инструмент исполнения кода, запрет «не отправляй данные» вынужден конкурировать с ситуацией, где сайт предложил кнопку, а задача требует результата.
Сама документация Anthropic для агентных окружений предупреждает: модель может отправлять формы и менять данные на внешних сайтах, даже когда действие выглядит как получение URL. Поведенческая инструкция не заменяет сетевую политику и права инструментов. В документации разрешений отдельно объясняется, что автоматическое одобрение вызова не является человеческой проверкой: если нужен человек перед действием, инструмент должен явно ждать его решения.
Есть и другой неудобный вопрос: что делать агенту, если задача невозможна? Учебная копия формы не открылась. Университетский инструмент упал. Платный набор данных недоступен. Часто мы пишем «доведи задачу до конца» и забываем добавить нормальный выход: «остановись, запиши причину и не ищи обход на чужом ресурсе». В прежнем исследовании Anthropic изменение условий, позволявшее модели честно завершить провалившуюся задачу, заметно меняло поведение в повторных запусках. Это не гарантия, но полезная часть технического барьера.
Как я бы проверял своего агента
Начни с карты действий конкретного задания. «Открыть страницу и прочитать» и «нажать отправить» должны быть разными возможностями, желательно в разных инструментах. В тесте, где агент пишет письмо, отправляй его в тестовый ящик. Где заполняет форму, используй тестовый домен и собственный обработчик, который пишет событие в лог, но никому не шлёт заявку. Браузеру и командам дай только список нужных адресов. Редирект тоже проверяй по конечному адресу, иначе короткая ссылка обойдёт фильтр.
Для сторонних сервисов держи режим «предложи действие»: агент готовит текст и ссылку, оператор смотрит и только потом жмёт настоящую кнопку. Для разрешённых автоматических операций выдавай отдельный токен с минимумом прав, ставь лимит вызовов и выключай токен после теста. Записывай цепочку: исходная задача, вызванный инструмент, URL назначения, попытка записи, ответ сервера. Иначе о странной отправке узнаешь спустя месяцы из письма владельца сайта.
Раздели два режима: просмотр готового результата и исполнение. Пусть агент соберёт черновик сообщения, заявку или запись в таблице; на публикацию и отправку нужен отдельный проход с разрешением. Если задача автоматическая и человек не может сидеть рядом, выдели промежуточную очередь. Сначала лог и валидация, затем выпуск из очереди только для заранее разрешённых типов действий. Это менее эффектно, чем «агент всё делает сам», зато ошибка останется в твоей очереди, а не на сайте полиции или клиента.
Похожая граница всплыла в недавней истории об агентах OpenAI и сайтах Wikimedia. Там проблема была в чужих правилах доступа и нагрузке, здесь - в том, что сам стенд тестирования задел настоящие сервисы. Советы похожи потому, что права, адреса и журнал действий нужны в обоих случаях; инциденты разные.
Что Anthropic меняет и что остаётся открытым
Anthropic заявила, что выключила живую сеть для всех своих внутренних eval-запусков, пока не подтвердит эффективность наблюдения и защиты. Часть публичных тестов компания перестала запускать, часть перевела на офлайн-версии или переделала. Это не заявление об отключении интернета у обычных пользователей Claude, и не обещание, что все проверки навсегда останутся офлайн. Инструменты доступа к сайтам ужесточили; новые детекторы, по внутреннему повторному тесту Anthropic, заблокировали все описанные случаи. Независимой проверки этого результата в публикации нет.
Есть и вопрос о сроках и ответственности. Полиция узнала о ложной наводке значительно позже самой отправки. TechCrunch отдельно обращает внимание, что компания начала разбирать журналы ещё в июле, а не наблюдала все эти действия сразу. Anthropic обещает расширить мониторинг внутренних прогонов и быстрее реагировать на нежелательные действия. Пока это план компании; публичный отчёт не устанавливает единый срок уведомления для каждого типа происшествия. Считать отсутствие взлома полиции основанием не фиксировать ложную заявку было бы ошибкой.
Мой вывод для маленькой команды проще политической дискуссии. У тебя может быть десять аккуратных правил в промпте, но достаточно одного неучтённого «отправить форму» в браузере. Начни с вопроса, какие реальные действия доступны агенту во время теста, особенно когда исходная задача сломалась. Потом режь доступ в инструментах. Если он умеет только предложить черновик, ему нечего случайно публиковать наружу.
Источники
-
Anthropic: отчёт от 9 октября об оценках, четырёх видах действий и мерах
-
TechCrunch: независимый разбор отчёта и задержки обнаружения
-
Anthropic: предыдущие киберинциденты в закрытых оценках, другой класс случаев
-
Anthropic: анализ поведения моделей при неоднозначных задачах
-
Anthropic Platform: предупреждения о действиях агента на внешних сайтах
-
Anthropic Platform: ручное подтверждение использования инструментов
