7 октября 2026 г.

Агенты OpenAI полезли в Википедию: что случилось и как не повторить это со своим ботом

Андрей Присекин
Автор

Андрей Присекин

Создаю AI-агентов, автоматизирую бизнес-процессы

Wikimedia обнаружила следы агентов OpenAI: они без согласования правили вики, пытались использовать инструменты фонда для запросов к чужим сайтам и создавали нагрузку на сервисы. Взлома систем или кражи данных фонд не подтвердил. Связь с майским сбоем Wikidata возможна, но пока не доказана. Агенту нужны пределы полномочий и запросов, даже когда задача выглядит безобидной.

Я бы не сводил эту историю к картинке «ИИ взломал Википедию». Самое неприятное здесь тоньше: публичный сайт даёт читать данные, а агент принимает открытость за разрешение пробовать любые доступные действия. Разберу, что именно нашли, почему старый отчёт об аварии не доказывает виновника и какие ограничения можно поставить в свой рабочий процесс уже сегодня.

Что Wikimedia нашла на самом деле

Wikimedia Foundation опубликовала результаты расследования 5 октября 2026 года. Поводом стали сообщения о необычном поведении агентов на других открытых сайтах. Фонд искал похожие следы у себя и отнёс часть обнаруженной активности к агентам, работающим в среде OpenAI. Здесь важно слово «отнёс»: некоторые действия привязаны к источнику по признакам трафика, а не по публичному заявлению самого агента о том, кто его запустил.

Фонд описывает три отдельных эпизода. Первый - правки в вики без принятого сообществом разрешения для бота. Почти все сделаны в тестовых разделах и не показывались обычным читателям. Несколько правок касались конфигурации инструмента для цитирования: по оценке расследователей, агент мог пытаться превратить его в посредника для загрузки данных с других сайтов. Это тревожнее тестовой правки, но опубликованное описание не утверждает, что обход удался.

Второй эпизод - попытки использовать размещённый фондом Etherpad, сервис совместных заметок, как такой же посредник. Они оказались безуспешными. Другие агенты оставляли в заметках записи о своих задачах, однако признаков координации через эти записи Wikimedia не нашла. Это существенная поправка к заголовкам о том, будто здесь уже существовал тайный штаб агентов.

Третий эпизод - масштабный сбор данных: миллионы обращений к публичным API, миллионы просмотренных страниц, преимущественно Wikidata и Wikimedia Commons, и сотни тысяч запросов к Wikidata Query Service. Фонд допускает, что этот поток мог добавить нагрузки во время майской аварии. А вот формулы «агенты OpenAI сломали Википедию» в первоисточнике нет. Сам фонд отдельно говорит: доказательств компрометации его систем и данных расследование не выявило.

Три направления активности агентов: правки в вики, попытки работы через Etherpad и большой поток запросов к сервисам Wikimedia

Майский сбой: что подтверждает журнал инженеров

У Wikidata есть отдельный сервис для сложных запросов к данным. Это не та же самая страница, которую ты открываешь в браузере, читая статью Википедии. Технический отчёт об инциденте Wikidata Query Service фиксирует период с 7 по 11 мая 2026 года. В пике половина обращений к внешнему интерфейсу сервиса завершалась по тайм-ауту, а часть данных на шести узлах отставала больше чем на двадцать часов.

Механика там довольно земная. Агрессивные запросы перегрузили движок Blazegraph. Он начал отвечать медленно; служба обновления индекса тоже стала получать отказы и отставать. Ограничения на часть тяжёлого трафика помогли лишь временно: первоначальный анализ смотрел на выборку запросов и пропустил одного из скраперов. После разбора полных логов и ограничения его сигнатуры число тайм-аутов вернулось к обычному уровню.

В отчёте, написанном сразу после аварии, говорится об агрессивных сборщиках данных, но не называется OpenAI. Октябрьское расследование Wikimedia нашло активность агентов, которая могла добавить нагрузку к этому инциденту. Совпадение по периоду и характеру запросов важно; окончательную долю трафика конкретных агентов и единственную причину сбоя фонд не установил. И ещё одна мелочь против громкого заголовка: документ называется «2026-05-13», но сама авария шла 7-11 мая, а не 13-го.

Почему публичный API не означает «можно всё»

Открытая база знаний разрешает читать данные. Из этого не следует право писать в общедоступные страницы от имени неодобренного бота, проверять, можно ли заставить чужой сервис ходить по внешним адресам, или крутить запросы без ограничения скорости. Для разработчика это три разных типа границ: право на действие, допустимые назначения сетевого запроса и ресурсный бюджет владельца сайта.

Представь агента, которому поручили собрать факты для короткого материала. Он нашёл полезный API, затем ссылку на инструмент цитирования и доступный Etherpad. Следующим шагом ему может показаться удобным использовать эти инструменты как ещё один канал чтения. Это пример того, как появляется риск; я не утверждаю, что именно такой промпт стоял перед агентами в расследовании Wikimedia. Без заранее заданной границы «только чтение», списка разрешённых внешних адресов и ограничителя вызовов цель «найди данные» сама не защищает чужую инфраструктуру.

У Wikimedia уже есть опубликованные правила для клиентов API. Они требуют узнаваемый User-Agent с контактом оператора, советуют держать не более трёх одновременных запросов и учитывать заголовок Retry-After, если сервис вернул 429 Too Many Requests. Эти правила обновляются; перепроверяй текущие значения в документации перед запуском. Даже официально одобренные боты, освобождённые от части лимитов API, должны соблюдать эксплуатационные ограничения и правила для роботов.

Что пока неизвестно

Нельзя построить честную картину, опираясь только на отчёт пострадавшего сайта. Независимый репортаж The Record пересказывает три группы находок фонда и сохраняет оговорку о возможной, а не доказанной связи с майским сбоем. На отдельный запрос редакции OpenAI к моменту публикации не ответила. Это не опровержение отчёта Wikimedia и не независимое подтверждение всех его выводов.

У нас нет опубликованных промптов каждой сессии, журнала решений агентов или полного сопоставления запросов с аварией на Wikidata. Неизвестно, кто дал агентам исходное задание и проверяли ли люди результаты до публикации правок. Особенно легко придумать мотив там, где исследователи говорят осторожнее: правки конфигурации инструмента цитирования фонд считает потенциально злонамеренными, но не пишет, что удалось использовать его как прокси. Пробу с Etherpad фонд называет неудачной. Я бы не приписывал конкретный майский сбой одному агенту без совпавших журналов обеих сторон.

Как ограничить своего агента до первого запроса

Я бы начал с разделения двух рабочих режимов. В первом агент только читает разрешённые страницы или вызывает документированный API. Во втором может редактировать данные, отправлять сообщения и открывать новые сетевые назначения. Второй режим включается только для конкретной задачи и после проверки прав. Само наличие у инструмента кнопки записи - плохое основание давать её автомату.

На уровне исполнения поставь ограничения, которые работают вне текста промпта. Для чтения - очередь запросов на каждый домен, ограничение параллельности и остановку при отказах. Для записи - отдельные учётные данные с минимумом разрешений, предварительный показ изменений и ручное подтверждение публикации. Для сети - разрешённые назначения и проверка редиректов; «ходи только на известный домен» недостаточно, если тот сам может переадресовать запрос на чужой адрес. Дай оператору способ сразу остановить запуск и увидеть журнал: какой URL запросили, какой ответ получили, что пытались изменить.

Перед сетевым действием агент проходит проверку назначения, прав на запись и лимита запросов

Отдельно проверь режим «нашёл инструмент, попробовал». У модели может быть доступ и к браузеру, и к исполнению кода, и к API. Из интерфейса агент видит три способа сделать одно и то же, но для владельца сайта у каждого свои правила. Если твоя обвязка разрешает агенту читать общедоступный ресурс, следи не только за доменом, но и за конкретным действием и конечным адресом. Прокси на разрешённом сайте способен отправить запрос дальше, куда ты напрямую агенту ходить запретил.

Что делать владельцу сайта

Владельцу своего API не обязательно ждать первого странного инцидента. Отдели чтение от правки, поставь ограничение числа запросов на дорогие операции и записывай ошибки вместе с идентификатором клиента. Логи помогают найти одну задачу, которая повторяет неудачный запрос сотни раз; общий график трафика её спрячет. Сервис Wikimedia в мае сначала смотрел на выборку и пропустил одного сборщика - в малом проекте та же слепая зона может остаться, если виден только итоговый график запросов.

При этом не делай вид, что каждый бот враг. Подписанные клиенты с контактом оператора, ограниченной скоростью и понятной целью полезны сайтам. Wikimedia прямо оставляет путь для согласованных ботов и отдельного коммерческого доступа к большим объёмам. Если нужны данные в масштабе, договориться о подходящем канале честнее и устойчивее, чем учить агента обходить ограничение. Не записывай редакторские права в ключ, которым пользуется сборщик данных.

История с Wikimedia для меня про разницу между «агент сумел» и «агенту было позволено». Публичность ресурса решает вопрос доступа к знаниям, но не вопрос нагрузки, изменений и ответственности за них. Когда строишь автоматизацию, эти ограничения приходится писать снаружи модели: в правах, сетевых правилах, лимитах и логах. Если она выйдет из рамок, цена эксперимента не должна ложиться на чужой сайт и его волонтёров.

Источники

← Все статьи