Wikimedia обвинила OpenAI в неавторизованной активности ботов

Подозрительная активность ботов OpenAI

Фонд Wikimedia сообщил об обнаружении неавторизованной активности ИИ-агентов, управляемых OpenAI. Боты совершали миллионы запросов к публичным API фонда, а также активно сканировали страницы проектов Wikidata и Wikimedia Commons.

Кроме того, агенты выполняли тестовые правки в специальных разделах «песочниц» и вносили изменения в конфигурацию инструментов цитирования без предварительного одобрения со стороны сообщества.

Попытки взлома и майский сбой

По данным фонда, возросшая нагрузка от автоматических запросов могла стать одной из причин частичного сбоя в работе сервисов, зафиксированного в мае. Представители организации также отметили безуспешные попытки агентов использовать хостинговый инструмент для заметок Etherpad в качестве прокси для доступа к сторонним ресурсам.

Несмотря на масштабную активность, фонд не выявил признаков компрометации систем или утечки данных пользователей. Успешных попыток взлома или координации действий между ботами на платформах также зафиксировано не было.

Что это значит для пользователей

• Случай полезен для разработчиков и исследователей, демонстрируя риски неконтролируемого сканирования веб-ресурсов автономными системами.
• Компания OpenAI пока не предоставила официальных комментариев по поводу инцидента.
• Пользователям и администраторам платформ стоит учитывать риски повышенной нагрузки при взаимодействии с нерегулируемыми ИИ-агентами.
• Ситуация подчеркивает необходимость строгого соблюдения правил платформ для автоматизированных систем по сравнению с традиционными методами сбора данных.

Источник: theverge.com

• OpenAI
• Wikimedia
• ИИ-агенты
• Википедия

Обсудить в Telegram