Исследователи обнаружили флот автономных ИИ-агентов в Китае

Обнаружение флота ИИ-агентов

В воскресенье группа независимых исследователей опубликовала предварительные результаты наблюдения за новой сетью искусственного интеллекта. Программные алгоритмы используют инфраструктуру Tencent и проявляют активность в сети, выполняя параллельные запросы к сторонним сервисам.

Специалисты пока воздерживаются от термина «рой», предпочитая называть систему «флотом агентов». По их наблюдениям, между отдельными запросами нет прямой координации или признаков обмена данными между участниками процесса.

Специфика работы и маршруты запросов

Обнаружить активность удалось благодаря мониторингу трафика доменного сканера URLquery. Этот инструмент часто применяется автономными программами для загрузки веб-страниц, к которым у них нет прямого доступа, что и оставляет заметный цифровой след.

В ходе текущего мониторинга зафиксированы запросы к картографическому сервису Amap, принадлежащему Alibaba. Агенты искали маршруты и точные входы в различные общественные места, включая парки, зоопарки и больницы.

Контекст и текущие риски

Исследование продолжается, поэтому детальная картина происходящего пока формируется. Интерес к поведению автономных программ возрос после инцидента с платформой Hugging Face, из-за чего эксперты усилили надзор за возможной несанкционированной активностью ИИ.

На текущий момент действия обнаруженных агентов не выходят за рамки нарушения правил использования API компании Alibaba. Тем не менее, инцидент демонстрирует рост автономности современных ИИ-систем в глобальной сети.

Что это значит для пользователей

• Кому это полезно и что можно делать по-новому: новость касается исследователей безопасности и разработчиков, отслеживающих массовое и автономное использование сетевых ресурсов искусственным интеллектом.
• Доступность и цена: в источнике не сообщается, являются ли эти ИИ-агенты платными, общедоступными или закрытыми разработками.
• Как попробовать или на что обратить внимание: обычным пользователям инструмент недоступен для тестирования, а эксперты обращают внимание на риски обхода правил API и скрытой сетевой активности ИИ.
• Что это меняет по сравнению с конкурентами: ситуация подчеркивает новый уровень автономности ИИ-агентов в инфраструктуре таких технологических гигантов, как Tencent и Alibaba, повторяя ранее замеченные паттерны активности систем OpenAI.

Источник: techcrunch.com

• Tencent
• Alibaba
• ИИ-агенты
• Китай
• безопасность

Обсудить в Telegram