OpenAI заблокировала две ИИ-сети влияния с фальшивыми журналистами

Что обнаружила OpenAI

Компания OpenAI выявила и пресекла деятельность двух скрытых сетей, которые использовали языковые модели для генерации контента. Злоумышленники создавали фальшивых журналистов и вымышленные аналитические центры, чтобы маскировать пропаганду под независимую аналитику.

По данным источника, эти операции были направлены на распространение геополитических сообщений. Для создания убедительных текстов активно применялись возможности искусственного интеллекта.

Методы и маскировка

Злоумышленники применяли тактику «ложного фронта»: от имени вымышленных журналистов и аналитических центров публиковались материалы, которые выглядели как независимые экспертные мнения. Это позволяло скрывать истинные источники и цели влияния.

Языковые модели использовались для генерации контента, что упрощало создание большого объёма текстов и повышало убедительность фальшивых публикаций. OpenAI не раскрывает деталей о том, какие именно модели были задействованы.

Реакция OpenAI

OpenAI заблокировала эти сети в рамках своей политики противодействия вредоносному использованию ИИ. Компания регулярно публикует отчёты о подобных инцидентах, подчёркивая важность безопасности и этичного применения технологий.

Ранее, в октябре, на нашем сайте выходили материалы о других инициативах OpenAI, включая фильм Луки Гуаданьино и публикацию математических работ.

Контекст и подобные случаи

Это не первый случай, когда OpenAI сообщает о блокировке сетей влияния. Компания активно сотрудничает с исследователями и правоохранительными органами для выявления и предотвращения злоупотреблений.

Использование ИИ для создания фейковых новостей и манипуляции общественным мнением становится всё более распространённой проблемой. Технологические компании сталкиваются с необходимостью балансировать между открытостью моделей и защитой от их вредоносного применения.

Что это значит для пользователей

• Пользователям нейросетей стоит быть внимательнее к источникам информации: ИИ может создавать убедительные, но фальшивые материалы.
• OpenAI не сообщила, какие именно модели были использованы злоумышленниками, и доступны ли они публично.
• Компания пока не раскрыла, будут ли введены новые ограничения для пользователей или изменения в политике использования.
• Эта новость подчёркивает важность критического мышления при потреблении контента, особенно на геополитические темы.

Источник: openai.com

• OpenAI
• ИИ-безопасность
• фейковые новости
• сети влияния
• языковые модели

Обсудить в Telegram