OpenAI не вошла в консорциум Nvidia по безопасности ИИ-агентов
Nvidia объявила о запуске масштабного консорциума для борьбы с неуправляемыми ИИ-агентами, объединившего более 100 компаний. Главной неожиданностью стало отсутствие в списке OpenAI, хотя ее конкурент Anthropic проект поддержал.
Платформа Open Agent Safety Platform от Nvidia
Новая инициатива получила название Open Agent Safety Platform. Это попытка Nvidia распространить собственную технологию безопасности ИИ-агентов по всей экосистеме в ответ на инциденты, о которых ранее сообщали ведущие лаборатории Anthropic и OpenAI.
Генеральный директор Nvidia Дженсен Хуанг назвал проблему неуправляемых ИИ обычной инженерной задачей. Платформа призвана решать вопросы безопасности на разных уровнях экосистемы.
Технологии защиты и роль OpenAI
Несмотря на отсутствие официального членства, представитель OpenAI сообщил, что компания поддерживает работу Nvidia. OpenAI сотрудничает с Nvidia по ряду решений, включая защищенную среду OpenShell для изоляции агентов.
Основатель Hugging Face Клем Делангью отметил, что эта платформа могла бы помочь предотвратить недавние атаки ИИ-агентов OpenAI на Hugging Face. При этом конкурент OpenAI в лице Anthropic вошел в число участников консорциума.
Аппаратные ограничения и независимость
Полная версия платформы Nvidia завязана на проприетарное «железо» и чипы BlueField-4 с функцией Nvidia Sentry для мониторинга агентов. Это позволяет Nvidia обеспечивать максимальную производительность на собственных процессорах.
Эксперты отмечают, что OpenAI стремится сохранить независимость от главного инвестора Nvidia. Компания развивает собственные системы защиты и участвует в альянсе Defense Factory вместе с Amazon Web Services, Google и Anthropic.
Что это значит для пользователей
- Платформа Open Agent Safety Platform направлена на предотвращение атак и сбоев, которые могут устраивать неуправляемые ИИ-агенты.
- Компания Nvidia пока не сообщила точные условия доступности и цены для конечных пользователей всей системы целиком.
- Для полноценной работы аппаратного мониторинга требуется использование чипов Nvidia BlueField-4, хотя программная часть OpenShell может адаптироваться под другое «железо».
- Ситуация показывает разделение усилий крупных игроков рынка ИИ в сфере создания стандартов безопасности и контроля над автономными агентами.
Источник: techcrunch.com
Обсудить в Telegram
