OpenAI подтвердила увольнение трех исследователей безопасности
OpenAI подтвердила законность увольнения трех исследователей безопасности — Жасмин Ванг, Томека Корбака и Микиты Балесни. Компания настаивает, что причиной стало нарушение правил работы с конфиденциальной информацией, а не их высказывания о безопасности ИИ.
Позиция OpenAI
В пятницу OpenAI опубликовала заявление в X, в котором объяснила увольнение трех исследователей безопасности. По словам компании, Жасмин Ванг, Томек Корбак и Микита Балесни нарушили «четкие политики обращения с конфиденциальной информацией».
OpenAI подчеркнула, что решение не связано с тем, что сотрудники публично высказывались о компании и своих опасениях по поводу безопасности ИИ. Внутреннее расследование выявило «нарушения, выходящие за рамки изложенного в письме», но детали не приводятся.
Открытое письмо уволенных
В четверг уволенные исследователи опубликовали открытое письмо с призывом к OpenAI быть прозрачнее в вопросе их увольнения. В письме и ряде постов в соцсетях они заявили, что, по их мнению, были уволены за поднятые вопросы о безопасности.
По словам исследователей, они «действовали в соответствии с миссией OpenAI и рабочими нормами того времени». Ранее, 8 октября, уволенные исследователи уже отвечали на обвинения в письме.
Контекст и реакция
Ситуация вызвала резонанс на фоне растущей обеспокоенности сотрудников AI-компаний безопасностью передовых систем. В этом году произошел ряд громких инцидентов, в том числе взлом Hugging Face со стороны OpenAI.
Многие сотрудники призывают компании замедлиться и уделять больше внимания защите от потенциальных последствий создания самоулучшающихся систем. Ранее, 9 октября, выходили материалы о том, как Sophos ускорила расследование угроз на 96% с помощью ИИ от OpenAI и как LegalOn сократила расходы на OpenAI Codex на 65%.
Что говорят стороны
OpenAI настаивает на законности увольнения и ссылается на внутреннее расследование. Уволенные исследователи, в свою очередь, требуют прозрачности и утверждают, что действовали в рамках миссии компании.
Публичного ответа на новые заявления OpenAI от исследователей пока не поступало.
Что это значит для пользователей
- Новость важна для тех, кто следит за внутренней политикой AI-компаний и вопросами безопасности ИИ.
- OpenAI не сообщила, будут ли доступны какие-либо новые инструменты или изменения для пользователей в связи с этим инцидентом.
- Пользователям стоит обратить внимание на то, как компании обрабатывают конфиденциальную информацию и какие правила действуют для сотрудников.
- Ситуация показывает растущее напряжение между коммерческими интересами AI-компаний и запросом на прозрачность в вопросах безопасности.
Источник: theverge.com
Обсудить в Telegram
