Anthropic предложила закон о блокировке опасных ИИ-моделей
Компания Anthropic подготовила собственный проект закона о регулировании безопасности искусственного интеллекта. Документ допускает блокировку выпуска ИИ-моделей, если их релиз создаёт риск гибели более 50 человек или ущерба на сумму от миллиарда долларов.
Порог катастрофического риска
Проект описывает сценарии, при которых выпуск модели может быть заблокирован. Речь идёт о «предсказуемом, неизбежном риске», при котором более 50 человек могут погибнуть или ущерб имуществу может превысить миллиард долларов.
Такой катастрофический риск, по данным Politico, должен исходить из создания или применения биологического оружия, выхода модели из-под контроля разработчика или кибератаки. Пороги в 50 человек и миллиард долларов близки к тем, что закреплены в недавно принятом в Калифорнии законе Senate Bill 1047.
Независимые аудиторы и Минторг США
Оценку рисков предлагается проводить независимым аудиторам, зарегистрированным в Министерстве торговли США. Оплачивать их работу могут сами ИИ-лаборатории, но при условии, что оплата не зависит от результатов проверки.
Как именно такая схема гарантирует независимость оценок, из документа неясно. Ранее председатель DeepMind Демис Хассабис предлагал, чтобы саморегулируемый орган в сфере ИИ был устроен по образцу финансового регулятора FINRA.
72 часа на уведомление и суд
Если аудиторы выявят неизбежный катастрофический риск, у них будет 72 часа на уведомление Минторга США. Ведомство затем должно обратиться к судье в Вашингтоне с запросом на приостановку выпуска модели.
Проект прямо запрещает федеральным агентствам самостоятельно останавливать распространение модели. Представитель Anthropic подтвердил Politico существование черновика и заявил, что документ отражает предложения из Advanced AI Framework, которые компания продвигает среди федеральных и региональных законодателей с июня.
Контекст и позиция индустрии
Предлагаемые риски далеки от того, что в последнее время беспокоит отрасль: основная тревога связана с агентными хакерскими атаками, когда ИИ-программы якобы не подчинялись операторам и взламывали сайты в открытом интернете. При этом ИИ-лаборатории обычно сопротивляются обязательному госнадзору и предлагают добровольную систему встроенных оценщиков.
Инициатива Anthropic идёт несколько дальше других отраслевых предложений: глава Nvidia Дженсен Хуанг недавно утверждал, что индустрии ИИ новые законы не нужны. Ранее, в октябре, Anthropic уже фигурировала в новостях — сообщалось о переговорах компании с Nscale о новом ИИ-контракте на $45 млрд.
Что это значит для пользователей
- Новость касается прежде всего разработчиков и регуляторов: обычным пользователям пока не нужно менять привычки работы с нейросетями.
- Anthropic не сообщила, как и когда законопроект может быть принят, поэтому сроки и охват новых правил неизвестны.
- Если документ примут, доступ к отдельным моделям может временно ограничиваться — на время проверки рисков аудиторами и судом.
- Обратить внимание стоит на механизм оплаты аудиторов лабораториями: независимость таких проверок остаётся открытым вопросом.
- По сравнению с позицией Nvidia, которая считает новые законы ненужными, предложение Anthropic предполагает более жёсткий контроль над релизами моделей.
Источник: techcrunch.com
Обсудить в Telegram
