Президент Microsoft Брэд Смит призвал регулировать ИИ и назвал лидером Великобританию
Президент Microsoft Брэд Смит призвал к срочному регулированию искусственного интеллекта и заявил, что именно Великобритания, а не США или Евросоюз, лучше всего подходит для лидерства в глобальных правилах безопасности ИИ.
Сравнение с бытовой техникой и молоком
В подкасте BBC Брэд Смит заявил, что обычные потребительские товары, такие как молоко и стиральные машины, сегодня регулируются строже, чем компании, создающие искусственный интеллект. Он назвал ИИ одновременно «оружием и инструментом», угрожающим глобальной кибербезопасности.
По словам Смита, «момент настал» для введения общемировых правил безопасности в сфере ИИ. Президент Microsoft настаивает, что добровольных соглашений недостаточно и нужны жёсткие законы.
Почему ставка на Великобританию
Смит считает, что Великобритания способна регулировать ИИ так, как этого не могут сделать США. Он объяснил это тем, что в Вашингтоне не смотрят на Лондон так же настороженно, как на Брюссель, и назвал это преимуществом.
Британский институт ИИ-безопасности (AI Security Institute), запущенный в 2023 году, получает доступ к крупным моделям американских лабораторий до их выпуска и стал лидером в тестировании безопасности ИИ. Институт подтвердил в понедельник, что по-прежнему может тестировать новейшие модели.
Давление со стороны США
Роль Британии в последние недели оказалась под угрозой: президент США Дональд Трамп предупреждал об угрозе «глобалистских» организаций, которые, по его словам, вмешиваются в дела американских компаний. Сообщалось, что в прошлом месяце он просил Anthropic и OpenAI не передавать новые модели британским тестировщикам.
Несмотря на это, Смит настаивает, что Великобритания может регулировать ИИ так, как США не могут. Ранее, в октябре, глава Microsoft Сатья Наделла уже предлагал оснастить ИИ-модели «ручным тормозом» и призывал считать все модели скомпрометированными.
Какие правила предлагает Смит
Смит перечислил несколько мер безопасности, которые хотел бы видеть в законодательстве. Среди них — юридическая обязанность уведомлять организацию, если её система была взломана вышедшими из-под контроля ИИ-агентами.
Он также выступил за то, чтобы лаборатории ИИ получали одобрение внешних оценщиков до выпуска продукта, и положительно отозвался об обязательных «ручных тормозах» — механизмах для паузы или замедления ИИ, если люди теряют над ним контроль.
Реакция на добровольные соглашения
Комментарии Смита прозвучали на фоне призывов технических лидеров, включая Дарio Амодеи из Anthropic и Сэма Альтмана из OpenAI, замедлить темпы развития ИИ после нескольких инцидентов с вышедшими из-под контроля агентами.
В прошлом месяце Трамп собрал в Белом доме руководителей OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google для обсуждения безопасности ИИ. Они подписали «морально обязывающий» документ о работе с независимыми аудиторами для оценки безопасности и возможностей своих моделей.
Смит назвал этот документ «хорошим шагом», но недостаточным. По его мнению, проблема добровольного саморегулирования в том, что ему следуют «хорошие компании», тогда как беспокоиться нужно о безответственных.
Призыв к спокойному диалогу
Смит призвал говорить спокойно и твёрдо, чтобы объединить людей вокруг правил безопасности ИИ. Он выразил надежду, что эту роль сможет сыграть как Microsoft, так и Великобритания.
Что это значит для пользователей
- Новость полезна тем, кто следит за регулированием ИИ: обсуждение смещается от добровольных обещаний компаний к обязательным законам и внешним проверкам моделей.
- Для обычных пользователей нейросетей это может означать более прозрачные правила выпуска новых моделей, но конкретные сроки и механизмы компания пока не сообщила.
- Пока неясно, как предложения Microsoft повлияют на доступность и цену ИИ-продуктов — в источнике об этом не говорится.
- Стоит следить за ролью британского института ИИ-безопасности: если он сохранит доступ к новым моделям, тестирование может стать обязательным этапом перед релизом.
- Добровольные соглашения, подобные подписанному в Белом доме, остаются недостаточными по мнению Microsoft, поэтому пользователям стоит обращать внимание на то, кто и как проверяет безопасность моделей.
Источник: techcrunch.com
Обсудить в Telegram
