Адам Шифф: добровольные обещания ИИ-лидеров не заменят законы
Американский сенатор Адам Шифф заявил, что добровольные обязательства руководителей ИИ-компаний по безопасности не способны заменить полноценное государственное регулирование.
Критика добровольных соглашений в Белом доме
Сенатор от штата Калифорния Адам Шифф раскритиковал недавнюю встречу в Белом доме, где руководители ведущих технологических компаний подписали необязывающий пакт о безопасности ИИ. По словам политика, публично те же лидеры заявляют о необходимости жестких законов, но идут на уступки администрации из-за опасений давления. В присутствии президента они соглашаются на формальные заверения, хотя реальная ситуация требует серьезного вмешательства.
Шифф подчеркнул, что бурный прогресс технологий и бесконтрольное развитие искусственного интеллекта создают серьезные вызовы. Конгресс уже упустил момент с регулированием социальных сетей и теперь рискует повторить аналогичную ошибку в сфере ИИ.
Угрозы национальной безопасности и Пентагон
По мнению сенатора, по мере того как продвинутые модели становятся сложнее и развиваются через рекурсивный ИИ, общество и эксперты теряют понимание их логики и принимаемых решений. Особую тревогу вызывает внедрение искусственного интеллекта в военные системы Пентагона, что при отсутствии контроля может привести к катастрофическим последствиям. В качестве примера проблем упоминаются вопросы выбора целей при бомбардировках и давление на компании, пытающиеся ограничить военное применение своих разработок.
В то же время администрация президента оправдывает свои действия соображениями национальной безопасности и утверждает, что масштабного вмешательства не требуется, так как технологические лидеры якобы патриотичны. Сенатор считает такой подход недостаточным на фоне реальных рисков.
Вопросы интеллектуальной собственности и законы
Будучи членом юридического комитета Сената, включая подкомитеты по интеллектуальной собственности, конфиденциальности и антимонопольной политике, Адам Шифф находится в эпицентре дискуссий о регулировании ИИ. Серьезной проблемой остается использование защищенных авторским правом материалов для обучения нейросетей, что затрагивает интересы индустрии развлечений и крупных технологических платформ. Сенатор совместно с коллегами работает над инициативой, которая обязала бы компании раскрывать перечень использованных для обучения защищенных материалов для последующей оценки принципов добросовестного использования.
Что это значит для пользователей
- Компания пока не сообщила информацию о доступности, стоимости и способах использования упомянутых в материале инициатив для широкого круга пользователей.
- Обычным пользователям и разработчикам стоит обратить внимание на возможные будущие ограничения и требования к прозрачности данных, используемых для обучения моделей.
- В отличие от добровольных заверений технологических лидеров, новые законы и требования к авторским правам могут существенно изменить правила работы с ИИ-системами.
Источник: theverge.com
Обсудить в Telegram
