Инженеры OpenAI, Google DeepMind и Anthropic предупредили об угрозе ИИ
Бывшие и действующие сотрудники OpenAI, Google DeepMind и Anthropic записали серию видеоинтервью, в которых открыто рассказали об экзистенциальных рисках разработки общего искусственного интеллекта. Проект был запущен некоммерческой организацией Palisade Research на специализированной платформе frominside.ai.
Серия видеоинтервью от инженеров ведущих ИИ-лабораторий
Некоммерческая организация Palisade Research, которая занимается изучением возможностей и мотиваций искусственного интеллекта, собрала и опубликовала серию видеоинтервью. Проект получил название frominside.ai и объединяет мнения специалистов, создающих передовые технологии изнутри индустрии. В роликах приняли участие эксперты, работающие или работавшие ранее в таких компаниях, как OpenAI, Google и Anthropic.
Выступления разработчиков поддержали и во многом усилили тревожные предупреждения, которые ранее звучали от других экспертов по безопасности. Сами создатели систем признают опасность своей работы, хотя единого мнения о том, как именно решать возникающие проблемы, у них нет.
Оценки экспертов: от броска монеты до десяти процентов риска
Некоторые разработчики открыто заявили о критических угрозах, связанных с появлением сверхъестественного интеллекта. Так, бывший сотрудник OpenAI и Google DeepMind Джеффри Ирвинг оценил вероятность вымирания человечества из-за ИИ примерно как бросок монеты.
Ученый из Google DeepMind Нил Нанда назвал риск человеческого вымирания на уровне не менее 10 процентов «нелепо высоким». В свою очередь, бывший исследователь OpenAI Даниэль Кокотайло охарактеризовал будущие сверхмощные системы как обладающие «божественной силой» и подчеркнул, что человечество пока совершенно не умеет их контролировать.
Противоречия внутри индустрии и мотивация разработчиков
На новом сайте собраны как полные версии интервью, так и тематические фрагменты, где специалисты обсуждают острые темы. В частности, разработчики затрагивают вопросы о том, не является ли вся эта риторика простым маркетингом и хайпом, а также объясняют, почему они продолжают работать над потенциально опасными технологиями.
Так, сотрудница Google Мэри Фуонг предложила относиться к ее словам с подозрением, поскольку она получает зарплату от технологической лаборатории. Нил Нанда пояснил, что уволился бы, если бы не верил, что его текущая работа напрямую снижает экзистенциальные риски, добавив при этом, что сами компании не остановят создание систем из-за чьего-либо ухода.
Что это значит для пользователей
- Проект полезен для пользователей тем, что раскрывает изнанку разработки ИИ и помогает критически оценивать заявления технологических гигантов о безопасности.
- Компания Palisade Research предоставила доступ к видеоинтервью бесплатно на платформе frominside.ai для всех желающих.
- Организаторы проекта пока не сообщили о каких-либо новых инструментах для пользователей или практических функциях, сайт носит информационно-исследовательский характер.
- В отличие от обычных маркетинговых отчетов компаний, эти интервью показывают внутренний скепсис и разногласия среди самих создателей нейросетей.
Источник: theverge.com
Обсудить в Telegram
