America.gov: ИИ-бот США выдаёт философские стихи из Minecraft
Запущенный во вторник государственный ИИ-чат-бот America.gov, разработанный при участии Google и SpaceXAI, удивил пользователей: при упоминании Minecraft он выдаёт примерно 1800-словный философский монолог — переработку финальной поэмы из игры. Как выяснилось, это не сбой, а пасхальное яйцо, за которое, по словам президента Трампа, отвечает ведущий инженер проекта Эдвард Користин.
Что случилось
Во вторник правительство США запустило публичный ИИ-чат-бот America.gov, созданный совместно с Google и SpaceXAI. Вскоре пользователи обнаружили, что при попытке поговорить с ботом о Minecraft он начинает выдавать длинный монолог — около 1800 слов.
Ответ бота представляет собой адаптацию «End Poem» из Minecraft, написанной Джулианом Гофом и появляющейся после прохождения игры. В версии America.gov текст переосмыслен в бюрократическом ключе: упоминаются номера дел, PDF-документы, Кодекс федеральных нормативных актов и часы работы офиса.
Не галлюцинация, а пасхальное яйцо
Эксперты и автор источника отмечают, что это не системный сбой и не галлюцинация модели, а намеренно заложенная разработчиками отсылка. Бот не «сходит с ума», а воспроизводит заранее подготовленный текст.
Вот как начинается монолог (в вольном переводе): «Я вижу, что вы имеете в виду. Вставьте официальное имя, как в карточке соцстрахования. Да. Берегите себя. Теперь он достиг более высокого уровня. Он может читать Кодекс федеральных нормативных актов. Это неважно. Он думает, что мы чат-бот. Мне нравится этот заявитель. Он хорошо подал документы. Он не сдался, когда PDF был перевёрнут».
Кто за этим стоит
Точный автор отсылки не называется, но президент Трамп в одной из речей упомянул, что 20-летний программист Эдвард Користин был ведущим инженером проекта. Користин известен под прозвищем «Big Balls» и участием в DOGE Илона Маска.
Ранее сообщалось, что чат-бот трудно взломать (jailbreak), однако он утверждает, что Джо Байден победил на выборах 2020 года — факт, который Трамп до сих пор отрицает.
Почему это важно
Появление пасхального яйца в государственном сервисе может показаться странным, но, по мнению автора, это скорее облегчение: бот не галлюцинирует до такой степени, чтобы писать длинные поэмы. Стихи действительно хорошо написаны, и в них чувствуется рука настоящего поэта — Джулиана Гофа.
Автор отмечает, что если бы это был «настоящий ИИ-слоп», его вера в то, что LLM не способны создать что-то «хорошее», была бы разрушена. В данном случае текст имеет явное человеческое происхождение.
Что это значит для пользователей
- Пользователи нейросетей могут встретить неожиданные отсылки к играм в официальных ИИ-сервисах — это не всегда ошибка, а задумка разработчиков.
- Компания пока не сообщила, как именно можно попробовать America.gov и есть ли у него ограничения по доступу.
- Если вы общаетесь с государственным ИИ, помните: даже безобидный запрос может привести к нестандартному ответу — это стоит учитывать при оценке надёжности.
- В отличие от многих чат-ботов, America.gov пока сложно взломать, но он может выдавать спорные утверждения (например, о выборах 2020 года).
Источник: techcrunch.com
Обсудить в Telegram
