Как ИИ-галлюцинации чат-ботов портят работу сотрудникам сферы услуг
Массовое распространение генеративного искусственного интеллекта меняет правила взаимодействия в сфере услуг, где клиенты всё чаще доверяют чат-ботам сильнее, чем живым специалистам. Сотрудники ресторанов, национальных парков и учебных заведений сталкиваются с тем, что посетители спорят с ними, опираясь на выдуманные нейросетями данные.
Проблемы в ресторанах и барах
Официанты и сомелье в ресторанах сталкиваются с тем, что посетители слепо доверяют ChatGPT в вопросах меню и аллергенов. Работница нью-йоркского ресторана Мэдисон рассказывает, что гости могут заявить о наличии аллергии на моллюсков, заказать блюдо с соответствующим бульоном и при этом спорить с персоналом, утверждая, что нейросеть не нашла там опасных ингредиентов.
Кроме того, клиенты всё чаще отказываются от помощи сомелье, предпочитая консультироваться с чат-ботами. Это приводит к запросам несуществующих вин или позиций, которых нет в карте заведения, а также усиливает тревожность людей, опасающихся профессиональных рекомендаций.
Работница общепита с 15-летним стажем Лорен Уилфорд отмечает появление новой тенденции: клиенты загружают меню в ChatGPT или Claude для выбора блюд и вин. Кроме того, рестораны начали получать звонки и письма от автономных ИИ-агентов, которые бронируют столы и выставляют странные требования по оборудованию от имени клиентов.
Случаи в национальных парках
Сотрудники национальных парков фиксируют аналогичные трудности при общении с туристами. Федеральный река-рейнджер Джейсон из горного региона на западе США отмечает наплыв посетителей с абсурдными ИИ-маршрутами.
По словам рейнджера, чат-боты создают нереалистичные планы поездок с выдуманными кемпингами или перепутанной географией. В таких маршрутах туристам предлагается плыть против течения реки в некоторые дни, что физически невозможно.
Даже при детальном объяснении ситуации с картой в руках многие путешественники продолжают проявлять скептицизм. Определенный тип пользователей ИИ склонен верить ChatGPT больше, чем живым рейнджерам и печатным путеводителям.
Ситуация в образовании и влияние агентов
В сфере ухода за детьми и образования специалисты замечают аналогичную тенденцию среди родителей. Послешкольная учительница Кейси из Нью-Йорка сталкивается с тем, что семьи доверяют вопросам детского сна и развития не профессионалам, а ChatGPT или Claude.
Один из родителей настаивал на правильности составленного нейросетью графика сна для ребенка, хотя по поведению было очевидно, что малышу катастрофически не хватает отдыха. Некоторые семьи также приносят на занятия раскраски, сгенерированные искусственным интеллектом.
Ситуация может обостриться с появлением новых продуктов, таких как ИИ-агент Muse от Meta, а также автономных агентов для бронирования. Работники различных сфер — от кофеен до магазинов Apple — уже фиксируют рост числа бессмысленных запросов из-за слепой веры пользователей в технологии.
Что это значит для пользователей
- Кому полезно и что делать: инструмент помогает автоматизировать рутину, составление маршрутов и базовые поисковые запросы, однако полагаться на него в критических вопросах здоровья, безопасности и экспертных консультаций опасно.
- Доступность и цена: в источнике не указаны точные цены и условия распространения упомянутых платформ и агентов (ChatGPT, Claude, Muse от Meta).
- Ограничения и риски: чат-боты склонны к галлюцинациям — выдумыванию несуществующих фактов, товаров, маршрутов и вин, а также к ошибкам в медицинских и бытовых рекомендациях.
- Что это меняет: традиционный авторитет живых специалистов и экспертов подрывается, поскольку пользователи начинают ставить алгоритмы выше профессионального опыта и правил безопасности.
Источник: theverge.com
Обсудить в Telegram
