Apple запретила в App Store приложения для «раздевания» на фото
Apple ужесточила правила App Store для разработчиков, запретив приложения, которые используют ИИ для создания оскорбительного контента и маскируются под обычный софт, чтобы пройти модерацию. Обновлённые гайдлайны опубликованы в блоге компании.
Что именно запретили
Apple обновила руководство для разработчиков, добавив жёсткие формулировки про ИИ и пользовательский контент. Под запрет попали приложения, которые создают оскорбительные материалы с помощью ИИ, а также те, что выдают себя за обычные программы ради одобрения в App Store, а затем открывают функции «раздевания» людей на фото или выводят их на первый план.
Отдельно компания указала на недопустимость скрытых или недокументированных функций. В блоге описана схема, известная как bait-and-switch: разработчик заявляет одну цель при проверке, а вредоносные возможности, включая «нудификацию», раскрывает уже после публикации.
Требования к контенту пользователей
Создатели сервисов с пользовательским контентом теперь обязаны фильтровать нежелательные материалы, давать людям возможность жаловаться на оскорбительный контент и блокировать аккаунты, которые ведут себя агрессивно. Эти требования Apple закрепила в обновлённых правилах.
Компания предупредила, что будет удалять приложения, в которых после проверки появляются функции, отсутствовавшие в отправленной на ревью версии. Санкции затрагивают и сами аккаунты разработчиков-нарушителей.
Правовой раздел и защита детей
Apple также обновила формулировки в юридическом разделе правил. Там усилено указание на то, что магазин не допустит приложения, способствующие торговле людьми и эксплуатации детей.
Это дополняет общий курс компании на ужесточение модерации. По данным Apple, за прошлый год её проверка не пропустила к пользователям более 150 тысяч приложений, а за мошенничество и злоупотребления было удалено 193 тысячи аккаунтов разработчиков.
Претензии властей и отчёты
В июле власти Сан-Франциско потребовали от Apple и Google очистить магазины приложений от сервисов для «нудификации». Городской прокурор Дэвид Чиу обвинил компании в том, что они зарабатывают на таких приложениях через комиссии магазинов.
В апреле отчёт Tech Transparency Project показал, что в магазинах обеих компаний размещалось несколько подобных приложений, часть из которых имела рейтинг, подходящий для несовершеннолетних. Ранее, в октябре, Apple представила складной смартфон iPhone Duo и открыла возможность заранее подготовить заказ на него.
Как будет работать модерация
Ключевой механизм — сверка опубликованной версии с той, что проходила ревью. Если после одобрения в приложении появляются новые возможности, особенно связанные с генерацией вредного контента, Apple обещает оперативно удалять такой софт из магазина.
Для сервисов с пользовательским контентом фактически вводится обязательный набор инструментов модерации: фильтры, жалобы и блокировки. Разработчикам придётся закладывать их до публикации, а не добавлять постфактум.
Контекст
Apple традиционно контролирует распространение приложений через App Store и использует правила ревью как инструмент борьбы с нежелательным софтом. Нынешнее обновление впервые так прямо связывает ИИ-генерацию изображений с запретом на «нудификацию» и на скрытые функции.
Правила касаются всех разработчиков, чьи приложения распространяются через магазин Apple, и вступают в силу вместе с публикацией обновлённых гайдлайнов.
Реакция рынка
Пока неизвестно, сколько именно приложений будет удалено по новым правилам. Apple не раскрыла статистику по «нудификациям» отдельно от общего числа заблокированных приложений.
Отраслевые наблюдатели связывают обновление с давлением регуляторов и общественных организаций, которые требовали от магазинов приложений активнее бороться с ИИ-инструментами для создания интимных изображений без согласия.
Что это значит для пользователей
- Пользователям нейросетей станет сложнее наткнуться в App Store на приложения, которые обещают «обработку фото», а на деле раздевают людей на снимках.
- Если вы публикуете свои фото в приложениях с ИИ-редактированием, проверяйте, есть ли в них кнопка жалобы и блокировки: теперь Apple требует такие инструменты от разработчиков.
- Apple не сообщила, какие именно приложения будут удалены и как быстро это произойдёт, поэтому уже установленный софт может оставаться на устройствах.
- Для разработчиков это означает более строгую проверку: скрытые функции и смена назначения после ревью приведут к удалению приложения и аккаунта.
- Стоит помнить о приватности: загружая личные снимки в сторонние ИИ-сервисы, вы не всегда знаете, как они хранятся и кто имеет к ним доступ, даже если приложение прошло модерацию.
Источник: techcrunch.com
Обсудить в Telegram
