В App Store вступили новые правила Apple: для дипфейков на базе ИИ вводится строжайшая проверка

Главный смысл: Apple ужесточила правила App Store в отношении интимных изображений, созданных ИИ без согласия изображённого человека. Изменения касаются и самого контента, и обхода проверки: разработчикам запрещают скрывать опасные функции до одобрения приложения.

• Прямой запрет. По сообщению IT Home, 16 октября Apple обновила правила проверки приложений. В пункте 1.2 отдельно обозначены интимные изображения без согласия человека, включая созданные ИИ. От сервисов с пользовательским контентом требуются фильтрация, механизм жалоб, своевременная реакция, возможность блокировать нарушителей и открытые контактные данные.

• Обход проверки. Новый пункт 2.5.19 запрещает скрывать реальные возможности приложения при проверке, а после допуска включать функции вроде генерации обнажённых изображений. Последствия могут затронуть не только приложение: помимо удаления из магазина, разработчику грозит исключение из Apple Developer Program.

• Предыстория с Grok. Как передаёт статья со ссылкой на 9to5Mac, Apple ранее предупреждала xAI о возможном удалении Grok из-за сексуализированных дипфейков. По этим данным, обновление одобрили после добавления защитных механизмов. Также власти Сан-Франциско требовали убрать восемь приложений, создававших интимные изображения без согласия людей.

• Другие каналы распространения. Apple распространила запрет на приложения, способствующие торговле людьми или эксплуатации детей, на альтернативные каналы доставки приложений. Это отдельное расширение требований, а не указание на запрет всех ИИ-редакторов.

Что дальше: Следить стоит за практикой применения: какие приложения действительно удалят и насколько тщательно будут проверяться функции, включаемые после одобрения. Статья не приводит результатов массовой повторной проверки или оценки эффективности фильтров. Обновлённые правила сами по себе ещё не подтверждают, что генерация запрещённых изображений стала недоступна.