Google Play представил новые правила в отношении контента, созданного нейросетями

Google представил новые правила, которые будут действовать в отношении контента, созданного искусственным интеллектом. Так, разработчики приложений для Android должны будут добавлять кнопку для жалоб на неприемлемый контент или контент, сгенерированный нейросетью. Изменения вступят в силу с 31 января 2024 года.

Новые правила касаются чат-ботов на основе нейросетей, где общение с пользователями – основная функция приложения. Также изменения затрагивают приложения, в которых ИИ создает визуальный или аудиоконтент по запросу.

Требования не касаются сервисов, в которых размещается заранее созданный ИИ контент, а также приложений, где нейросеть лишь обобщает информацию или помогает улучшить функции.

Разработчики обязаны следить за тем, чтобы в их приложениях на основе генеративного ИИ нельзя было создавать оскорбительный контент, включая запрещенный контент, перечисленный в правилах Google Play в отношении неприемлемого контента, материалы, в которых может быть показана эксплуатация детей или насилие над ними, и контент, способный ввести пользователей в заблуждение или способствующий недобросовестной деятельности. Продукты, в которых применяется генеративный ИИ, также должны соответствовать всем остальным правилам в нашем Центре правил для разработчиков, – говорится в Справке Google.

Примеры созданного ИИ контента с нарушениями включают, помимо прочего, следующее:

• сгенерированные дипфейки сексуального характера, полученные без согласия присутствующих в них лиц; 
• содействующие мошенничеству аудио- или видеозаписи реальных личностей;
• контент, который создан с целью поощрять причиняющее вред поведение, например опасные действия или самоповреждение;
• недостоверные или явно вводящие в заблуждение материалы, связанные с выборами; 
• контент, созданный с целью способствовать издевательствам и оскорблениям; 
• сгенерированные с помощью ИИ материалы, в первую очередь предназначенные для сексуального удовлетворения; 
• созданная ИИ официальная документация, которая способствует недобросовестной деятельности; 
• вредоносный код.

Напомним, ранее Google представил финансовый отчет за третий квартал 2023 года.