Популярная видеоплатформа TikTok объявила о запуске новой системы, которая будет автоматически помечать контент, сгенерированный с использованием технологий искусственного интеллекта (ИИ).

Видеоролики, созданные как непосредственно в приложении TikTok с помощью встроенных инструментов ИИ, так и загруженные из других сервисов, таких как OpenAI, будут снабжены специальной меткой.

Для маркировки такого контента TikTok интегрировал технологию Content Credentials от Коалиции за происхождение и подлинность контента (Coalition for Content Provenance and Authenticity, C2PA).

Эта система прикрепляет к файлам метаданные, позволяющие однозначно определить, что материал был создан при участии искусственного интеллекта. Благодаря внедрению Content Credentials, соответствующие видео в TikTok будут автоматически получать отметку "Создано ИИ". Адам Прессер, руководитель отдела операций, доверия и безопасности TikTok, заявил, что нововведение направлено на повышение прозрачности для пользователей и поможет им легче отличать контент, созданный с применением ИИ, от традиционного контента.

Кроме того, компания рассчитывает, что автоматическая маркировка частично снимет бремя с авторов в плане раскрытия использования инструментов искусственного интеллекта. TikTok стала первой видеоплатформой, внедрившей технологию Content Credentials.

Ранее о поддержке этой системы объявили такие компании, как Microsoft, Adobe и OpenAI. Ожидается, что вскоре к ним присоединится и Google. Помимо внедрения автоматической маркировки, TikTok пообещал активно бороться с использованием инструментов ИИ для создания поддельных и вводящих в заблуждение видео, особенно в контексте выборов.

Компания напомнила, что ее политика категорически запрещает подобный контент вне зависимости от наличия маркировки. В целом, новая система автоматической маркировки контента, созданного с применением ИИ, представляется многообещающей. Она не только поможет повысить прозрачность для пользователей, но и будет способствовать выявлению потенциально опасного контента, сгенерированного с использованием нейросетей.

Источник: Techcrunch