Маркировка материалов сгенерированных нейросетями

Российские сервисы будут автоматически помечать такой контент заметными графическими знаками. Это решение было предложено Антоном Немкиным, членом комитета Госдумы по информационной политике, который считает, что это поможет контролировать использование искусственного интеллекта (ИИ).

Никита Леокумович, начальник управления киберразведки и цифровой криминалистики Angara Security, указал на потенциальные опасности, связанные с быстрым развитием ИИ, включая нарушение норм морали и прав человека, а также создание ложных фактов и глубокофальсифицированных изображений (дипфейков). Поэтому крайне важно идентифицировать материалы, созданные нейросетями, будь то тексты, изображения или видео.

В настоящее время многие исходные коды нейросетей доступны широкой публике, что может способствовать росту числа мошенников, использующих ИИ. Существуют сервисы, позволяющие проверить, было ли изображение сгенерировано с помощью ИИ или создано человеком. По данным компании «Диалог Регионы», в 2023 году в рунете было обнаружено около 12 миллионов дипфейков, и это число может вырасти до 15 миллионов к 2024 году.

Ярослав Шицле, руководитель направления «Разрешение IT & IP споров» юридической фирмы «Рустам Курмаев и партнеры», предполагает, что сервисы, не соблюдающие требования по маркировке контента, созданного ИИ, могут быть заблокированы или привлечены к ответственности. Глеб Сахрай, управляющий партнер агентства PRT Edelman, отметил возможные последствия для рекламного рынка, связанные с внедрением графических символов на материалах.

Стоит отметить, что аналогичный закон уже действует в Европейском союзе с марта этого года. Некоторые компании уже маркируют изображения, созданные с помощью ChatGPT, а TikTok помечает видео, сгенерированные встроенными алгоритмами. Это может привести к тому, что рекламные агентства снова обратится к услугам копирайтеров и дизайнеров для создания оригинального контента.