В Российской Федерации планируется внедрение законодательных инициатив, направленных на регулирование использования искусственного интеллекта (ИИ) в контексте создания цифрового контента. Эти меры призваны обеспечить защиту граждан от потенциальных угроз, связанных с киберпреступностью.
Согласно информации, опубликованной в издании «Известия», Государственная Дума рассматривает внесение поправок в федеральный закон «Об информации, информационных технологиях и о защите информации». Предлагаемые изменения нацелены на мониторинг и последующее удаление из интернет-пространства материалов, созданных с использованием ИИ и применяемых в противоправных целях.
Заместитель председателя Комитета Государственной Думы по информационной политике, информационным технологиям и связи, Андрей Свинцов, представил концепцию механизма блокировки контента, генерируемого ИИ, в случае его идентификации как вредоносного. Этот механизм предполагает не только выявление фейковых материалов, но и предварительное ограничение доступа к ним до вынесения судебного решения.
В ходе обсуждений в рамках рабочей группы особое внимание уделялось разработке системы маркировки материалов, созданных с помощью ИИ, а также созданию специализированных инструментов для предотвращения распространения цифрового дезинформации и манипуляций.
Свинцов подчеркнул, что оперативное внедрение новых правил является критически важным для предотвращения возможных негативных последствий. Среди потенциальных рисков он выделил попытки манипулирования общественным мнением, шантаж, распространение клеветы и вредоносной информации, маскируемой под правдоподобный контент, созданный с использованием ИИ.
Также в рамках обсуждения была предложена идея расширения сотрудничества с экспертами и профильными ИТ-компаниями. Валерия Рытвина, основатель Совета блогеров, отметила важность привлечения частных разработчиков, специализирующихся на кибербезопасности. По её мнению, в России сформировался мощный пул специалистов, способных эффективно противостоять автоматизированным кибератакам, которые становятся всё более изощрёнными и трудно обнаружимыми.
В статье отмечается, что на рынке цифровых технологий наблюдается значительный рост числа сервисов, предоставляющих инструменты для создания дипфейков. На сегодняшний день их количество превышает 50 тысяч, что существенно больше, чем два года назад. Согласно данным, представленным в публикации, каждый второй житель России может столкнуться с попытками обмана, основанными на использовании поддельных видео- или аудиозаписей, созданных с применением технологий ИИ.