Москва, 09:49, 10 Окт 2023, редакция FTimes.ru, автор Анастасия.
В Южной Корее зафиксирован случай использования искусственного интеллекта (ИИ) в целях создания сексуальных изображений детей и наказания за это. Один из местных жителей был приговорен к 2,5 годам лишения свободы за создание примерно 360 сексуальных изображений при помощи специальной программы.
Что известно об инциденте в Южной Корее
Издание Korea Herald, ссылаясь на местные СМИ, сообщило о случае осуждения мужчины в Южной Корее за создание сексуальных изображений детей при помощи искусственного интеллекта (ИИ). Он был приговорен к 2,5 годам тюремного заключения в соответствии с законом о защите прав детей и подростков.
Согласно информации, представленной южнокорейской прокуратурой, обвиняемый, использовал специальную «программу для создания изображений с применением ИИ». С ее помощью он разработал около 360 сексуальных изображений.
Обнаруженный полицией контент не был распространен мужчиной. Для создания таких изображений он использовал текстовые подсказки, что привело к появлению крайне реалистичных изображений. В связи с этим суд отклонил аргументы защиты о том, что такие изображения не могут быть признаны сексуальными.
Решение суда в Южной Корее подчеркнуло, что даже фальшивые, но крайне реалистичные изображения несовершеннолетних, созданные с использованием современных технологий, теперь могут рассматриваться как сексуально оскорбительный контент.
Как искусственный интеллект делает такие картинки
Специалист в области информационной безопасности Илья Карпук подчеркивает, что нейронные сети способны создавать различные изображения, включая порнографический контент, так как они представляют собой всего лишь алгоритмы и компьютерные программы.
Все ограничения, связанные с созданием такого контента, должны быть явно заданы вручную. Важно отметить, что многие публичные продукты, использующие нейросети, стремятся соблюдать закон и запрещают генерацию порнографического контента на своих платформах.
Обычно эти ограничения реализуются с помощью фильтров, которые контролируют запросы пользователей. Например, нельзя просто попросить публичную нейросеть, такую как Midjourney, или продукты от «Яндекса», создать порнографическое изображение, так как запрос будет отклонен как недопустимый.
Эксперт по правовому регулированию искусственного интеллекта и нейросетей Ильдар Мухаметзянов указывает, что при обсуждении вопросов о создании порнографии с использованием ИИ, нейросеть отмечает один из главных рисков — возможность генерации контента, включающего несовершеннолетних или жертв насилия.
Эксперт отмечает, что сегодня риски появления порнографического контента, созданного с помощью ИИ, стали меньше по сравнению с 2-3 годами назад, передает ftimes.ru. Однако многие алгоритмы все еще далеки от идеального уровня и иногда работают некорректно. В связи с этим, в отдельных случаях могут возникать скандальные ситуации, связанные с созданием такого контента.
Что говорит законодательство РФ
Сегодня законодательство, как в России, так и во многих других странах, еще не содержит четких определений для таких понятий, как искусственный интеллект (ИИ) и нейронные сети. Этот недостаток, по мнению Владислава Шурховецкого, связан в первую очередь с тем, что технологии развиваются и проникают в общество гораздо быстрее, чем законодательство может адаптироваться и регулировать их использование.
В связи с этим, создание детской порнографии при использовании ИИ будет квалифицироваться согласно статье 242.1 Уголовного кодекса РФ.
По этой статье злоумышленникам грозит наказание от двух до восьми лет лишения свободы, а в случае, если пострадавшими являются дети, не достигшие 14 лет, максимальный срок лишения свободы может быть увеличен до 10 лет. Однако существует необычная правовая коллизия в случае создания детской порнографии с использованием ИИ.
Проблема заключается в том, что обычно по статье 242.1 Уголовного кодекса РФ злоумышленников привлекают к ответственности за распространение порнографических материалов, а если было только изготовление, то субъектом преступления является участник. В таких случаях злоумышленников дополнительно привлекают по более серьезной статье — часть 3 статьи 132 Уголовного кодекса РФ.
Сложность заключается в том, что при создании детской порнографии с использованием ИИ фактически нет субъекта и субъективной стороны преступления. Не существует пострадавшего, и никакой вред психике несовершеннолетнего не был причинен действиями взрослого.
В результате возникает парадоксальная ситуация, когда с юридической точки зрения состав преступления в изготовлении детской порнографии с использованием ИИ не считается нарушенным до тех пор, пока не возникает умысел на демонстрацию или распространение полученного контента третьим лицам. Однако в случае распространения порнографического содержания, независимо от его способа создания (естественным или с использованием ИИ), ответственность наступит, если эксперты признают его содержание порнографическим.
