В Южной Корее приступили к борьбе с порнографическими дипфейками в мессенджере Telegram

В Южной Корее будет начата усиленная борьба с поддельными сексуальными изображениями из-за всплеска преступлений, связанных с использованием дипфейков. Об этом сообщило национальное управление полиции, передает Korea Times.

Полиция планирует в течение семи месяцев активно преследовать тех, кто создает и распространяет такие изображения, особенно если на них изображены дети и подростки. С начала 2024 года в стране было зарегистрировано 297 подобных преступлений (по сравнению с 180 в 2021 году). В этих преступлениях фигурируют 178 подозреваемых, из которых 73,6% (или 111 человек) — несовершеннолетние.

Дипфейк представляет собой фотореалистичное изображение, созданное с помощью искусственного интеллекта, термин образован от слов «глубокое обучение» (deep learning) и «фальшивка» (fake). В текущем контексте, опасения вызывают чаты с дипфейковым порно в Telegram, участниками которых являются около 220 тысяч человек, отметил Сон Соль, возглавляющий целевую группу по этому вопросу от Прогрессивной партии.

Комиссия по стандартам связи Южной Кореи проведет специальное заседание для разработки мер по противодействию проблеме дипфейков. Президент страны Юн Сок Ёль также прокомментировал ситуацию, назвав использование таких технологий эксплуатацией анонимности, хотя напрямую Telegram не упомянул.

Анонимность и отказ Telegram сотрудничать со спецслужбами для раскрытия личности преступников, включая распространителей порнографии, стали причиной задержания в Париже основателя мессенджера Павла Дурова. Он находится под стражей с 24 августа.

В администрации Telegram заявили, что соблюдают законы Евросоюза и считают абсурдными утверждения о том, что платформа или её владелец несут ответственность за злоупотребление ею.

Минобороны Южной Кореи было призвано правозащитной организацией для солдат идентифицировать и наказать причастных к созданию дипфейков с изображениями женщин-военнослужащих. Преступники использовали фотографии женщин в военной форме для создания сексуализированных изображений, что правозащитники сравнили с сексуальным рабством, практиковавшимся японскими военными во время оккупации Корейского полуострова.

Скандал вокруг дипфейков в Южной Корее разразился после публикации материала в газете Hankyoreh. Журналисты выявили крупный телеграм-канал с более чем 220 тысячами подписчиков, где можно было бесплатно получить два сексуализированных дипфейка при помощи телеграм-бота, последующие генерации осуществлялись за плату. Стоимость одного нового дипфейка составляла $0,49 (около 48 рублей по курсу ЦБ). Канал предлагал загрузить изображение любой женщины, которая вам нравится.

Позднее было обнаружено несколько специализированных телеграм-каналов, где собирались сексуализированные дипфейки с женщинами, работающими в различных сферах: спортсменками, военными, учителями, медсестрами и другими.