Поводом для разбирательств стали более 80 жалоб, которые полиция получила в конце августа 2024 года. Пользователи мессенджера сообщали, что столкнулись с порноконтентом с участием корейских женщин, сгенерированным искусственным интеллектом. Полиция проверяет как минимум восемь чат-ботов, где генерируют дипфейк-порно, и групп, где публикуются такие изображения. Правоохранители уже выявили 24 подозреваемых.

По словам главы следственного штаба Национального полицейского управления Южной Кореи У Чон Су, Telegram отказывается раскрывать информацию о нужных полиции аккаунтах. Тем не менее власти страны намерены продолжать расследование и собираются сотрудничать с полицией Франции, где 24 августа был задержан Павел Дуров.

Репутация Telegram уже несколько лет подмочена в Южной Корее после того, как выяснилось, что сеть распространения порнографического контента и шантажа действовала в основном в чатах этого мессенджера.

По данным Reuters, в 2021 году южнокорейская полиция расследовала 156 дел о сексуализированных преступлениях с использованием дипфейк-технологий. В 2024 году их количество возросло до 297. Большинство пострадавших и преступников — подростки. При этом Южная Корея лидирует по распространению подобного порно. Для создания таких картинок чаще всего используют лица певиц и актрис.

Также, согласно отчету Security Hero, на который обратил внимание Wall Street Journal, Южная Корея является наиболее уязвимой страной для сексуализированных преступлений, совершаемых с использованием фейковых материалов. Авторы отчета проанализировали около 96 000 видеороликов с десяти порносайтов и 85 каналов на видеохостингах за два месяца. Так оказалось, что 53 % лиц, фигурировавших в дипфейк-порно, были корейскими певцами и актерами, многие из которых еще не достигли совершеннолетия.

Изготовление откровенных сексуальных подделок с целью их распространения карается пятью годами тюрьмы или штрафом в размере 50 миллионов вон (37 500 долларов США) в соответствии с Законом Южной Кореи о предотвращении сексуального насилия и защите жертв.

Павел Дуров  был задержан вечером 24 августа во Франции. Его подозревают в содействии незаконной деятельности из-за недостаточной модерации контента на Telegram, а также из-за того, что платформа предоставляет возможность скрывать телефонные номера и поддерживает криптовалюты. Ему предъявили обвинения в распространении через Telegram контента, связанного с торговлей людьми, продажей сильнодействующих веществ, а также детской порнографией.

Также недавно молдавские активисты забили тревогу из-за порнографических групп в Telegram, в которых распространяются интимные изображения молдавских женщин без их согласия, а доступ к таким группам стоит от 200 до 300 леев.

Обложка: by Dima Solomin on Unsplash

Запись Южнокорейская полиция начала расследование в отношении Telegram из-за распространения дипфейк-порно впервые появилась Locals.

МВД и СИБ могут самостоятельно блокировать сайты с преступным контентом, на которых распространяют материалы с насилием над детьми, порнографию или продают запрещенные вещества. Доступ могут ограничить на 30 дней с возможностью продления, но не более чем на 90 дней.

Законопроект также определяет критерии и принципы блокировки доступа к незаконному контенту. Правоохранительные органы обязаны указывать причины блокировки и регулярно оценивать необходимость ее продления. Распоряжение о блокировке можно оспорить в суде.

Обложка: by charlesdeluvio on Unsplash

Запись МВД и СИБ смогут блокировать доступ к сайтам с незаконным контентом впервые появилась Locals.

Ведущий психолог, консультирующий компанию Meta по вопросам предотвращения самоубийств и самоповреждений, уволилась со своей должности, обвинив компанию в том, что они «закрывают глаза» на вредный контент в Instagram, игнорируют советы экспертов и ставят прибыль выше жизни, передает The Guardian.

Лотте Рубек более трех лет входила в состав глобальной экспертной группы Meta. Она отметила, что неспособность соцсетей удалять изображения членовредительства подталкивают уязвимых молодых женщин и девушек к дальнейшему причинению вреда себе и способствуют росту числа самоубийств. По ее мнению, вместо заботы о благополучии и безопасности своих пользователей компания с помощью вредоносного контента приковывает жертв к экранам.

Разочаровавшись в компании и ее явном нежелании меняться, датский психолог уволилась из группы, заявив, что Meta не заботится о благополучии и безопасности своих пользователей. В действительности, по ее словам, компания использует вредный контент, чтобы удерживать уязвимых молодых людей у экранов в интересах прибыли.

Рубек пригласили в экспертную группу в конце 2020 года после того, как она публично раскритиковала компанию Meta, заявив, что Instagram связан с самоубийствами молодых женщин в Норвегии и Дании. После пары лет игнорирования ее предложений ей показалось, что сотрудничество с ней компании нужно было только для галочки.

Пациенты Рубек рассказали ей, что пытались сообщать об изображениях членовредительства в Instagram, но их никто не удаляет. Одна из клиенток рассказала, что после сообщения об одном изображении оно исчезло, но позже она увидела его через аккаунт друга. Это говорит о том, что его просто убрали из поля зрения женщины.

«ИИ настолько умен, что может найти даже самый маленький сосок на фотографии», – замечает Рубек. Но когда речь заходит об изображениях членовредительства – все оказывается иначе.

В январе Конгресс США допросил руководителей Meta, X, TikTok, Snap и Discord по поводу предполагаемого вреда, нанесенного молодым пользователям их платформ. Тогда Марк Цукерберг обратился к родителям жертв и извинился.

Запись Ведущий психолог уволилась из Instagram из-за игнорирования вредоносного контента со стороны компании впервые появилась Locals.