Escândalo abrange 500 escolas e universidades, com vítimas menores, envolvendo tecnologia e imagens pornográficas falsas.
No último sábado (31/8), Heejin recebeu uma mensagem no Telegram de um remetente desconhecido. A mensagem alertava: ‘Suas fotos e informações pessoais foram expostas, e isso pode estar relacionado a pornografia e deepfake.’
Esse tipo de situação é alarmante, pois o uso de deepfake pode resultar na criação de imagens manipuladas que envolvem pornografia. Além disso, o compartilhamento de conteúdo sexual falso pode causar sérios danos à reputação e à privacidade das pessoas. É fundamental estar ciente dos riscos associados a essas tecnologias.
A Realidade Perturbadora da Pornografia Deepfake
Quando a estudante universitária da Coreia do Sul decidiu acessar o bate-papo para verificar a mensagem, deparou-se com uma foto sua, capturada anos atrás, durante seu período escolar. Para sua surpresa, uma segunda imagem a acompanhava, utilizando a mesma fotografia, mas agora apresentando um conteúdo sexual falso e explícito — uma manipulação digital. Apavorada, Heejin, que não é seu nome verdadeiro, optou por não responder, mas as imagens continuaram a chegar incessantemente. Em todas elas, seu rosto foi anexado a um corpo realizando atos sexuais, utilizando a avançada tecnologia de deepfake. A pornografia deepfake — que, em sua essência, combina o rosto de uma pessoa real com um corpo falso e sexualmente explícito — está sendo cada vez mais criada através de ferramentas de inteligência artificial.
Entendendo a Tecnologia de Deepfake
O impacto devastador sobre aqueles que tiveram suas imagens utilizadas em ‘deepfakes’ pornográficos é inegável. ‘Fiquei petrificada, me senti tão sozinha’, revelou Heejin à BBC. Contudo, ela não estava sozinha em sua angústia. Dois dias antes, a jornalista sul-coreana Ko Narin havia revelado o que se tornaria um dos maiores furos de reportagem de sua carreira. Recentemente, informações surgiram sobre uma investigação policial em andamento relacionada a redes de pornografia deepfake em duas das principais universidades do país, e Ko estava determinada a descobrir mais.
Ela começou a explorar as redes sociais e rapidamente encontrou dezenas de grupos de bate-papo no aplicativo de mensagens Telegram, onde usuários compartilhavam fotos de mulheres que conheciam e utilizavam um software de inteligência artificial para transformá-las em imagens pornográficas falsas em questão de segundos. ‘A cada minuto, as pessoas estavam enviando fotos de garotas que conheciam e solicitando que fossem convertidas em deepfakes’, relatou Ko à BBC.
O Alvo das Salas de Bate-Papo
Ko descobriu que esses grupos não se limitavam apenas a estudantes universitárias. Havia salas de bate-papo dedicadas a escolas específicas de ensino médio e até mesmo de ensino fundamental. Se um conteúdo fosse gerado em grande quantidade utilizando a imagem de uma aluna específica, ela poderia até ganhar sua própria sala. Comumente denominadas ‘salas de humilhação’ ou ‘salas de amigas de amigos’, essas comunidades frequentemente possuem critérios de entrada rigorosos.
A reportagem de Ko, publicada no jornal Hankyoreh, causou um grande choque na Coreia do Sul. Na segunda-feira (2/9), a polícia anunciou que estava considerando abrir uma investigação sobre o Telegram, seguindo o exemplo das autoridades francesas, que recentemente acusaram o fundador do aplicativo de crimes relacionados à plataforma. O governo prometeu implementar punições mais severas para os envolvidos, e o presidente fez um apelo para que os jovens recebessem uma educação mais robusta sobre o assunto. O Telegram, por sua vez, declarou que ‘combate ativamente conteúdo prejudicial em sua plataforma, incluindo pornografia ilegal’, em uma declaração enviada à BBC.
Uma Análise da Situação Atual
A BBC teve acesso a descrições de várias dessas salas de bate-papo. Uma delas, por exemplo, solicita que os membros publiquem mais de quatro fotos de alguém, acompanhadas do nome, evidenciando a natureza sistemática e organizada desse tipo de atividade. A crescente prevalência da pornografia deepfake e a facilidade com que imagens manipuladas podem ser criadas levantam questões sérias sobre privacidade, consentimento e o impacto psicológico nas vítimas.
Fonte: © G1 – Tecnologia
Comentários sobre este artigo