Aumento de crianças britânicas a ver deepfakes explícitos

No Reino Unido, crianças relataram um aumento em imagens deepfake explícitas que mostram a sua própria imagem. De acordo com o serviço de flagging anónimo Report Remove, que bloqueia imagens íntimas, houve um rápido aumento de conteúdos digitalmente manipulado. A organização relatou uma problemática cada vez mais visível, facilitada pelo uso de Inteligência Artificial.

A entidade de segurança apontou que as tecnologias de IA tornam mais fácil a produção de conteúdos sexualizados ou 'nudificados'. Este desenvolvimento suscita preocupações, uma vez que crianças e adolescentes são vulneráveis a tais representações manipulativas.

Os dados do Report Remove mostram que cada vez mais crianças estão a ser expostas a estes conteúdos perigosos, sublinhando a necessidade de implementar medidas para as proteger. Especialistas ressaltam a urgência de reagir a esta temática, uma vez que os impactos sobre as crianças afetadas podem ser significativos.

A discussão em torno dos deepfakes e das suas implicações sociais é intensificada por este aumento de incidentes, o que sublinha a necessidade de uma ampla sensibilização e estratégias de segurança para crianças na Internet. As entidades de segurança e organizações estão a trabalhar para desenvolver medidas eficazes para enfrentar este problema.