pplware.sapo.pt - 29 abr. 21:30
Reguladora britânica quer proibir apps que permitem criar deepfakes de nudez de crianças
Reguladora britânica quer proibir apps que permitem criar deepfakes de nudez de crianças
No Reino Unido, a preocupação com o impacto dos deepfakes com IA sobre os menores levou a um apelo sério para regulações mais estritas.
A inteligência artificial (IA) trouxe consigo novas ameaças, nomeadamente aplicações capazes de gerar deepfakes de nudez. No Reino Unido, a preocupação com o impacto destas ferramentas sobre os menores levou a um apelo sério para medidas regulatórias mais estritas.
Aplicações de deepfakes com IA são claramente uma ameaçaUm relatório recente da Comissária para a Infância do Reino Unido, Dame Rachel de Souza, lança um alerta sério sobre a disseminação de aplicações baseadas em IA concebidas para criar imagens de nudez ou de cariz sexual a partir de fotografias de crianças.
Estas ferramentas de nudification tornaram-se tão comuns que, segundo o relatório, muitas raparigas já evitam partilhar fotografias suas nas redes sociais por receio de serem alvo destas manipulações.
Embora a criação ou partilha de material de abuso sexual infantil (MASI) seja inequivocamente ilegal, as aplicações que permitem gerar estes deepfakes escapam, frequentemente, a uma regulamentação específica, permanecendo legais em muitos casos.
Dame Rachel de Souza sublinha o pânico que a mera existência desta tecnologia causa nos jovens:
As crianças transmitiram-me o seu medo perante a simples ideia de esta tecnologia estar disponível, quanto mais ser utilizada. Receiam que qualquer pessoa - um estranho, um colega de escola, ou até um amigo - possa usar um telemóvel para as manipular, criando uma imagem de nudez através destas aplicações específicas.
Não existe qualquer justificação positiva para a existência destas aplicações.
Dame Rachel de Souza, Comissária para a Infância do Reino Unido
É necessária uma regulamentação mais rigorosaA Comissária para a Infância salienta que estas aplicações de IA para nudification estão amplamente acessíveis em plataformas generalistas, incluindo os principais motores de pesquisa e lojas de aplicações. Adicionalmente, nota que estas ferramentas "visam desproporcionalmente raparigas e mulheres jovens, e muitas parecem funcionar exclusivamente em corpos femininos".
De Souza reforça que os próprios jovens exigem uma intervenção decidida contra o uso indevido destas tecnologias. Neste sentido, a Comissária instou o governo britânico a implementar uma proibição total das aplicações que utilizam IA para gerar deepfakes de natureza sexualmente explícita.
Requer também que se estabeleçam responsabilidades legais claras para os desenvolvedores de aplicações de IA generativa, obrigando-os a identificar os riscos que os seus produtos representam para as crianças e a implementar sistemas eficazes para remover MASI da internet.
Pede ainda que o abuso sexual através de deepfakes seja formalmente reconhecido como uma forma de violência contra mulheres e raparigas.
O Reino Unido já deu passos no sentido de combater esta tecnologia, introduzindo novas tipificações criminais para a produção ou partilha de deepfakes sexualmente explícitos. Foi também anunciada a intenção de criminalizar a captura de fotografias ou vídeos íntimos sem consentimento.
Contudo, a intervenção da Comissária para a Infância foca-se mais especificamente nos danos que a tecnologia em si pode infligir aos mais jovens. O relatório assinala a existência de uma ligação preocupante entre o abuso por deepfakes e a ideação suicida e a perturbação de stress pós-traumático, como destacado pelo jornal The Guardian.
Leia também:
IA open-source da Alibaba está a ser utilizada para gerar deepfakes pornográficos