O seu filho não precisa de tirar uma fotografia nu para se tornar vítima de abuso de imagem. Até uma simples selfie tirada nas férias em família ou uma fotografia publicada nas stories do Instagram pode ser utilizada por alguém para criar um deepfake sexual.
Graças ao poder da IA genérica, é muito fácil alterar uma imagem, mudar o rosto de alguém ou "despir" uma pessoa em segundos, sem qualquer conhecimento técnico.
Infelizmente, num estudo recente da UNICEF, ECPATe INTERPOL, realizado em 11 países, pelo menos 1,2 milhões de crianças admitiram ter as suas imagens editadas para criarem deepfakes com conteúdo sexual explícito em apenas um ano.
Isto representa um desafio para os pais. Como estabelecer limites de segurança sem que a criança sinta que está a espiar cada mensagem ou interação dela?
Neste artigo, abordamos os riscos dos deepfakes, as regras familiares adequadas, estratégias para construir confiança e um plano de ação passo a passo para o caso de as coisas correrem mal.
Compreender os riscos reais: como classificação genética por IA e a imagiologia explícita podem afetar as crianças
classificação genética por IA de fotos explícitas é mais do que apenas mais um problema online . Pode ser uma arma que afeta as crianças de diversas formas, seja como perpetradoras ou participantes.
Fotos comuns podem transformar-se em imagens explícitas falsas
Uma fotografia de turma, uma fotografia de um clube, uma do TikTok ou uma selfie de uma festa de aniversário podem servir de base para a manipulação com IA.
Considere, por exemplo, uma fotografia da equipa de futebol do 9º ano. Um miúdo descarrega a fotografia, usa uma aplicação de edição de imagens para alterar o rosto de um jogador como uma "brincadeira", e agora o jogador está a passar por uma situação humilhante.
Nunca consentiram a manipulação, mas agora têm de passar pelo embaraço e pela atenção indesejada.
O abuso de deepfakes pode acontecer entre colegas de turma, não apenas entre estranhos
Quando se trata de deepfakes, a fonte mais comum é muitas vezes alguém conhecido. Pode ser um colega de turma, um ex, um grupo de amigos ou alguém que está a tentar fazer uma piada para ganhar likes.
Mas porque é que isso é importante? Porque as crianças tendem a minimizar a situação. Para elas, era apenas "o Jake a brincar", o que não soa tão grave como uma ameaça vinda de um estranho.
Isso significa que podem nem sequer te contar. Mesmo que se sintam constrangidos na escola, porque a pessoa que o fez está sentada a duas carteiras de distância e toda a gente sabe disso.
As consequências psicológicas e sociais vão para além da própria imagem
Um ponto a destacar é que, mesmo que todos saibam que a imagem é falsa, o dano continua a ser real.
As crianças manifestam sentimentos de exposição, preocupação em ir à escola, nervosismo em relação a voltar a publicar e receio que os professores vejam as publicações.
Imagine um rumor terrível acompanhado de uma foto. Mesmo que digam "não é verdade" cem vezes, a imagem continuará a circular na mente das pessoas.
As crianças podem ser tanto vítimas como participantes
É possível que a mesma criança que está a ser alvo hoje seja a mesma que estará a partilhar o deepfake de outra criança na semana seguinte.
Podem estar a fazê-lo apenas para se encaixarem ou para não se tornarem o próximo alvo. Isto significa que uma regra simples que diz apenas "não seja vítima" ignora metade do problema.
As crianças precisam de compreender que é extremamente prejudicial para uma pessoa criar, guardar ou enviar uma imagem sexualizada da mesma – mesmo que seja uma brincadeira – e que isso pode ter implicações legais.
Estabeleça regras familiares claras para imagens explícitas de classificação AI-Gene
As boas regras são breves, claras e fáceis de recordar. Eis cinco para adotar em família.
Regra 1: Nunca crie ou solicite imagens sexualizadas de pessoas reais
É proibido utilizar ferramentas, aplicações ou filtros de IA para criar imagens sexualizadas, de nudez ou "sem roupa" de qualquer pessoa, real ou não, com ou sem a sua permissão.
Deixe claro que fazê-lo é prejudicial, seja qual for a intenção. Pode dar ao seu filho um guião para seguir: "Se um amigo te pedir para editar a fotografia de alguém, diz não e diz-me."
Regra 2: Nunca guarde, reencaminhe ou participe na partilha de deepfakes explícitos
Se alguém lhe enviar a mensagem, não a guarde, não tire um screenshot, não responda e não a reencaminhe "para alertar outras pessoas". A pessoa deve fechá-la, não interagir com ela e denunciá-la a um adulto de confiança.
A partilha de conteúdos é o que transforma um ato inadequado numa humilhação para toda a escola. Cada partilha representa um novo ato lesivo e pode ainda acarretar problemas legais para quem a faz.
Regra 3: Proteja as suas fotografias pessoais e a sua identidade digital
Mantenha a privacidade das contas, limite as mensagens diretas a pessoas que conhecem e tenha cuidado ao publicar fotos de perto, uniformes escolares ou localização.
Embora não seja possível tornar o seu filho invisível online , pode reduzir a quantidade de fotos de boa qualidade que são fáceis de serem utilizadas indevidamente.
Regra 4: Nunca responda a ameaças ou pedidos de mais imagens
As imagens falsas são frequentemente utilizadas para extorsão sexual. A vítima pode receber uma mensagem a dizer: "Envie uma imagem verdadeira ou eu publico esta". Nesse caso, ela não deve ceder perante o pedido.
Segundo um inquérito da Thorn de 2024, aproximadamente 1 em cada 17 menores já foi vítima de extorsão sexual. Por isso, ensine o seu filho a parar de responder e a mostrar-lhe imediatamente.
Regra 5: Denuncie conteúdo prejudicial em vez de tentar investigá-lo
As crianças curiosas por vezes investigam a imagem ou confrontam o criador. No entanto, não deveriam. A pesquisa expõe-nas a mais conteúdos inadequados, e os confrontos só pioram a situação.
Em vez disso, fazer a denúncia através da plataforma e guardar apenas o nome de utilizador e a data fornece informações muito mais valiosas para a escola do que ter dez capturas de ecrã da imagem explícita.
Como podem os pais fazer cumprir estas regras sem dar a sensação de que as crianças estão a ser vigiadas?
Embora seja importante ter regras claras, também é importante a forma como os pais colocam essas regras em prática.
Explique os motivos por detrás das regras em vez de impor restrições
Não diga simplesmente ao seu filho: "Porque eu mandei!". Explique porquê. Por exemplo: "Não reencaminhamos estas mensagens porque podem prejudicar a vida escolar de alguém, mesmo que sejam falsas."
Se as crianças compreenderem o impacto humano, será mais provável que sigam a regra quando não está a olhar.
Tentem criar as regras em conjunto e deixem que o vosso filho sugira algumas das restrições. Uma regra que ajuda a escrever é como se fosse dele, e não do seu software espião.
Concentre-se nos sinais de segurança, e não em interpretar cada conversa privada
Não precisa de ler todas as mensagens diretas para manter o seu filho seguro. Basta estar atento a sinais específicos, como um afastamento repentino das redes sociais, ansiedade noturna ou uma nova conta secreta.
Uma ferramenta de controlo parental pode ajuda com isso. Por exemplo, algumas famílias utilizam FlashGet Kids para visualizar a utilização de aplicações, o tempo de ecrã e os relatórios de atividades, sem terem de analisar tudo manualmente.
alertas Geocerca e os controlos de aplicações ajuda a construir hábitos digitais saudáveis.
O objetivo não é apanhar o seu filho a fazer algo errado. É importante ser capaz de identificar quando ocorreu uma mudança, para que possa fazer perguntas no momento apropriado.
Promova conversas regulares e descontraídas sobre IA e experiências online
Uma única conversa longa geralmente não funciona; no entanto, breves reuniões de acompanhamento regulares, sim.
Quando conduzir, cozinhar ou passear o cão, pergunte-lhes: " notificação algo estranho ou algo classificação de genes por IA esta semana online ?" Certifique-se de que não existem consequências associadas.
Quando falar de IA se torna algo normal, denunciar um deepfake também se torna normal. O seu filho já saberá que não vai explodir, porque já o viu lidar com o assunto com calma antes.
Ofereça às crianças uma forma segura de pedir ajuda sem medo de punição automática
Explique: "Se vier ter comigo com algo online , mesmo que tenha infringido alguma regra, a minha primeira reação será ajuda -lo, não puni-lo."
Se o seu filho encaminhar um deepfake e depois pedir desculpa, aborde primeiro os danos causados e discuta as consequências mais tarde, com calma.
O que devem os pais fazer se o seu filho estiver envolvido num incidente com imagens explícitas relacionadas classificação genes por IA?
A primeira reação que tiver irá definir o tom. Por isso, mantenha a calma, agradeça ao seu filho por lhe ter contado e trate das coisas passo a passo.
Se o seu filho for vítima de um deepfake
- Ofereça apoio emocional imediato. Tranquilize o seu filho, dizendo que não fez nada de errado e que a imagem representa uma violação não consensual.
- Preserve as provas digitais. Guarde capturas de ecrã do conteúdo, nomes de utilizador, mensagens diretas, URLs da web e a data e hora antes de eliminar o que quer que seja.
- Notifique a direção da escola. Se o autor ou a distribuição for de colegas de turma, forneça provas às autoridades escolares para que os protocolos de segurança sejam acionados.
Se o seu filho criou ou partilhou o deepfake de outra pessoa
- Encerre a atividade de imediato. Certifique-se de que elimina todas as cópias dos dispositivos e contas de armazenamento na nuvem do seu filho.
- Discuta a gravidade da situação. Aborde as implicações legais e éticas de forma não violenta e não ameaçadora.
- Contacte os profissionais adequados. Consulte um especialista jurídico ou um orientador escolar para discutir como resolver a situação e a responsabilidade legal.
Se o seu filho receber ou descobrir imagens explícitas de outra criança
- Evite encaminhar o ficheiro. Lembre o seu filho de manter os detalheda mensagem intactos, mas de não partilhar o ficheiro em si.
- Denuncie aos moderadores da plataforma. Utilize as ferramentas internas da aplicação para sinalizar o conteúdo para remoção imediata.
- Notificar a família da criança afetada. Alerte a família ou as autoridades escolares envolvidas de forma responsável, permitindo que sejam tomadas medidas de proteção.
Como remover imagens prejudiciais e obter ajuda adicional
- Remova o conteúdo. Utilize serviços como a ferramenta "Take It Down" do NCMEC para criar hashes digitais de imagens explícitas de menores, impedindo que sejam publicadas em online plataformas
- StopNCII.org. Para pessoas próximas da idade legal, utilize os serviços de impressões digitais para evitar a divulgação de imagens íntimas não consensuais online.
- CyberTipline. Apresente uma queixa oficial junto do Centro Nacional para Crianças Desaparecidas e Exploradas em cybertipline.org
Crie um acordo familiar de segurança da IA que possa crescer com o seu filho
Estabeleça expectativas diferentes para as diferentes faixas etárias
Adapte as diretrizes de segurança online à idade do seu filho.
- Pré-adolescentes (dos 10 aos 12 anos). Concentre-se em configurações,classificaçãode lojas de aplicações e espaços de ecrã familiar partilhados.
- Adolescentes (13 aos 15 anos). Implementar orientações para a publicação de fotografias, pressão dos pares nos chats de grupo e segurança no uso de ferramentas.
- Adolescentes mais velhos (a partir dos 16 anos). Fale sobre o consentimento legal, as repercussões das pegadas digitais e como proteger a sua reputação a longo prazo.
Decidam em conjunto o que os pais vão e não vão monitorizar
Estabeleça orientações claras para a utilização do dispositivo. Informe-os sobre quais as aplicações de segurança que estão ativadas, o que pode gerar um alerta e quando os pais devem verificar o dispositivo.
Quando é honesto com o seu filho, ajuda a criar confiança.
Revejam juntos as regras à medida que a tecnologia de IA muda
O campo da tecnologia de inteligência artificial está em constante evolução. Agende uma revisão mensal do seu acordo familiar.
Rever as regras em conjunto ajuda a manter as suas orientações atualizadas com as novas ferramentas e desafios digitais.
Conclusão
Para gerir os riscos da IA generativa, é necessário um controlo parental proativo, baseado na confiança e não na monitorização constante.
Pode ajuda a manter a identidade digital do seu filho segura, definindo limites claros para a criação ou partilha de deepfakes explícitos e fornecendo procedimentos claros para a denúncia.
Em conjunto com ferramentas de gestão de segurança como FlashGet Kids e recursos de apoio como o programa Take It Down do NCMEC, os pais podem criar um ambiente resiliente.
Com uma comunicação aberta, quando surgem desafios online , o seu filho poderá recorrer a si para obter conselhos e orientação.
