Fonte: Revista Crescer

Entre as preocupações, relatório apontou que certas ferramentas de IA ainda deixam jovens vulneráveis e não devem ser usadas para apoio emocional. Saiba mais!

A Common Sense Media, organização sem fins lucrativos norte-americana que analisa e classifica mídia e tecnologia para ajudar pais a escolher conteúdo adequado para crianças, divulgou um novo relatório sobre dois aplicativos populares da OpenAI: o ChatGPT e o Sora. A entidade analisou os riscos para adolescentes e pediu que pais fiquem atentos.

O ChatGPT recebeu a classificação de “alto risco” para jovens. Ele está mais seguro do que antes, com controles parentais e respostas adaptadas para menores. Porém, o relatório diz que, mesmo assim, não é recomendado para conselhos sobre saúde mental ou para servir como “companhia” emocional. Segundo os pesquisadores, a IA pode não perceber quando um jovem está em perigo e prolonga conversas em vez de incentivar o adolescente a procurar ajuda real. Em situações delicadas, alertas enviados aos pais podem demorar mais de 24 horas, o que seria tarde demais em uma emergência.

65% das crianças e adolescentes usam IA no dia a dia

Outra preocupação é que, em conversas longas, o chatbot pode perder limites e se envolver demais com o usuário. Além disso, os controles parentais só funcionam se os responsáveis ativarem e monitorarem as contas — e muitos adolescentes conseguem burlar essas proteções.

Como preparar as crianças para usar inteligência artificial? Especialista explica!

Já o Sora, novo gerador de vídeos por IA que também funciona como uma rede social, recebeu a classificação de “risco inaceitável”. Conforme o relatório, o aplicativo ainda não tem sistemas de segurança fortes, mesmo em contas de adolescentes.

O principal risco está no recurso chamado “cameos”, que permite colocar a própria imagem e voz em vídeos criados por IA. Isso pode facilitar deepfakes, exposição indevida e cyberbullying. Uma vez publicado, o jovem pode perder o controle da própria imagem, já que outras pessoas podem usar seu rosto para criar novos vídeos sem permissão.

O que seu filho precisa saber sobre IA?

Os especialistas afirmam ainda que o Sora consegue criar vídeos muito realistas, incluindo temas sérios como transtornos alimentares e comportamentos de risco, mas sem avisos de segurança ou suporte para quem assistir. Diante disso, como há poucos controles disponíveis para os pais, a orientação da Common Sense Media é clara: adolescentes não devem usar o Sora.