Crianças e IA: como proteger os jovens de novas ameaças?

As consultas governamentais sobre proibir as redes sociais para menores de 16 anos refletem uma preocupação ampla com os danos digitais. Uma equipe de especialistas em neurociência, ética e sociedade (Neurosec) da Universidade de Oxford defende que essas análises também devem tratar de a jovens deverem ou não ter acesso à IA generativa.

No caso das redes sociais, ministros e comentaristas se concentraram em recursos como feeds viciantes e restrições de idade. O trabalho do nosso grupo de pesquisa com jovens mostra que também precisamos considerar esses pontos, entre muitos outros, na era das tecnologias movidas a IA. É claro que as preocupações com saúde mental, comparação social e design viciante se aplicam quando pensamos na experiência dos jovens on-line, mas o mundo digital de 2026 inclui muito mais do que Instagram e TikTok. Chatbots baseados em IA estão cada vez mais presentes na vida dos jovens em áreas variadas, da educação à socialização.

A adolescência é uma etapa fundamental para o desenvolvimento da compreensão social, do senso de identidade e muito mais. Isso levanta questões urgentes: a partir de que idade os jovens devem ter acesso a uma IA que imita amizade ou intimidade? Que salvaguardas são necessárias para proteger mentes jovens de manipulação e dependência baseadas em uma "conexão" artificial?

O impacto da IA em crianças e adolescentes é um campo novo e pouco estudado. Ainda assim, já está claro que a IA pode afetar o desenvolvimento deles de forma positiva e negativa. Por um lado, pode dar acesso a recursos educacionais, ajudar a desenvolver a criatividade e até oferecer apoio em problemas pessoais. Por outro, pode favorecer a dependência, manipular mentes jovens e criar uma ilusão de realidade, o que pode levar a problemas de adaptação social.

É importante entender que a IA é apenas uma ferramenta, e seu efeito sobre crianças e adolescentes depende de como ela é usada. Por isso, é preciso criar regras e diretrizes claras para o uso de IA na educação e em outras áreas ligadas às crianças. Também é necessário fazer pesquisas para entender melhor como a IA influencia o desenvolvimento dos jovens.

Proteger crianças e adolescentes das possíveis ameaças da IA generativa é, portanto, uma tarefa complexa e multifacetada. Ela exige esforço conjunto de governos, instituições de ensino, pesquisadores e pais. Só assim poderemos garantir um uso seguro e benéfico da IA para a nova geração.

Para concluir, vale lembrar que a tecnologia evolui muito rápido e que precisamos adaptar constantemente nossas abordagens de proteção infantil no mundo digital. A IA generativa é apenas uma das muitas novas tecnologias que podem representar uma ameaça aos jovens, e devemos estar preparados para lidar com elas.

*A Meta é considerada uma organização extremista e está proibida na Rússia.