Crianças e IA: como proteger a juventude das novas ameaças?

Consultas governamentais sobre a proibição de redes sociais para menores de 16 anos refletem ampla preocupação com danos digitais. Uma equipe de especialistas em neurociência, ética e sociedade (Neurosec) da Universidade de Oxford argumenta que essa pesquisa também deve se estender à questão de saber se os jovens devem ter acesso à IA generativa.

No caso das redes sociais, ministros e comentaristas focaram em recursos como feeds viciantes e restrições por idade; o trabalho de nosso grupo de pesquisa com jovens mostra que também devemos considerar essas questões – entre muitas outras – na era das tecnologias orientadas por IA. Certamente, preocupações sobre saúde mental, comparação social e design viciante são claramente aplicáveis quando pensamos na experiência online dos jovens, mas o mundo digital de 2026 inclui muito mais do que Instagram e TikTok. Chatbots com IA estão cada vez mais presentes na vida dos jovens em vários campos, da educação à comunicação.

A adolescência é uma fase crítica para o desenvolvimento da compreensão social, senso de identidade e assim por diante. Isso levanta questões urgentes como: em que idade os jovens devem ter acesso a IA que simula amizade ou intimidade? Que precauções são necessárias para proteger as mentes jovens da manipulação e dependência baseadas em "conexão" artificial?

O impacto da IA em crianças e adolescentes é uma área nova e pouco estudada. No entanto, já é claro que a IA pode ter impactos positivos e negativos no seu desenvolvimento. Por um lado, a IA pode fornecer acesso a recursos educacionais, ajudar no desenvolvimento de habilidades criativas e até oferecer apoio na resolução de problemas pessoais. Por outro lado, a IA pode promover o desenvolvimento de dependência, manipular mentes jovens e criar uma ilusão de realidade, o que pode levar a problemas de adaptação social.

É importante entender que a IA é apenas uma ferramenta, e seu impacto em crianças e adolescentes depende de como é usada. Portanto, é necessário desenvolver regras e diretrizes claras para o uso de IA na educação e outras áreas relacionadas a crianças. Também é necessário realizar pesquisas para entender melhor como a IA afeta o desenvolvimento dos jovens.

Assim, proteger crianças e adolescentes de possíveis ameaças relacionadas à IA generativa é uma tarefa complexa e multifacetada. Ela requer esforços conjuntos de governos, instituições educacionais, pesquisadores e pais. Somente dessa forma podemos garantir o uso seguro e benéfico da IA para a geração mais jovem.

Em conclusão, é importante lembrar que a tecnologia se desenvolve muito rapidamente, e precisamos adaptar constantemente nossas abordagens para proteger crianças no mundo digital. A IA generativa é apenas uma das muitas novas tecnologias que podem representar uma ameaça para os jovens, e devemos estar preparados para lidar com essas ameaças.