Que desafios nos colocam os “companheiros digitais” para crianças e adolescentes”?
Que desafios nos colocam os “companheiros digitais” para crianças e adolescentes”?
Contexto
O Expresso publicava por estes dias ( expresso.pt) um artigo sobre o recurso ao ChatGPT para desabafar e pedir conselhos, havendo a referência de 23% dos jovens até aos 17 anos que o fazem. É uma das maiores taxas da União Europeia.
Evidência (Europa)
No Livro Verde sobre os “Desafios Relacionais da transição digital” que se encontra em preparação, numa iniciativa dinamizada pelo Relational Lab, idenficámos que na Europa, um estudo divulgado no portal Better Internet for Kids em março de 2026 (inquérito em linha a 500 jovens dos 11 aos 17 anos e dois grupos de foco realizados em outubro de 2025, com financiamento austríaco) regista 94% de utilização de assistentes conversacionais, 24% em uso diário e 42% várias vezes por semana, com recurso frequente a estes sistemas para apoio emocional em situações de desgosto, stress ou conflito; 28% partilham conteúdos íntimos, apenas 20% acreditam que as conversas são privadas, e 56% receiam que a IA prejudique o pensamento independente.
Enquadramento jurídico
O enquadramento jurídico existe mas ainda não está plenamente aplicável: o Regulamento (UE) 2024/1689 (Regulamento da Inteligência Artificial) proíbe desde 2 de fevereiro de 2025 as práticas que explorem vulnerabilidades associadas à idade e impõe obrigações de transparência quando uma pessoa interage com um sistema de IA, mas as obrigações relativas aos sistemas de alto risco do Anexo III só se aplicam a partir de dezembro de 2027.
Questões éticas e relacionais
Esta parece ser uma tendência incontornável. Levanta, porém, muitas questões éticas e relacionais.
Ao contrário do que acontece com outras utilizações das ferramentas de IA, que se processa no domínio cognitivo, através da produção de “conteúdos”, esta dimensão leva-nos para outro nível. Trata-se de um simulacro de uma relação. Porém, este apresenta significativas - ainda que falaciosas - vantagens competitivas face aos humanos. Trata-se de uma interação em que o “companheiro digital” tem tempo infinito, paciência inesgotável, nunca afronta significativamente quem o interpela e dá sempre uma resposta.
Na perspetiva da proposta que o Livro Verde apresentará em breve, deve haver, neste dominio, um princípio orientador e linhas vermelhas.
Princípio orientador
Um sistema conversacional pode oferecer disponibilidade, paciência e uma primeira porta de entrada — funções úteis e por vezes decisivas. Não pode, porém, oferecer pertença, que é o que a família dá: ser conhecido ao longo do tempo por alguém que assume consequências. Toda a introdução de companheiros artificiais na vida de menores deve ser avaliada pela pergunta: este sistema aumenta ou diminui a probabilidade de esta pessoa falar com um ser humano?
Linha vermelha: Nenhum sistema dirigido a menores deve simular intimidade emocional, declarar afeto ou desencorajar o recurso a pessoas; e nenhum sistema conversacional deve manter um menor em conversa perante sinais de sofrimento psicológico sem encaminhamento explícito para apoio humano.
Autor
Rui Marques
Diretor Executivo, Relational Lab