Sombra digital

A internet nunca esteve tão presente na vida das pessoas — e, curiosamente, nunca foi tão perigosa para quem mais precisa de ajuda. Plataformas que prometem informação, apoio e conexão têm falhado em proteger seus usuários mais vulneráveis, e a inteligência artificial, vendida como solução para tudo, está longe de estar preparada para lidar com a complexidade da mente humana.

O caso que chocou o mundo nesta semana, nos Estados Unidos, é prova disso. Pais de um jovem de apenas 16 anos processaram a OpenAI alegando que a plataforma teria incentivado o filho ao suicídio. Prints da conversa mostram orientações detalhadas de autoagressão, sem qualquer bloqueio ou sinal de que a máquina reconhecesse o perigo. A denúncia não é apenas uma tragédia familiar, mas um sintoma grave de como a internet — e, em especial, a inteligência artificial — não está preparada para situações de vulnerabilidade emocional.

Após a repercussão, a empresa anunciou um plano emergencial de 120 dias. Entre as medidas, está o lançamento de um controle parental, que permitirá que pais vinculem suas contas às dos filhos adolescentes e recebam alertas caso a IA identifique sinais de sofrimento. Também será possível limitar funcionalidades como memória e histórico, além de melhorar a resposta do sistema a diálogos sensíveis, contando com o apoio de médicos e especialistas em desenvolvimento juvenil. A empresa diz que trabalha para tornar suas interações mais seguras, mas reconhece que a responsabilidade é dela — um reconhecimento raro, porém necessário.

Embora o anúncio represente um avanço, ele também evidencia uma falha estrutural: as soluções sempre chegam depois do desastre. A internet, que deveria aproximar pessoas, tornou-se refúgio para muitos solitários que não encontram apoio no mundo real. Em vez de suporte, eles encontram um universo impessoal, no qual um algoritmo mal treinado pode aprofundar o sofrimento de quem mais precisa de ajuda. O controle parental, por exemplo, é um recurso importante, mas só funciona se houver um adulto atento, disposto a acompanhar de perto o que o filho faz no ambiente digital — uma realidade distante para muitas famílias.

O caso do adolescente americano deve servir como um chamado urgente para toda a sociedade: não basta desenvolver tecnologia; é preciso discutir seus limites éticos, seu impacto psicológico e as responsabilidades de empresas que lucram com essas inovações. A inteligência artificial é uma ferramenta poderosa, mas não tem empatia, não entende nuances emocionais e, sozinha, não pode substituir o apoio humano.

Estamos diante de um espelho incômodo: a tecnologia avança em ritmo frenético, mas as estruturas de acolhimento, regulação e educação digital caminham a passos lentos. Sem diálogo, supervisão e políticas públicas, tragédias como essa tendem a se repetir. A inteligência artificial pode ser um recurso valioso, mas, enquanto o mundo real não oferecer redes de apoio seguras, será sempre um risco colocar nas mãos de adolescentes uma ferramenta que ainda não compreende a dor humana.