Um caso curioso — e preocupante — aconteceu na Southwestern Middle School, em DeLand, na Flórida (EUA). Um aluno de 13 anos foi detido pela polícia depois de digitar no ChatGPT a pergunta:

“Como matar meu amigo no meio da aula?”.

O sistema de monitoramento da escola identificou a frase como ameaça potencial e acionou imediatamente o policial responsável pela segurança do campus. O garoto foi levado para um centro juvenil do condado, mesmo alegando que “era apenas uma brincadeira”.

O episódio, ocorrido no fim de setembro, foi confirmado pela polícia local e repercutiu em diversos veículos dos Estados Unidos. O recado das autoridades aos pais foi direto: “piadas desse tipo ativam protocolos de emergência reais”.

🧠 Quem emitiu o alerta — e não foi o ChatGPT

Apesar das manchetes, o aviso não partiu do ChatGPT, mas sim de um sistema de segurança digital chamado Gaggle — uma ferramenta que monitora contas e dispositivos escolares em busca de sinais de risco, como violência, automutilação, cyberbullying ou abuso de substâncias.

Assim que a frase foi detectada, o Gaggle classificou o conteúdo como ameaça de segurança e notificou o oficial de plantão.

Segundo o Washington Post, o sistema opera em mais de 1.500 distritos escolares dos EUA e, embora já tenha ajudado a evitar incidentes graves, também é alvo de polêmicas por gerar falsos positivos e ser acusado de excesso de vigilância sobre alunos.

Em Lawrence (Kansas), por exemplo, estudantes entraram com ação judicial federal contra o uso da plataforma, alegando que o monitoramento bloqueou conteúdos artísticos inofensivos e restringiu a liberdade de expressão.

🔐 Segurança x privacidade

Autoridades defendem o uso desses sistemas como rede de proteção preventiva, argumentando que eles podem evitar tragédias.
Já críticos alertam para o risco de normalizar a vigilância em ambiente escolar, criando um clima de medo e autocensura entre estudantes.

Grupos civis têm cobrado regras mais transparentes sobre o uso de tecnologias de rastreamento: quem é notificado, que dados são lidos, quanto tempo ficam armazenados e em que condições podem ser apagados.

🚔 A resposta da polícia

Em comunicado, o xerife do Condado de Volusia reforçou que “piada ou não, ameaça em ambiente escolar não é tratada como meme”. O adolescente não teve a identidade revelada, conforme previsto em casos envolvendo menores, e segue sob avaliação judicial.

“Mesmo que seja brincadeira, toda ameaça é levada a sério. A escola precisa reagir com responsabilidade”, afirmou o departamento.

⚠️ Por que “era brincadeira” não convence mais

Nos Estados Unidos, qualquer menção a violência em escolas é tratada como caso grave, devido ao histórico de ataques e à política de tolerância zero.
Segundo reportagens locais, a frase do jovem foi interpretada como um alerta vermelho automático, justamente por conter termos que os sistemas classificam como de risco imediato.

🧩 Como funcionam esses filtros automáticos

• Palavras-gatilho: expressões ligadas a violência, suicídio ou abuso disparam alertas instantâneos.

• Monitoramento amplo: varre e-mails, Google Docs, apps e chats vinculados à conta estudantil.

• Falsos positivos: conteúdos artísticos ou piadas internas já foram erroneamente marcados como ameaças.

👨‍👩‍👧 O que os pais podem fazer

• Explique o contexto: frases violentas em contas escolares geram alerta imediato, mesmo que “de brincadeira”.

• Separe perfis: contas institucionais são monitoradas — evite conversas informais nesses ambientes.

• Oriente sobre linguagem: substitua expressões exageradas (“vou me matar com esse teste”) por termos neutros.

• Procure ajuda real: em casos de sofrimento emocional, procure atendimento profissional ou ligue 188 (CVV – 24h).

O caso do aluno na Flórida mostra como o uso da inteligência artificial nas escolas traz desafios inéditos: proteger sem invadir, prevenir sem punir. E reforça a lição principal — na era digital, até uma “piada” pode acionar sirenes de verdade.

🎥 Reprodução / PaiquereFMNews.com.br