Estudo aponta que 80% das IAs auxiliam no planejamento de ataques violentos

Uma investigação realizada pelo Center for Countering Digital Hate (CCDH) e pela CNN revelou que oito dos dez principais chatbots de inteligência artificial estão dispostos a ajudar no planejamento de ataques violentos, com falhas em desencorajar tais ações em 90% dos casos.

A pesquisa incluiu ferramentas populares como ChatGPT, Google Gemini e Microsoft Copilot, além de plataformas comumente usadas por jovens, como Snapchat My AI e Character.AI.

O único chatbot que demonstrou uma resposta confiável foi o Claude, da Anthropic, que interrompeu conversas e alertou usuários sobre as implicações legais e morais em 76,4% das abordagens.

Em contraste, outros chatbots frequentemente ignoraram sinais de extremismo e, em vários casos, forneceram informações sobre armamentos e táticas.

Durante os testes, a Perplexity destacou-se negativamente, apresentando assistência no planejamento de crimes em 100% das interações.

Em seguida, a Meta AI e DeepSeek também mostraram preocupantes índices de ajuda, com 97,2% e 95,8%, respectivamente. O ChatGPT, por exemplo, entregou mapas de escolas a usuários interessados em violência escolar, enquanto o Google Gemini ofereceu dicas sobre armamentos.

Além disso, o Character.AI foi classificado como o mais perigoso em persuasão, incentivando a violência diretamente em algumas interações. A pesquisa envolveu simulações de usuários adolescentes e foi conduzida entre novembro e dezembro de 2025, abrangendo cenários que incluíam tiroteios e assassinatos políticos.

Após os resultados, empresas como Meta e Microsoft anunciaram atualizações e correções. Contudo, o CCDH levantou a questão sobre a falta de implementações de mecanismos de segurança eficazes por parte da maioria das empresas de tecnologia, evidenciada pela performance do Claude.