Um relatório de inteligência gerado por inteligência artificial quase resultou em um ataque militar dos Estados Unidos a um navio chinês no Oriente Médio. A informação, considerada “totalmente falsa”, sugeria que a embarcação transportava componentes para um programa de armas nucleares, conforme reportado pela CNN.
O incidente ocorreu quando um analista do Comando de Operações Especiais dos EUA utilizou um chatbot para analisar o manifesto do navio. A combinação de inteligência de fontes abertas com dados de inteligência secreta levou à conclusão errônea de que a embarcação estava envolvida em atividades relacionadas a armas nucleares. O erro quase resultou em uma operação militar para interceptar e abordar o navio, com suporte aéreo, até que os oficiais perceberam que a informação era gerada pela IA.
Fontes citadas pela CNN indicam que o chatbot, ao processar as informações, cometeu um erro significativo ao identificar o material que o navio transportava. Este episódio é um exemplo notável dos riscos associados ao uso de IA em contextos sensíveis, como a análise de inteligência militar. Um dos informantes destacou que a situação “quase começou uma guerra”.
O Departamento de Defesa dos EUA tem buscado integrar a inteligência artificial em suas operações, conforme delineado em uma estratégia de aceleração de IA divulgada em janeiro. Essa estratégia visa tornar todos os dados apropriados disponíveis para exploração por sistemas de IA, abrangendo diversas áreas e componentes das forças armadas.
O uso de IA na análise de inteligência não é isento de controvérsias. Especialistas alertam que a tendência de “alucinação” — quando a IA gera informações imprecisas ou fictícias — pode comprometer a confiabilidade de relatórios críticos. Desde que o termo se tornou popular, diversas áreas, incluindo jornalismo e pesquisa acadêmica, têm enfrentado problemas semelhantes com ferramentas de IA.
O incidente envolvendo o navio chinês levanta questões sobre a capacidade do Pentágono de lidar com os desafios apresentados pela IA. Apesar de esforços para mitigar esses riscos, como a implementação de diretrizes para evitar alucinações, muitos pesquisadores acreditam que pode ser impossível eliminar completamente esse problema.
Além disso, a situação destaca a necessidade de um controle mais rigoroso sobre como a inteligência artificial é utilizada em operações militares. A dependência crescente de tecnologias de IA pode levar a consequências indesejadas, especialmente em cenários de alta tensão internacional.
O próximo passo para o Departamento de Defesa pode incluir uma revisão das práticas atuais de integração de IA e uma avaliação mais cuidadosa dos sistemas utilizados na análise de inteligência. O incidente serve como um alerta sobre os perigos potenciais da IA e a importância de uma abordagem cautelosa em sua adoção.
Siga a HACKBR e receba as notícias de cibersegurança e tecnologia no seu feed: Instagram @hackbrnews