IA E SEGURANÇA
Relato falso com IA levou militares dos EUA a preparar operação
CNN afirma que informação incorreta sobre navio chinês foi descoberta antes de uma abordagem militar
Um relatório de inteligência produzido com auxílio de inteligência artificial levou militares dos Estados Unidos a preparar uma operação para interceptar um navio chinês no Oriente Médio, segundo reportagem da CNN baseada em quatro fontes familiarizadas com o episódio.
O documento circulou durante o primeiro semestre e indicava incorretamente que a embarcação transportava componentes relacionados a um programa de armas nucleares.
De acordo com as fontes ouvidas pela CNN, militares armados chegaram a se preparar para abordar o navio e aeronaves já estavam em operação quando uma verificação mais detalhada identificou o problema. O chatbot utilizado por um analista teria interpretado incorretamente dados sobre a carga.
A CNN não conseguiu determinar qual era, de fato, o material transportado. O Comando de Operações Especiais do Pacífico e o Pentágono não responderam aos pedidos de comentário sobre o episódio específico.
A afirmação de que o caso “quase iniciou uma guerra” foi feita por uma fonte anônima entrevistada pela CNN e não constitui uma conclusão oficial do governo norte-americano.
O episódio, entretanto, ocorre em meio a um debate internacional mais amplo sobre o emprego de inteligência artificial em decisões militares.
Representantes governamentais, militares e especialistas reunidos no Fórum Xiangshan, em Pequim, discutiram nesta semana riscos associados à aceleração das decisões e à necessidade de manter supervisão humana sobre sistemas utilizados em segurança e defesa.
Especialistas norte-americanos e chineses também têm proposto mecanismos semelhantes a salvaguardas usadas na área nuclear, incluindo canais específicos para crises envolvendo sistemas autônomos.
O ponto central do caso não é que uma IA tenha decidido autonomamente realizar um ataque. Pelas informações disponíveis, o erro ocorreu dentro de um processo humano de produção e circulação de inteligência.
O acompanhamento agora envolve eventuais mudanças nos procedimentos de verificação e supervisão utilizados pelas forças norte-americanas.
