Un texte "complètement faux" qui "a failli déclencher une guerre". Un rapport erroné du renseignement américain, partiellement généré par intelligence artificielle (IA), a failli déclencher une opération militaire contre un navire chinois soupçonné de transporter des composants d'un programme de conception d'armes nucléaires, a affirmé CNN vendredi 18 septembre, citant plusieurs sources "familières de l'épisode". À lire aussi Ukraine, Gaza, Iran...

Des nouvelles formes de guerre boostées par l'intelligence artificielle D'après le site américain, qui assure avoir obtenu ses informations auprès de quatre sources, un rapport réalisé par un "analyste au sein du commandement des opérations spéciales" avait déterminé qu'un navire chinois se trouvant au Moyen-Orient transportait des composants d'un programme de conception d'armes nucléaires.

De l'IA à tout prixMais peu de temps avant l'intervention, des officiers ont réalisé que le rapport avait été "généré avec l'aide de l'IA", et que celle-ci avait "mal identifié" la cargaison du navire (CNN n'a pas pu déterminer ce qu'il contenait réellement). L'IA a utilisé du renseignement en sources ouvertes ainsi que des informations détenues par le gouvernement, puis l'analyste a utilisé l'IA pour structurer ses résultats sous la forme d'un rapport.

Contactés par CNN, le Pentagone et le Commandement des Etats-Unis pour le Pacifique n'ont pas répondu. CNN rappelle que les autorités militaires américaines appellent à utiliser l'IA dans un maximum de processus, malgré des risques élevés en termes de fiabilité et de contrôle des résultats.

Le secrétaire à la Défense Pete Hegseth a dévoilé en janvier la "stratégie d'accélération de l'intelligence artificielle" de son ministère, qui vise notamment à accélérer l'utilisation de l'IA par l'armée en "encourageant l'expérimentation" et en "éliminant les obstacles bureaucratiques".

L'administration de Donald Trump avait d'ailleurs affronté la startup Anthropic, qui refusait que ses IA Claude soient utilisées pour aider des armes à sélectionner leurs cibles de manière autonome, ou pour de la surveillance de masse aux Etats-Unis.