À Los Angeles, les pompiers essayent toujours de contenir les flammes, plus d’une semaine après le début des incendies. Selon le dernier bilan, au moins 24 personnes ont trouvé la mort. Une catastrophe historique, marquée par un flot d'infox d’une rare intensité sur les réseaux. L’origine de ces incendies, le travail des pompiers, les rescapés, rien n’échappe à la désinformation, à tel point que certaines des images les plus partagées en ligne sont irréelles ou sorties de leur contexte.

Si vous avez passé du temps sur les réseaux sociaux ces derniers jours, vous avez probablement été confronté à l’une de ces deux images aériennes, montrant une maison au toit rouge, prétendument épargnée par les flammes à Los Angeles. Tout le quartier semble avoir été détruit, sauf ces luxueuses résidences. Si les deux maisons se ressemblent, ce ne sont pas les mêmes. L’une est en bord de mer, l’autre en pleine ville.

Les internautes qui partagent ces photos affirment qu’elles montreraient « la maison d’un croyant de Los Angeles, miraculeusement protégée par Dieu ». Un récit sur lequel plusieurs auditeurs nous ont alertés.

Vérification faîte, ces deux images n’ont rien à voir avec les incendies en cours à Los Angeles. La première photo est bien authentique, mais elle n’a pas été prise dans la cité des anges. Une recherche par image inversée permet de retrouver sa trace dans la banque d’images de l’Agence France Presse (AFP). On y apprend en légende qu’elle montre une maison dans le quartier de Lahaina, à la suite des incendies mortels à Hawaï, en août 2023. La résidence avait été épargnée notamment grâce à sa toiture en tôle épaisse et à l’absence de végétation à proximité.

Concernant le deuxième cliché, si visuellement tout semble réel, l’image a en réalité été générée par une intelligence artificielle. Le seul moyen de s’en rendre compte consiste à faire une recherche par image inversée sur Google, puis d’aller dans l’onglet « À propos de l’image ». Un message apparaît alors indiquant « image créée avec l’IA de Google ».

Comment Google sait-il que quelqu’un a généré cette image avec son intelligence artificielle ? Pour son outil de génération d’image, baptisé Imagen, la firme américaine utilise ce que l’on appelle des watermarks, des filigranes, invisibles à l’œil nu, mais identifiables par un logiciel. Ce tatouage numérique atteste donc de l’utilisation de l’intelligence artificielle, mais sans faire cette démarche de vérification, il est impossible de s’en rendre compte.

Cette image synthétique fait l’objet de nombreuses instrumentalisations. Religieuse d’abord, avec plusieurs messages parlant d’une intervention divine. Certains affirment, à tort, que cette maison appartenait à une famille chrétienne, d’autres à une famille musulmane.

Et puis certains complotistes ont aussi diffusé cette image, assurant que l’incendie était volontaire et ne ciblait que certaines habitations. Deux récits trompeurs vus des dizaines de millions de fois sur les réseaux sociaux. Résultat, cette infox figure aujourd’hui parmi les images les plus vues concernant les incendies de Los Angeles. On est donc là face à un énième exemple de détournement de l’IA qui perturbe les perceptions d’un événement mondial et invisibilise les vraies images de la catastrophe.

« Nous allons nous débarrasser des fact-checkers ». Cette déclaration du patron de Meta, Mark Zuckerberg, ce mardi 7 janvier, a suscité beaucoup d’inquiétude chez les spécialistes de la lutte contre la désinformation. Pendant que certains veulent faire disparaître le fact-checking sur les réseaux, d’autres essayent au contraire de faciliter l’accès à des informations vérifiées. C’est le cas de l'ONG La Réponse Tech qui a récemment lancé, Vera, un bot conversationnel de vérification.

Utiliser l’intelligence artificielle pour permettre à tout un chacun de vérifier une information en temps réel. C’est la mission que s’est lancée le collectif citoyen La Réponse Tech en développant Vera, un agent conversationnel numérique, accessible 24 heures sur 24, 7 jours sur 7. Concrètement, il suffit d’appeler le numéro de téléphone de Vera, +33 9 74 99 12 95 ou bien de lui envoyer un message sur WhatsApp, en lui demandant si telle information est vraie ou fausse.

Pour cet exemple, nous avons volontairement posé une question sur une infox vérifiée par la cellule Info Vérif de RFI. Mais cette intelligence artificielle se base sur le travail de plusieurs centaines de sources fiables, sélectionnées par un comité d’experts et librement consultables.

« À partir de la question posée par l’utilisateur, Vera va d’abord chercher si des rédactions de fact-checking ont traité le sujet. Si ce n’est pas le cas, elle va chercher la réponse auprès de 300 sites de médias reconnus comme fiables, avant d’en faire une synthèse et de la proposer en temps réel », explique son fondateur, Florian Gauthier. Techniquement parlant, Vera se base sur le modèle de langage GPT-4, développé par la société américaine Open AI.

Aujourd’hui, Vera est utilisée par environ 700 utilisateurs uniques chaque semaine.

Comme tout outil basé sur l’intelligence artificielle, Vera n’est pas infaillible. Le risque d’erreur ou de réponse incomplète existe. Mais contrairement à des chatbots comme ChatGPT, Perplexity ou Claude, Vera n’a pas été pensée pour répondre coûte que coûte à la question posée. « Vera a l’interdiction totale, d’imaginer quoi que ce soit. Dès qu’elle va formuler une réponse, c’est que cette réponse a été donnée par une source fiable qui est toujours citée. Si Vera ne trouve pas la réponse dans sa base de données, ce qui arrive par moment, elle ne va pas chercher à inventer. Elle se contentera alors de préciser qu’elle n’a pas trouvé la réponse à cette question », détaille Florian Gauthier.

Autre limite, la base de données ne peut pas être exhaustive. Il est donc possible que Vera vous réponde qu’elle ne sait pas même si le sujet a déjà été vérifié. Mais d’après nos essais, Vera est aujourd’hui le bot conversationnel le plus efficace pour vérifier une information en temps réel. À l’avenir, ses créateurs envisagent de rendre Vera multilingue, et de proposer gratuitement le service sur d’autres plateformes et réseaux sociaux.

Au-delà de permettre ce processus de vérification en temps réel, ce genre d’agent conversationnel pourrait également permettre de limiter, chez certains utilisateurs, l'adhésion aux théories complotistes. C’est ce que montre une étude récente publiée dans la revue scientifique Nature. « De nombreuses personnes qui croient fermement à des théories du complot apparemment infondées peuvent changer d’avis lorsqu’on leur présente des preuves convaincantes. (...) Les dialogues avec l’IA réduisent durablement les croyances complotistes, même parmi les plus fervents croyants », concluent les chercheurs.

Pour Florian Gauthier, « l’intelligence artificielle est un super outil pour propager des fausses informations. Mais l’IA peut aussi être, au contraire, une véritable piste de réponse pour combattre la désinformation ».