L'IA peut aider à limiter la propagation de la désinformation pendant la catastrophe naturelle, découvre l'étude

Grâce à un traitement dit en langage naturel, l'IA peut identifier la désinformation, suivre sa propagation et surveiller le paysage des informations numériques en temps réel. Mais il a ses limites.

Le troisième jour après la rupture des digues en août 2005, la désinformation à la Nouvelle-Orléans sur l'anarchie et le pillage était endémique. Il est devenu si omniprésent que de nombreux efforts de rétablissement après l'arrêt de l'ouragan Katrina ont été interrompus ou retardés.

En 2018, une vague d'incendies de forêt en Californie a déclenché sa propre poussée de désinformation. La représentante américaine Marjorie Taylor Greene (R-Ga.) A affirmé que les «lasers spatiaux juifs» et la famille Rothschild étaient à blâmer pour la dévastation.

Des rumeurs sur l'anarchie aux tweets sur les incendies de forêt laser spatiaux, les catastrophes naturelles ont une tendance prouvée à créer une tempête de désinformation qui peut avoir un impact sur les interventions d'urgence.

Une étude de l'Institut international pour l'analyse du système appliqué (IASA), une institution de recherche internationale basée à Laxenburg, en Autriche, cherche à comprendre comment les outils d'IA peuvent être exploités pour atténuer la diffusion de désinformation pendant les situations d'urgence. Dirigée par Nadejda Komendantova et Dmitry Erokhin, l'étude fait partie d'un domaine de recherche croissant à l'intersection de l'apprentissage automatique et de la désinformation.

« Cette recherche provient de la compréhension que la désinformation lors des catastrophes naturelles constitue une menace sérieuse pour la sécurité publique et l'efficacité de la réponse d'urgence », a déclaré Komendantova. «L'urgence et la complexité de ce problème sont devenues particulièrement apparentes ces dernières années», en raison du rôle des médias sociaux et de la menace accrue de temps extrême – qui peut devenir de plus en plus grave en raison de la demande énergétique stupéfiante de la technologie d'IA elle-même.

Financé par l'Union européenne, l'étude utilise une analyse d'étude de cas et une conception de revue de la littérature narrative. Komendantova et Erokhin examinent trois outils d'IA: le traitement du langage naturel (NLP), les algorithmes d'apprentissage automatique et les systèmes de surveillance en temps réel. Chaque outil a un rôle différent à jouer dans l'identification de la désinformation et l'atténuation de sa propagation.

La PNL permet aux ordinateurs d'interpréter et d'analyser le langage humain à grande échelle. «L'une des principales applications de la PNL dans la détection de désinformation est l'analyse des sentiments», expliquent les chercheurs. Cela signifie que ces systèmes peuvent évaluer le ton des messages en ligne – les catégoriser comme positifs, négatifs ou neutres. Selon les chercheurs, un pic de sentiment négatif autour d'un sujet spécifique pourrait suggérer un barrage de fausses allégations. Étant donné que la PNL peut scanner rapidement des quantités massives de contenu, c'est un outil puissant pour suivre la désinformation en ligne.

Les algorithmes d'apprentissage automatique poussent les choses un peu plus loin. En formation sur de grands ensembles de données, ces systèmes apprennent à reconnaître les modèles dans la façon dont la désinformation se propage généralement. Ils peuvent ensuite signaler un contenu similaire à l'avenir et prédire quels faux récits ou théories de complot pourraient émerger avant la catastrophe. Les algorithmes d'apprentissage automatique s'améliorent également avec le temps car ils sont nourris de nouvelles données.

Enfin, les systèmes de surveillance en temps réel offrent une surveillance constante du paysage de l'information numérique. Ces outils scannent automatiquement les sites Web, les médias et les médias sociaux pour des mots clés ou des types de contenu spécifiques. «En collectant continuellement des données, les systèmes de surveillance en temps réel peuvent s'assurer qu'ils ont des informations à jour sur l'état actuel de désinformation», déclarent les chercheurs. Une fois les données collectées, le système peut alerter les autorités nécessaires.

Malgré les progrès récents de la capacité de l'IA à détecter et à lutter contre la désinformation, chacun de ces outils a des limitations importantes.

La désinformation est souvent créée intentionnellement et se propage. « Les tactiques en constante évolution de ceux qui créent et diffusent une désinformation présentent un défi persistant aux systèmes d'IA », a déclaré Komendantova. «Alors que les acteurs de désinformation s'adaptent en développant de nouvelles techniques de langue, d'imagerie ou de diffusion, les modèles d'IA doivent être mis à jour et recyclés pour reconnaître ces nouveaux modèles.»

L'IA elle-même a été de plus en plus utilisée pour répartir la désinformation par le biais de comptes de bot et d'imagerie générative, mais cette étude ne s'est pas spécifiquement concentrée sur ces techniques de diffusion.

L'IA a également du mal à comprendre les nuances culturelles dans le langage et l'utilisation de l'ironie et du sarcasme par les acteurs de désinformation, limitant ses capacités de détection.

Quelles que soient ces limites, «l'étude a révélé que l'IA peut jouer un rôle vital dans la détection et l'atténuation de la désinformation pendant les catastrophes naturelles», a déclaré Komendantova, aidant potentiellement les communautés en première ligne de la crise climatique à renforcer la résilience. Leurs recherches ont révélé que les algorithmes d'apprentissage automatique formés à partir des publications sur les réseaux sociaux pendant l'ouragan Harvey pourraient être utilisés pour identifier et prédire la propagation de fausses informations en ligne, telles que des rapports inexacts sur les évacuations obligatoires et la disponibilité du refuge – ce qui concerne la panique et la confusion.

Même avant la montée de l'IA avancée, la technologie a démontré son potentiel dans la lutte contre la désinformation liée aux catastrophes. Après le tremblement de terre dévastateur de 2010 en Haïti, la cartographie de la crise s'est avérée vitale dans la coordination des efforts de secours, a révélé l'étude. L'association à but non lucratif Ushahidi a lancé une plate-forme de cartographie dans les heures suivant le séisme de magnitude 7.0, en utilisant des données de crowdsourced à partir de messages texte, de médias sociaux et de médias pour identifier les zones dans un besoin urgent. Aujourd'hui, l'IA peut automatiser une grande partie de ce processus, rassemblant, vérifiant et mappant rapidement les informations en temps réel.

En libérant du temps vital, les outils d'IA «permettent aux intervenants d'urgence de hiérarchiser leurs efforts et d'attribuer plus efficacement les ressources», écrivent Komendantova et Erokhin.

Les chatbots d'IA – les programmes informatiques qui utilisent l'IA pour simuler des conversations humaines et répondent aux utilisateurs en temps réel – ont également été déployés ces dernières années pour lutter contre la désinformation naturelle des catastrophes.

Pendant la pandémie covide, les chatbots d'IA, comme le «coronabot» du Center for Disease Control, ont été utilisés pour aider à répandre des informations précises et opportunes pour tenter de lutter contre les théories du complot généralisées et de renforcer la confiance du public.

De même, la Croix-Rouge a déployé son chatbot, Clara, pour contrer les théories du complot pendant les doubles ouragans de Milton et Helene en 2024. Nommé d'après le fondateur de la Croix-Rouge Clara Harlowe Barton, le chatbot a fourni aux utilisateurs des informations précises sur les abris, l'assistance financière et les services d'urgence.

« Nos recherches démontrent que le déploiement de l'IA peut aider à améliorer la prise de décision lors des crises en garantissant que des informations précises et opportunes atteignent les personnes touchées », a déclaré Komendantova.

Le succès global de l'utilisation de l'IA en cas de catastrophe dépend des développeurs technologiques et des agences de gestion des urgences à créer une confiance du public, selon Komendantova et Erokhin.

« Alors que l'IA devient plus explicable et transparent, la confiance du public dans ces outils est susceptible de croître », a déclaré Komendantova.

Mais la confiance du public peut être difficile à construire par l'intermédiaire de l'IA lors des catastrophes naturelles, a déclaré Joseph Uscinski, professeur à l'Université de Miami et expert en théories du complot et en désinformation.

«Il est certainement vrai que l'IA peut être en mesure de retirer les gens des théories du complot, mais cela peut être difficile pendant les catastrophes naturelles», déclare Uscinski. «Les gens peuvent faire face à l'anxiété de telle manière que changer d'avis pourrait être difficile.»

Ceux qui éprouvent les effets des catastrophes naturelles et de la désinformation peuvent ne pas avoir le temps ou les ressources pour accéder aux chatbots ou à des publications de réseaux sociaux dignes de confiance, a-t-il déclaré.

En outre, les pensées conspiratoires sont le produit des visions du monde complexes des gens, y compris leur identité de groupe et leurs croyances idéologiques. Ces croyances ne sont pas rapidement modifiées et «les gens ne se promènent pas en attendant que l'IA change d'avis», a déclaré Uscinski.

Malgré ses préoccupations concernant l'utilisation de l'IA en cas de catastrophe naturelle, il a déclaré: « Cela vaut certainement la peine d'essayer. »

Komendantova plaide pour un certain nombre de mesures à améliorer la confiance du public et la capacité de la TI à lutter contre la désinformation des catastrophes naturelles. Cela inclut les pratiques transparentes et éthiques de l'IA, la gouvernance des données, l'éducation des utilisateurs et la réglementation de l'IA.

Alors que l'utilisation de l'IA continue de se développer, les tactiques de désinformation continuent de changer et les intempéries continuent de s'aggraver, des recherches supplémentaires sont nécessaires dans ce domaine.

«Les recherches futures devraient se concentrer sur l'amélioration de la compréhension contextuelle de l'IA dans les scénarios de catastrophe, le développement de modèles plus robustes et moins biaisés et la lutte contre les problèmes de confidentialité, de transparence et d'équité», a déclaré Komendantova. «Le domaine bénéficiera d'une collaboration interdisciplinaire accrue, réunissant l'expertise de l'informatique, des sciences sociales, de la gestion des urgences et de l'éthique pour développer des solutions pratiques et holistiques.»

Avec ces améliorations à l'esprit, Komendantova est convaincu que l'IA sera intégrée avec succès dans les plateformes de gestion des interventions d'urgence et d'information dans un avenir proche. Elle pense que l'IA va au-delà de la simple détection de désinformation et sera utilisée pour le contrer efficacement via les chatbots, la cartographie de crise et en tant que «partenaire d'information en temps réel» pour les intervenants d'urgence.