3 min de lecture Connecté

Demain, l'intelligence artificielle pourra manipuler l'information et semer le chaos

La manipulation de l'information prendra bientôt une ampleur nouvelle et permettra à des acteurs étatiques de peser dans les débats démocratiques d'autres pays, souligne un rapport interministériel alarmiste.

Une vidéo virale dans laquelle Barack Obama tient des propos injurieux à l'égard de Donald Trump a mis en lumière le phénomène deepfake
Une vidéo virale dans laquelle Barack Obama tient des propos injurieux à l'égard de Donald Trump a mis en lumière le phénomène deepfake Crédit : YouTube
BenjaminHuepro
Benjamin Hue
et AFP

En matière de manipulation de l'information, le pire est probablement à venir. Dans un futur proche, il sera de plus en plus difficile d'échapper aux campagnes de désinformation en ligne. Selon un rapport interministériel français aux conclusions alarmistes, les progrès technologiques et l'utilisation de l'intelligence artificielle permettront à des acteurs étatiques de manipuler l'information de façon quasiment indétectable et de semer le chaos. 

Ces acteurs, notamment la Russie, auront tout loisir de monter de redoutables campagnes de désinformation "visant à fragiliser ou déstabiliser le débat démocratique dans d'autres États", estiment les auteurs de l'étude "Les manipulations de l'information, un défi pour nos démocraties"

Réalisé par quatre experts du Centre d'analyse, de prévision et de stratégie du ministère des Affaires étrangères (CAPS) et de l'Institut de recherche stratégique de l'Ecole militaire (IRSEM) et présenté mardi 4 septembre à Paris lors d'un colloque à l'École militaire, ce rapport de plus de 200 pages dresse la liste des menaces potentielles les plus réalistes. Il souligne notamment l'importance que prendront les logiciels d'édition photo, audio et vidéo qui permettront bientôt "de faire dire n'importe quoi à n'importe qui, rendant la désinformation indétectable". 

À lire aussi
MySpace était l'une des plateformes communautaires les plus prisées des années 2000 Connecté
Myspace a effacé tous les fichiers musicaux mis en ligne entre 2003 et 2015

"La manipulation de l'information est aussi vieille que le monde, elle fait partie de l'univers dans lequel les armées opèrent (...) mais ce qui change, c'est l'avènement des nouvelles technologies, qui lui donne une ampleur nouvelle," a déclaré la ministre des Armées Florence Parly lors de la présentation du rapport. "Des sociétés entières et des systèmes politiques peuvent être bousculés". 

Des vidéos deep fake déjà très crédibles

Les 'deep fake videos', qui consistent à modifier numériquement les visages de personnalités afin de leur faire dire ou faire ce que l'on veut, "sont déjà très crédibles", assure le rapport. "Ces vidéos altérées ont été identifiées par le département de la Défense américain comme un enjeu des élections de mi-mandat de 2018". Dans une démonstration destinée à alerter sur les dangers de ces nouvelles technologies, le réalisateur américain Jordan Peele a récemment mis en ligne une vidéo truquée, d'une véracité saisissante, de l'ancien président Barack Obama.

"Nous entrons dans une ère où nos ennemis peuvent faire croire que n'importe qui dit n'importe quoi, à n'importe quel moment", peut-on ainsi entendre dans la bouche de Barack Obama. "Ainsi, ils pourraient me faire dire des choses comme, je ne sais pas, (...) le président Trump est un idiot total et absolu!", lâche l'ancien président américain dans cette vidéo publiée en avril par le média américain BuzzFeed pour mettre en lumière le phénomène deepfake. 

>
AI-generated "real fake" video of Barack Obama

"Un plus grand danger encore, car plus subtil que la création d'un faux, est l'altération discrète d'une partie seulement d'un contenu audio ou vidéo, un discours par exemple", ajoutent les auteurs du rapport. Il sera aussi possible de truquer un discours, par exemple, et de diffuser une vingtaine de variations, "pour diluer l'authentique dans la confusion". 

"Il faut s'attendre à ce que les manipulations de l'information se généralisent et impliquent toujours davantage d'acteurs : les coûts d'entrée sont nuls, les risques d'être pris, très faibles, grâce aux difficultés de l'attribution et les gains potentiels très élevés", poursuivent-ils. 

Une longue tradition russe

Pour illustrer un autre risque, celui posé par les "personnalités fictives", les experts rappellent le rôle joué, de 2014 à 2017, aux États-Unis par Jenna Abrams. C'était une militante pro-Trump connue, icône de 'l'alt-right' américaine, citée par les grands médias et suivie par 70.000 comptes sur Twitter. Seul détail gênant, rappelle le rapport : "Jenna Abrams n'existait pas, son compte était une création de l'Internet Reasearch Agency, l'usine à trolls de Saint-Saint-Pétersbourg, financée par le Kremlin". 

La Russie est déjà soupçonnée d'ingérence dans l'élection de Donald Trump en 2016, notamment en piratant les ordinateurs du parti démocrate et en menant une campagne anti-Hillary Clinton sur les réseaux sociaux. Sur l'implication de Moscou, le rapport estime que "ce n'est pas faire preuve de 'russophobie' que de constater que toutes les ingérences récentes dans des référendums (Pays-Bas, Brexit, Catalogne) et des élections (États-Unis, France, Allemagne) sont liées, de près ou de loin à la Russie". 

"La désinformation russe - impliquant notamment des interviews de faux experts, des documents contrefaits et des photos et vidéos retouchées - a une longue tradition remontant à la période soviétique. Le mot lui-même vient du russe : 'dezinformatzia'". 

"Ne pas abandonner le Web aux extrémistes"

Face à cette menace, les auteurs du rapport dressent une liste de cinquante recommandations, aux États, à la société civile et aux acteurs privés. Ils préconisent notamment de "ne pas abandonner le web aux extrémistes", de "légiférer lorsque nécessaire", "responsabiliser les plateformes numériques", de "former les adultes comme les enfants", de "développer la vérification des faits" ou de "valoriser et mieux rétribuer un journalisme de qualité". Des prescriptions ont également été adressées aux autorités françaises sous la forme de notes confidentielles.

La rédaction vous recommande
Lire la suite
Connecté Intelligence artificielle Démocratie
Restez informé
Commentaires

Afin d'assurer la sécurité et la qualité de ce site, nous vous demandons de vous identifier pour laisser vos commentaires. Cette inscription sera valable sur le site RTL.fr.

Connectez-vous Inscrivez-vous

500 caractères restants

fermer
Signaler un abus
Signaler le commentaire suivant comme abusif
500 caractères restants
article
7794670333
Demain, l'intelligence artificielle pourra manipuler l'information et semer le chaos
Demain, l'intelligence artificielle pourra manipuler l'information et semer le chaos
La manipulation de l'information prendra bientôt une ampleur nouvelle et permettra à des acteurs étatiques de peser dans les débats démocratiques d'autres pays, souligne un rapport interministériel alarmiste.
https://www.rtl.fr/actu/futur/demain-l-intelligence-artificielle-pourra-manipuler-l-information-et-semer-le-chaos-7794670333
2018-09-05 16:20:00
https://cdn-media.rtl.fr/cache/fwmlPXnioUSrzRU7YUSd8Q/330v220-2/online/image/2018/0905/7794670884_une-video-virale-dans-laquelle-barack-obama-tient-des-propos-injurieux-a-l-egard-de-donald-trump-a-mis-en-lumiere-le-phenomene-deepfake.JPG