Les Avatars IA Peuvent Diffuser de la Désinformation, Mais Aussi la Vérité dans les Pays à Forte Censure Comme le Venezuela

Je suis rentrée dans mon pays natal, le Venezuela, l’année dernière pour quelques mois après quelques années à l’étranger. L’une des choses qui a retenu mon attention pendant mon séjour a été cette vidéo virale de « présentateurs de télévision américains » expliquant la situation économique du pays et comment elle s’était améliorée, en anglais avec des sous-titres espagnols. Cela ne semblait pas réel, et j’ai immédiatement eu des soupçons—malheureusement, pas les gens qui y vivent.

« Nous voulions savoir si le Venezuela est vraiment aussi détruit que les médias l’affirment depuis des années », a déclaré Noah, le « journaliste » blond de cette inconnue chaîne d’information appelée House of Media, dans l’une des vidéos qui ont fait le buzz sur les réseaux sociaux, que le gouvernement a partagée sur la télévision locale, et qui a même été promue en ligne par Nicolás Maduro, l’autocrate du Venezuela.

« C’est en train de se passer », ai-je pensé après avoir parlé à quelques Vénézuéliens qui croyaient que les avatars IA étaient de vrais journalistes, « Le régime de Maduro utilise l’IA pour diffuser de la désinformation et ça marche. » Même s’il n’a pas été confirmé que l’administration de Maduro l’avait orchestré, il a été révélé plus tard que les vidéos étaient des avatars IA créés par la société d’IA Synthesia, qui a récemment développé des avatars capables d’exprimer des émotions humaines. Selon VICE, à ce moment-là, Synthesia facturait 30 $ par mois, et des vidéos similaires étaient créées pour la propagande en Afrique et en Asie.

Cependant, juste au moment où je commençais à désespérer que les deepfakes soient utilisés à des fins malveillantes et pour diffuser de la désinformation dans plusieurs pays, un rebondissement intéressant a attiré mon attention et mon espoir : les journalistes vénézuéliens utilisent l’IA pour informer et diffuser la vérité.

Les Avatars IA : L’anonymat comme avantage

L’un des problèmes des deepfakes est l’anonymat. À moins que quelqu’un ne confesse, comme ce magicien de la Nouvelle-Orléans qui a révélé aux journalistes son rôle dans les appels automatisés imitant le président Joe Biden durant les élections primaires, il peut être difficile de trouver les auteurs de certains contenus générés par l’IA car les avatars de l’IA ne fournissent pas d’informations sur la personne réelle. Mais et si c’était en réalité une solution dans certains scénarios ?

Dans des pays comme le Venezuela, partager des informations qui vont à l’encontre du gouvernement est dangereux, même si vous n’êtes pas journaliste, même pour un simple post sur les réseaux sociaux – il y a de nombreux cas de personnes et d’étudiants comme Villca Fernández qui ont été envoyés en prison à cause d’un tweet. Les gens le font quand même, mais c’est très risqué.

Voilà où les avatars IA deviennent utiles. Selon Reuters, Connectas, une organisation basée en Colombie, a lancé un nouveau projet appelé « Opération Retweet », ainsi que les initiatives #LaHoraDeVenezuela et Venezuela Vota, après les élections présidentielles du 28 juillet. L’objectif est de partager des informations réelles préparées par des médias indépendants à l’aide de deux personnages IA, La Chama (la fille) et El Pana (l’ami en argot vénézuélien)

Les vidéos sont partagées sur les réseaux sociaux via les chaînes d’information indépendantes restantes et d’autres canaux de communication tels que WhatsApp. Contrairement aux avatars IA de House of Media que j’ai vus l’année dernière, ces nouveaux personnages semblent un peu plus artificiels et le dévoilent dès le début. « Avant de commencer, au cas où vous ne l’auriez pas remarqué, nous voulons vous dire que nous ne sommes pas réels », déclare La Chama dans la première vidéo publiée. « Nous avons été générés par Intelligence Artificielle, mais le contenu est réel, vérifié, de haute qualité, et créé par des journalistes », ajoute El Pana.

Plusieurs vidéos ont été partagées sur les réseaux sociaux, en anglais et en espagnol, et à travers de nombreux sites web et autres canaux de communication. Le projet a été loué à l’international et admiré comme une stratégie pour lutter contre la censure.

📢 Troisième épisode de Operacion Retuit!#JournalismeInestimable

🎥 Cet épisode se concentre sur la récente adoption d’une loi qui réglemente les ONG au 🇻🇪. L’espace civique est-il en train de se fermer définitivement ?🚨

🔗 👉🏽 https://t.co/SkFE5KKQBu

Lisez et partagez.📲🔄#VenezuelaVota #LaHoraDeVenezuela pic.twitter.com/HAdlqBXwnh

— CONNECTAS (@ConnectasOrg) 6 septembre 2024

La Technologie Devient Clé pour la Survie

Les plateformes numériques sont devenues essentielles pour les Vénézuéliens depuis des années. Je me souviens avoir aidé ma famille à trouver les médicaments de ma grand-mère sur Twitter (maintenant X) en 2016 et 2017 lorsque la pénurie de médicaments atteignait 85% dans le pays.

De nombreux Vénézuéliens deviennent experts en technologie par nécessité et tirent le meilleur parti de chaque plateforme numérique. J’ai été impressionnée l’année dernière par la façon dont les entreprises et les clients ont géré tant de transactions via WhatsApp. J’ai commandé de la nourriture et réservé mes trajets en transport par cette plateforme car des applications populaires comme Uber Eats, Uber, Lyft, ou les méthodes traditionnelles de paiement en ligne internationales n’existent pas. Les gens apprennent à faire confiance aux inconnus par le biais de discussions.

De l’utilisation des VPN pour contourner la censure—à l’instar de ce que font les Brésiliens pour accéder à X, qui a récemment été interdit dans le pays—à l’exploitation de Bitcoin ou à la recherche de petits boulots en ligne pour joindre les deux bouts, les Vénézuéliens ont constamment adapté de nouvelles technologies comme outils pour naviguer dans les crises politiques, sociales et économiques turbulentes. « Après les États-Unis, le Venezuela accueille le plus grand nombre de travailleurs de données au monde, » déclare un rapport partagé par Rest of World plus tôt cette année.

L’intelligence artificielle a une forte présence au Venezuela depuis des années. Plusieurs entreprises d’IA ont profité de la crise en embauchant de la main-d’œuvre bon marché. En 2022, la MIT Technology Review a partagé un rapport sur la manière dont les entreprises d’étiquetage de données d’IA ont trouvé des opportunités pour exploiter des citoyens talentueux : « La crise au Venezuela a été une aubaine pour ces entreprises, qui ont soudainement gagné l’une des main-d’œuvres les moins chères jamais disponibles. »

Désormais, les Vénézuéliens utilisent leur talent et leurs connaissances en technologie comme un outil puissant non seulement pour contrer la crise, mais aussi pour défier le gouvernement. Peut-être – et espérons-le – que les nouveaux avatars de l’IA ne sont que le début d’une nouvelle vague d’émancipation citoyenne.