Dans ce nouvel épisode de “C’est pas SorciAI”, notre émission IA et Product, en partenariat avec Maestro, l’entrepreneur à impact Florian Gauthier montre comment l’IA peut avoir un impact positif sur la société. À travers 3 initiatives concrètes et sans but lucratif, dont Ask Vera, un remède malin contre la propagation des fake news.

⌛ 6 minutes de lecture (ou 59 min de démo en replay)

Ce que tu vas apprendre dans cette émission sur les bienfaits sociétaux de l’IA :

L’émission intégrale « C’est pas SorciAI » avec Florian Gauthier, le fondateur de l’ONG LaRéponse.tech :

Sa vocation ? Utiliser la technologie au service du bien commun. L’entrepreneur à impact Florian Gauthier multiplie depuis ces dernières années les produits qui ont des répercussions positives sur la société.

Zoom sur trois d’entre eux qui montrent que l’intelligence artificielle générative peut (aussi) être synonyme de bienfaits pour l’humanité.

1er projet : LightsOff, l’IA pour pallier la crise énergétique

Hiver 2022. Les prix de l’énergie flambent et Florian se demande, avec son ami Arjo, comment il peut contribuer à améliorer la situation. Très vite, ils ciblent un problème : l’éclairage nocturne des vitrines de commerces.

“Non seulement on s’est rendu compte que cela représentait 250 000 tonnes de CO2 par an, soit la consommation annuelle d’une ville de 750 000 habitants, mais, également que c’était illégal depuis 10 ans !”, indique-t-il.

En bon product, il va directement voir les commerçants pour mieux comprendre le problème. Et se rend compte que le personnel n’est pas contre l’extinction des lumières la nuit. Mais qu’il faut convaincre le ou la responsable, qui pense que cela va attirer des clients.

Au cours de cette phase de recherche, un commerçant lui glisse l’idée qui donnera naissance à LightsOff : “Tu sais, si tu mets un avis Google, peut-être que cela fera bouger les lignes…”. Eurêka.

Il enfourche son vélib’ et commence à mettre des avis négatifs à tous les commerçants qui laissent allumer la lumière de leur vitrine la nuit. Avant de se rendre compte que, finalement, il reçoit de meilleures réponses quand il se montre plus bienveillant : 3 ou 4 étoiles plutôt que 1, un avis qui encourage à éteindre la lumière plutôt qu’à accabler le commerce…

“Et on commence à voir les lumières s’éteindre !”, s’enthousiasme-t-il.

Pour passer à l’échelle cette initiative, il crée alors un site (qui existe encore), Lightsoff.fr, afin de faciliter l’envoi d’avis sur Google. Tu entres l’adresse du commerçant, tu choisis de lui laisser un avis Google, la plateforme te propose un message standard et tu n’as qu’à le copier-coller.

Problème : très vite, Google se met à bloquer ces avis identiques publiés à la chaîne. 

“On n’allait pas changer tous les commentaires à la mano. Donc une personne de notre équipe, Florian, a l’idée d’utiliser ChatGPT (dès septembre 2022 !) pour générer 500 commentaires différents”, répond Florian Gauthier.

Désormais, chaque message proposé par Lights Off pioche dans cette base de manière aléatoire… et plus aucun commentaire n’a été banni par Google !

Résultat : plusieurs dizaines de milliers de commerces ont été sensibilisés depuis l’hiver 2022 et 40 % répondent généralement aux messages. En espérant qu’ils changent vraiment leurs habitudes dans la foulée.

💡 La leçon de Florian Gauthier : 

Généralement, on pense à l’IA pour faire un produit. Là, c’est totalement l’inverse : on avait créé un produit pour répondre à un problème identifié. Et en rencontrant une difficulté, on s’est dit que l’IA pouvait nous sortir de l’ornière.

2e projet : Chatsecondtour, une IA pour faire barrage au RN dans l’entre-deux-tours des législatives de 2024

La deuxième histoire se déroule deux ans plus tard, lors des élections législatives de l’an passé.

“Je suis flippé de voir le Rassemblement National prendre de l’ampleur. Je commence à poster des stories sur Instagram et j’ai notamment une personne qui me répond avec des arguments hyper pointus…” se rappelle Florian.

Qui a alors l’idée de créer un CustomGPT, dont on a vu le fonctionnement lors de la précédente émission avec Charles de PlayPlay, pour répondre aux arguments les plus difficiles.

En deux jours, ce produit est lancé grâce à un prompt et une base argumentaire dénichée en ligne. “Je réalise à quel point c’est facile”, confie-t-il.

Pour éviter les hallucinations, il exige dans le prompt que l’assistant n’invente jamais de faits absents de la base de connaissances.

Le Financial Times en parle, France Inter également, des militants commencent à l’utiliser… mais OpenAI, voyant que son assistant est utilisé à des fins politiques, décide de le couper !

Florian reprend la méthode utilisée à Lights Off et se sert de ChatGPT… contre lui ! Autrement dit, il lui demande de faire une version alternative de la base de connaissances et le remet en ligne dans la foulée.

“En quelques jours seulement, l’impact n’a probablement pas été démentiel”, reconnaît ce dernier. Toutefois, il constate qu’avec l’IA, il est possible de faire des preuves de concept (POC si tu préfères) hyper rapidement !

3e produit : Ask Vera (ex AlloDebunk), l’IA anti fake-news

Venons en au dernier projet, celui qui occupe Florian encore aujourd’hui. Lors des législatives, ce dernier constate non seulement la montée du RN mais également la facilité avec laquelle les politiques peuvent prendre la parole et propager des contre-vérités difficiles à démentir ensuite.

Il réunit alors des experts autour d’une question : est-ce que l’on ne pourrait pas créer un produit contre la désinformation ?

Il faut savoir que, selon le Forum Économique Mondial, la désinformation et la mésinformation sont en effet la pire menace à court terme de l’humanité. 

“Pire que le climat. Car si on n’arrive pas à se mettre d’accord sur les faits en tant que société, on ne peut pas agir sur les autres menaces. C’est la clef de voûte”, précise-t-il.

L’idée d’AlloDebunk, qui deviendra plus tard Ask Vera, vient… d’un déjeuner chez la mère de Florian. “J’avais poussé ma mère à se faire vacciner contre le Covid il y a quelques années. Et là, elles viennent me voir avec une amie, assez remontées. En mode : “Comment tu as pu forcer ta mère à se faire vacciner ?” Puis en balançant les grands arguments clés des conspirationnistes sur les vaccins”, se remémore-t-il.

Démuni, Florian envoie alors des messages vocaux à ChatGPT avec tous les arguments de l’amie de sa mère.

“Et là, je tombe face à un ChatGPT plein d’empathie et de bienveillance qui me dit qu’il comprend mes préoccupations… mais que ces arguments ont été démentis. Ce qui calme direct ma mère”, poursuit-il.

Épiphanie !

Ask Vera doit permettre de vérifier les (fausses) informations. Tout en réglant deux problèmes : 

  • L’accessibilité, afin que même les seniors puissent y avoir accès. Réponse : Florian ne va pas faire un custom GPT cette fois mais un numéro de téléphone que l’on peut appeler ou à qui on peut écrire sur Whatsapp.
  • La fiabilité des sources et l’absence d’hallucination. Réponse : des sources vérifiées sont données à l’IA et elle aura l’interdiction d’en chercher d’autres. Et si elle ne sait pas répondre à une question… elle devra le dire !

Voici le résultat : 

De nombreux essais sont toutefois effectués avant d’y arriver. Florian réalise déjà un premier POC en une dizaine de jours, le 13 août 2024. Ce qui lui permet de motiver des techs qui vont solidifier le processus – une équipe de 13 bénévoles travaillent aujourd’hui sur le projet.

“Ce qui est incroyable avec GPT, c’est que tu peux tester des choses par toi-même de manière totalement indépendante en tant que Product”, souligne-t-il.

Comment fonctionne Ask Vera concrètement ? D’une part, une base de plus de 100 sites de fact-checking et de plus de 250 médias fiables a été constituée. Vera va alors scraper uniquement ses données en open graph (celles qui sont visibles en SEO) pour faire le debunk.

Une démarche qui a un triple avantage : 

  • la base est tout le temps à jour
  • il est très facile d’ajouter un site à la liste puisqu’il suffit d’ajouter une url à la base
  • c’est légal, les données de ces sites ne sont pas aspirées

Finalement, Ask Vera n’utilise que le modèle de langage de ChatGPT et non sa base de connaissances.

La technique est une chose, le produit en est une autre. Florian mène des tests utilisateurs en interrogeant des papas et des mamans victimes de désinformation, contactés à la suite d’une story sur Instagram. “On réalise alors qu’il reste du taf…” souffle-t-il.

L’exemple de Nelly est particulièrement significatif. Cette dernière croit aux Illuminati. Voici la réponse de l’IA de Vera :  

Un enchaînement d’erreurs ! Cela commence par un ton familier (“salut” et le smiley), puis, d’emblée, cela parle de “théorie du complot”. Inévitablement, Nelly se ferme et affirme qu’elle n’utilisera plus jamais ce produit ! Un lynchage total pour Florian qui remplit minutieusement ces feedback.

Florian se rend toutefois compte que l’IA possède un avantage clé : elle a une écoute, un respect de l’opinion et une patience infinis. En bref, elle ne va jamais briser ton égo !

“C’est pour cela que la majorité des élèves utilisent ChatGPT pour parler de leurs relations amoureuses : on n’a pas honte de lui parler car elle ne nous juge jamais. C’est sur cette accessibilité des LLM qu’il fallait que l’on joue”, explique-t-il.

D’autant qu’il ne faut pas oublier que tout le monde peut tomber dans une théorie du complot, une expression d’ailleurs bannie désormais dans les réponses de Vera. Florian se rappelle ainsi avoir cru à cette fake news comme quoi des triathlètes étaient tombés malades pendant les Jeux Olympiques après avoir nagé dans la Seine. 

Ask Vera sera officiellement lancée le 20 novembre 2024, à travers une publication Linkedin… qui atteindra plus de 2 millions de vues ! Quatre mois plus tard, ce sont plus de 100 000 questions qui lui ont été posées. Et, élément qui rend particulièrement fier Florian : six semaines après leur première utilisation, près d’un tiers des utilisateurs continuent de s’en servir ! Une rétention qui prouve l’utilité de ce service gratuit, qui ne garde aucune donnée personnelle.

Les prochaines étapes pour Ask Vera ? Se développer à l’international, notamment en Afrique ou en Roumanie, pays où a été annulé la dernière élection présidentielle après une campagne de désinformation massive sur les réseaux sociaux. Sans compter l’élargissement du produit sur Instagram !