Giada Pistilli, vigie de l’IA

Écrit par Nicolas Gastineau Illustré par Nicolas Galkowski
Édition de mars 2024
Giada Pistilli, vigie de l’IA
Rachel Zoffness, à la croisée des maux
Rachel Zoffness, à la croisée des maux
Psychologue de la douleur, l’Américaine Rachel Zoffness œuvre à sortir du tout-médical pour traiter les souffrances physiques chroniques.
Daisy Copeaux au chevet des chênes de Chantilly
Daisy Copeaux au chevet des chênes de Chantilly
Cette ancienne ingénieure de l’ONF a convaincu les propriétaires du domaine de Chantilly d’explorer une nouvelle sylviculture.
Christiane Benner, une syndicaliste contre l’extrême droite allemande
Christiane Benner, une syndicaliste contre l’extrême droite allemande
Première femme à diriger IG Metall, le syndicat le plus puissant d’Allemagne, Christiane Benner veut lutter contre l’extrême droite.
Abduljelil Turan, des livres pour sauver la culture ouïghoure
Abduljelil Turan, des livres pour sauver la culture ouïghoure
Depuis Istanbul, Abduljelil Turan édite et expédie à la diaspora ouïghoure des ouvrages dans cette langue en péril.
Béatrice Schaad, pour des hôpitaux plus empathiques
Béatrice Schaad, pour des hôpitaux plus empathiques
En Suisse, l’ex-cheffe du service communication d’un hôpital a créé un dispositif pionnier : un bureau des plaintes pour les patients.
Jean-François Bloc, maire sur le front de mer
Jean-François Bloc, maire sur le front de mer
À Quiberville-sur-Mer, en Normandie, un élu a choisi de laisser entrer la mer dans les terres de sa commune. Un pari innovant.
Jérôme Coulombel, avec les franchisés de Carrefour
Jérôme Coulombel, avec les franchisés de Carrefour
L’ancien juriste de l’enseigne dénonce un système de contrats pernicieux.
Giada Pistilli, vigie de l’IA
Giada Pistilli, vigie de l’IA
La jeune femme est responsable de l’éthique dans une start-up d'’intelligence artificielle. Un métier rare en France.
En cours de lecture
Giada Pistilli a d’abord fait de l’éthique de l’intelligence artificielle son sujet de thèse de philo, puis son métier. L'objet de ses recherches : parvenir à créer une IA qui se comporte bien avec les humains.
Article à retrouver dans la revue XXI n°64, Arnaques, crimes et vies de château
4 minutes de lecture

« Un non-sujet », avait tranché son prof de philo à la Sorbonne, en 2017. Giada Pistilli venait de proposer un mémoire sur l’éthique de l’IA. Six ans plus tard, elle répète la formule en riant. Le non-sujet est devenu sa thèse, tout juste soutenue, et surtout son métier : responsable de l’éthique dans une start-up d’intelligence artificielle, un travail encore rare en France mais qui, chez les plus gros acteurs de la Silicon Valley, occupe déjà des équipes entières.

Hugging Face, l’employeur de cette pionnière de 31 ans, au logo en forme de smiley tout sourire, arbore des résultats financiers impressionnants, sans parler de cette levée de fonds de 235 millions d’euros, réalisée l’été dernier grâce au soutien des Gafam. La chercheuse a fait son trou au bon endroit. Fondée par trois Français, l’entreprise est la première plate-forme open source qui permet à quiconque – passionnés ou professionnels – d’accéder à des modèles d’IA de pointe, pour en bidouiller de nouvelles itérations. Comme MonadGPT, un chat entraîné avec des archives du XVIIe siècle, qui devise exclusivement dans la langue et avec les connaissances de l’époque. 

ChatGPT, un prisme américain

Comment une philosophe s’est-elle retrouvée au milieu de ces geeks qu’on couvre d’or ? À la fac, le cours préféré de Giada Pistilli, assuré par Michel Puech, portait sur l’éthique des technologies. « Enfin de la philo appliquée ! Les idées descendaient sur terre », se souvient-elle avec soulagement, en buvant son café dans l’open space parisien de Hugging Face, entre poufs et console Nintendo. L’enseignant, lui-même consultant en entreprise, l’encourage à mener sa thèse entre les deux mondes. En 2021, elle contribue à la rédaction de la charte éthique d’un projet participatif rassemblant le gratin de la recherche en IA, ce qui lui vaut d’être repérée.

Encore doctorante, la jeune femme cosigne en 2022 un article remarqué qui démontre que ChatGPT, quelle que soit la langue dans laquelle il s’exprime, diffuse les valeurs de la société américaine. Aujourd’hui, elle se consacre toujours à la recherche, désormais pour son employeur, avec une question en fil conducteur : comment faire en sorte que l’IA se comporte bien ? Son autre tâche, c’est de s’assurer que les IA développées sur Hugging Face ne sont pas dangereuses.

Au gré de ses investigations ou de signalements internes, la philosophe navigue dans les IA de la plate-forme pour y examiner les données qui les nourrissent, ou les tester quand elles sont finalisées. Objectif : repérer les biais discriminatoires, traquer les incitations à la violence et les risques de manipulations. Elle a en tête des précédents comme Galactica, tentative ratée d’IA scientifique menée par Meta, qui a produit le plus sérieusement du monde un article sur les avantages de manger du verre pilé. « Et ça avait l’air crédible, en plus ! » L’année dernière, elle a ainsi fait fermer une version de ChatGPT, entraînée dans les forums les plus radicaux de 4chan – un site de forums anonymes –, qui déversait des insanités en ligne. 

L’Italienne, cheveux coupés au carré et yeux en amande, veille sur l’IA. Mais parle-t-elle sa langue ? « J’ai commencé des cours de langage Python, je sais un peu bricoler, mais j’ai besoin qu’on m’aide », admet-elle. Quand il faut passer sous le capot, se balader dans le code pour y repérer une faille, elle passe la main à sa collègue développeuse, en Californie. « Sans sa compétence, je ne peux pas avancer. Mais elle a aussi besoin de mon regard de philosophe pour juger des implications. » Son entreprise n’est pas la seule de cet avis : Anthropic et DeepMind, deux leaders mondiaux de la recherche en IA, ont placé à des postes importants de leur branche éthique des chercheurs en philosophie. Le non-sujet est devenu un débouché. 

Vous avez aimé ce récit ?

Inscrivez-vous à notre newsletter pour découvrir, dès leur sortie, nos articles et explorer chaque semaine un grand enjeu de l’époque. Dans votre boîte mail à 7h.

Explorer le thème
Technologie
Kyutai, le commando français contre l’IA américaine
Décembre 2024
Kyutai, le commando français contre l’IA américaine
Une poignée de génies de l’intelligence artificielle, au cœur de Paris, tente de rivaliser avec les mastodontes de la tech.
Enquête  |  Décembre 2024 | Algorithmes
Google Maps perd le nord
Octobre 2024
Google Maps perd le nord
L’artiste allemand Simon Weckert a dupé la célèbre application de cartographie.
La vraie vie des algorithmes  |  Octobre 2024 | Algorithmes
Empoisonner ses créations, la parade des artistes contre l’IA
Août 2024
Empoisonner ses créations, la parade des artistes contre l’IA
Dessins, œuvres, photos… les intelligences artificielles digèrent tout. L’auteur de BD Frédéric Maupomé a trouvé une parade.
La Tech tonique de la Silicon Valley
Juillet 2024
La Tech tonique de la Silicon Valley
C'est ici, à San Francisco, que Google ou Apple ont vu le jour. La photographe Laura Morton décode cette ruée vers l’or des temps modernes.
Récit photo  |  Juillet 2024 | Algorithmes
La licorne et les oiseaux de nuit
Mars 2024
La licorne et les oiseaux de nuit
Le photographe Cyril Marcilhacy a dû montrer patte blanche pour s’immiscer dans l’univers de la French Tech.
L’œil de XXI  |  Mars 2024
Comment Bill Gates veut réinventer les toilettes
Novembre 2019
Comment Bill Gates veut réinventer les toilettes
Chaque jour, le manque d’assainissement tue plusieurs centaines d’enfants. Le milliardaire de la tech s’est fixé pour mission d’y remédier.
Reportage  |  Novembre 2019 | Écosystèmes
Tu seras un robot, papa
Avril 2018
Tu seras un robot, papa
John est atteint d’un cancer incurable. Son fils veut continuer à converser avec lui après sa mort.
Témoignage  |  Avril 2018 | Algorithmes