IA et créativité avec Aurélie Jean et Olivier Reynaud (IA: Libérer tâches, découverte, subsidiarité, biais)

Passionnant échanges et débat sur l'IA et la créativité à l'Institut Choiseul avec Aurélie Jean (Ph. D. Fondatrice d'In Silico Veritas) et Olivier Reynaud (Fondateur d'Aive qui permet grâce à l'IA de créer des montages pertinents et adaptés en durée et en format personnalisés automatiquement à partir de vidéos brutes) 

Tous deux ont une vision optimiste de l'IA que je partage (dès lors que nous sommes attentifs aux potentielles dérives). 

Elle a un double rôle : nous libérer des tâches ennuyeuses, fastidieuses et nous ouvrir à de nouvelles approches, idées. 

Olivier indiquait qu'une étude d'Adobe montrait que 50% des tâches des créatifs étaient répétitives et donc les automatiser leur permettrait de passer plus de temps à des activités créatives. Il ne faudrait, sans doute, pas éliminer complètement ces tâches car bien des idées naissent durant ces moments et ce sont aussi des moments de pause pour le cerveau. 

Aurélie a aussi développé pour Bloomberg un outil permettant de créer des "automated news", qui permet de composer des articles bruts financiers (souvent répétitifs). Il est clairement affiché que l'article a été créé automatiquement. En plus de l'honnêteté intellectuelle, cela participe à l'éducation de chacun dans la distinction entre ce qui est créé par une IA ou un être humain. A appliquer à d'autres domaines ;) 

Aurélie a aussi créé un outil qui propose de nouveaux sujets, articles bruts aux journalistes sur base des quantités d'informations disponibles mais qu'une personne serait incapable d'ingurgiter et de comprendre en un temps très court.

Sur cette base notamment, les journalistes trient, creusent, construisent et rédigent des articles qui n'auraient jamais été créés sinon. Il en est de même avec Aive qui proposera des montages inédits qui alimenteront la panoplie d'idées du monteur.

En revanche, dans tous les cas, le passage de la matière brute à l'œuvre est du ressort des hommes et femmes et non de l'IA. Être capable pour un être humain de distinguer ce qui est d'origine humaine et IA est essentiel même si cela sera de plus en plus difficile. Nous serons certainement de plus en plus nombreux à croire que les équivalents de test de Turing dans l'art, l'écriture, le raisonnement, les sciences seront réussis ... À nous d'apprendre à les reconnaître. 

J'ai posé une question à Aurélie et Olivier sur le risque qu'au fur et à mesure on se repose sur l'IA à l'image du GPS et Google Traduction, qui peut nous conduire à perdre le sens de l'orientation ou ne plus apprendre de nouvelles langues (ce que j'appelle le "diabète intellectuel").

Compréhension et Formation 

Pour y faire face, Aurélie et Olivier indiquent que comprendre ce que fait l'IA et comment (sans être nécessairement approfondie) et voir la valeur ajoutée que, nous, les humains apportons est indispensable. Aurélie souligne notamment qu'à partir de cette rentrée 2019 , tous les lycéens auront les premiers cours de sciences informatiques obligatoires et non en option. Le mot "sciences" est essentiel car l'objectif n'est pas d'enseigner juste le code mais il donnera à chacun les bases pour créer un algorithme, un programme. La France serait parmi les premiers pays à rendre ce cours obligatoire pour tous. Bernard Giry, conseiller technologique à la Région IdF, précise aussi que le premier lycée IA est prévu par la région dans son plan IA. 

Aurélie indique qu'il faut intégrer de l'aléatoire dans les propositions de l'IA (par exemple dans les CV proposés dans le domaine des RH) car cela permet d'ouvrir des champs au lieu de nous enfermer dans un entonnoir de choix. Olivier relate que Facebook le fait déjà dans ces fils d'actus pour ne pas limiter les news à nos deux sujets préférés ! 

Nous pourrions aller plus loin et créer sciemment des erreurs (en les traquant) afin de tester voire auditer que les humains restent attentifs à ce que propose l'IA et de garder l'esprit critique. Cela permettrait aussi de nous rappeler que l'IA est faillible et de rester vigilants dans le même esprit que le volant du véhicule qui vibre pour garder les mains dessus. 

Nous avons tous des biais cognitifs (de confirmation, de représentativité...) indique Aurélie, qui sont des raccourcis mentaux utiles au quotidien.

Malheureusement, ces raccourcis sont intégrés dans l'IA et peuvent créer des problèmes majeurs. A ces débuts, les peaux foncées n'étaient pas reconnues car l'IA avait été entraînée avec des peaux claires, les IA peuvent proposer pour un recrutement, une très grande majorité de profils masculins car l'historique est fondé sur des recrutements d'hommes (qui perpétuent des biais). 

Pour y faire face, Aurélie propose d'une part d'avoir une équipe diverse, une "représentativité exemplaire" selon ses termes qui permet d'intégrer une grande diversité sans avoir besoin d'intégrer toutes les diversités (matériellement impossible). Olivier met en exergue l'importance d'avoir une bien plus grande représentativité des femmes qui ont une ouverture plus grande (activités, expériences, culturels....) que les hommes (fondée sur sa propre expérience ;) ), Aurélie ajoute qu'il n'y aurait que 3% de femmes dans l'IA sur la partie Tech, bien trop peu et générateur par essence de nombreux biais masculins. 

C'est un travail difficile de débusquer ces biais, les règles peuvent être explicites (ex : critères précis) ou implicites (ex cachées dans les couches de réseaux neuronaux). Dans ce dernier cas, l'enjeu est de rendre plus explicites les règles implicites en explicitant la méthode de travail, de sélection des données et de les confronter à une équipe variée. 

Chaque diversité (genre, culture, origine, langue, situation familiale, âge ...) générée au-delà de chaque cas , une richesse de perspectives qui réduit les biais, c'est un peu comme voir une sculpture systématiquement de face (pas de diversité) versus la regarder en face, de haut, de derrière... Nul besoin d'avoir la totalité des points de vue pour visualiser complètement cette sculpture mais des perspectives suffisamment différentes offrent une bonne vision d'ensemble. Avec l'utilisation et le recueil des retours des utilisateurs, le modèle à de moins en moins de "trous". 

Certes des métiers vont disparaître en particulier, les métiers répétitifs mais Aurélie pointe la nécessité d'avoir des techniciens de l'IA ne nécessitant pas les mêmes compétences qu'un ingénieur pour qualifier les données, évaluer l'IA en particulier face à la réalité métier.

Pour les personnes intéressées, j'ai écrit spécifique sur l'IA, l'éducation et l'emploi.

D'autres thèmes ont été abordés : le RGPD (cf. article où j'explique que le Deep Learning n'est pas compatible avec le RGPD pour prendre des décisions si aucune explication n'est donnée à un consommateur) comme l'approche chinoise nettement moins respectueuse des libertés individuelles qu'en Europe. 

Je pense que l'Europe peut parvenir à sortir son épingle du jeu en développant des technologies combinant qualification des données pertinentes, cryptage, anonymisation de données et IA explicable (cf. article). 

Pour donner un exemple, il n'est pas nécessaire de garder l'image d'un visage pour le reconnaître, il suffit de transformer ce visage en points caractéristiques (distance entre les yeux...) puis de hasher ces données et de les crypter de telle sorte qu'un hacker récupérant une base de données de signatures de visage, serait incapable d'identifier un visage et même de le reconnaître (dire si un visage est présent ou non dans la base).