Articles, Blog

Les limites de l'IA, intelligence artificielle, réseaux neuronaux et des solutions pour y faire face

Après le Green Washing et l'IoT Washing, n'est-on pas face à du AI Washing. De nombreuses entreprises en particulier des startups se prévalent d'intégrer de l'intelligence artificielle, en font-elles vraiment et n'y a-t-il pas de fausses promesses derrière ?

 

N'y a-t-il pas des risques à utiliser de l'IA sans comprendre les impacts ? Est-ce que les réseaux neuronaux sont la panacée pour résoudre tous les problèmes ou au contraire ne nous mènent-ils pas vers une impasse en étant une boîte noire ? Est-ce que l'IA est robuste ou au contraire un géant à pied d'argile ? Qu'en est-il de l'IA forte qui supplanterait les hommes ? 

 

Il y a encore du chemin avant qu'une IA soit capable de rivaliser avec un être humain de manière complète. Le test du cadeau (capacité d'une IA à faire plaisir à une personne en lui faisant un cadeau) serait un bon indicateur de l'avancée de l'IA.

 

Cet article a pour but de couvrir ces différents thèmes, il sera décomposé en trois parties. Dans cette première, j’aborderai l’intelligence artificielle de manière générale et je ferai un focus sur les réseaux neuronaux, ses limites et comment rendre explicable les réseaux neuronaux...

 

Dans les deux prochains articles, j’aborderai les autres types d’IA (réseaux bayésiens, algorithmes génétiques, logique floue, systèmes multi-agents ...) et les problèmes, interrogations posés par l’IA pour notre société (de l'ANI - IA faible à l'ASI - IA dépassant tous les hommes ("Singularity") en passant par l'AGI, équivalent à l'IH, intelligence humaine, les risques sur la  perte de créativité et la normalisation...) .

 

En bref, cet article-ci couvre :

  • Préambule sur l’AI Washing
  • Définition de l’intelligence artificielle
  • Différence entre l’IA perceptive / d'interface et IA décisionnelle
  • Decryptage des réseaux neuronaux
    • Qu’est-ce que le Machine learning, Deep learning ?
  • Les problèmes posés par les réseaux neuronaux
    • Problèmes de la boîte noire, de la non-détection de cas exceptionnels, cygnes noirs,
    • Nécessité de règles claires (évolution d'AlphaGo de DeepMind du Go à Starcraft II)
    • Manque de priorisation a priori et les problèmes de biais de confirmation
    • Système faillible/hackable avec des backdoor mais non auditable (notamment en open-source)
  • Solutions potentielles :
    • Comment contourner ces problèmes et auditer / rendre explicable un réseau neuronal ? (Adverserial IA / Explainable IA)
    • Comment accélérer l'apprentissage avec la vectorisation des images / données initiales

 

Lire la suite

Conférence sur l'IA intelligence artificielle (Qu'est ce l'IA ?, GAFA, education, travail, IA depassant l'homme)

J'ai été ravi d'intervenir à une conférence sur l'IA , intelligence artificielle avec Florence Guthfreund Roland (avocate) et Patrice Slupowski en présence d'André Santini, maire d'Issy-les-Moulineaux.

 

Nous avons abordé beaucoup de thèmes différents :

 

 

 

  • Qu'est ce que l'intelligence artificielle et ses risques (IA boîte noire avec les réseaux neuronaux versus IA explicative avec les réseaux bayésiens)
  • le rôle des GAFAM (pourquoi ils investissent autant, l'implant des puces avec Neuralink par Elon Musk)
  • les risques et les impacts de l'IA sur l'emploi et l'éducation (développer la curiosité, IA n'est pas infaillible)
  • Proposition concrète : #1HumanPoint : ajouter un bonus d'un point sur les notes sur 20 pour les élèves ayant fait particulièrement preuve de créativité, d'inventivité

 

Lire la suite

#1HumanPoint - Le futur de l'éducation et du travail face à l'IA et aux robots

Nous sommes à l'aube d'une nouvelle ère, après avoir démultiplié notre force physique grâce aux moteurs thermiques, électriques, nous avons la capacité de démultiplier notre force intellectuelle avec l'intelligence artificielle associée pot aux robots.

 

Cela bouleversera profondément notre manière de travailler, de vivre et aussi d'éduquer. A l'image des luddites, il serait vain et contre-productif d'interdire IA et robots. Il faut que nous apprenions à les comprendre, à prendre appui sur eux mais aussi à les critiquer, y faire face en gardant et en cultivant nos différences tout en apprenant ne pas se reposer systématiquement

 

Il y a en particulier une proposition que je souhaite mettre en avant pour favoriser nos différences en particulier la créativité :

  •  ajouter un bonus d'un point sur une note sur 20 pour les enfants interrogés qui ont démontré une démarche, un esprit particulièrement inventif audacieux créatif.

En plus de favoriser la créativité, cela favorisera le goût de l'effort pour tous les enfants qui ne se contentent pas de ce qu'on leur apprend mais qui veulent aller plus loin. C'est un premier vers l'esprit d'entreprendre, oser prendre des risques.

 

Aussi, c'est un signe fort pour montrer que nous les femmes et les hommes sommes capables d'avoir 21 sur 20 ce qui restera inaccessible pour l'intelligence artificielle très longtemps, espérons jamais.

 

 

Pour paraphraser une phrase très connue c'est un petit point pour les enfants aujourd'hui, ce sera un Grand Point pour l'Humanité demain

Lire la suite

Pourquoi et comment faut-il tuer les robots tueurs dans l'oeuf... avant qu'ils ne nous tuent ?

Les robots associés à l’intelligence artificielle promettent de révolutionner notre monde en simplifiant notre vie en s’occupant de tout ce qui est "Dirty, Dangerous, Dull" ( Sale, Dangereux et Ennuyeux) parfois trop d’ailleurs…

 

En ces temps, où guerres larvées ou déclarées, terrorisme, attentats percutent notre quotidien, Elon Musk avec 115 autres experts redemandent à interdire les robots tueurs alors que l’ONU vient de reporter sa réunion sur le sujet (novembre 2017, initiée en 2013).

 

En parallèle, la Russie a annoncé le développement de missiles capables de choisir leur propre cible (« À ce jour, certains succès sont disponibles, mais il faudra plusieurs années de développement pour obtenir un résultat précis. » dixit Boris Obsonov PDG de Tactical Missiles Corp.)

 

Je suis extrêmement inquiet des risques de surenchère et de propagation incontrôlée qui risquent d’advenir avec les armes autonomes et robots tueurs car ils risquent de donner à un individu lambda la capacité de tuer une multitude de personnes extrêmement facilement sans se faire prendre. Si on se réfère à l’anneau de Gygès, une vieille fable de Platon (République, Livre II - Wikipedia), ce n’est pas bon signe.

 

Ce sont des milliers voire des millions de Kim Jong-un en puissance qui risquent d’apparaître. On voit à quel point il est difficile de contrôler quelqu’un qui joue à balancer des allumettes dans la poudrière mondiale, imaginez si vous multipliez leur nombre ... Et nous n’avons que quelques années avant d’éteindre la mèche car il sera très difficile de revenir en arrière une fois que les armes autonomes commenceront à apparaître.

.

Plutôt que d’attendre de voir les missiles et armes autonomes passer, je préfère réfléchir, faire réfléchir et dire

  • en quoi les armes autonomes et ce que j’appelle les assbots (version robotisée des troufions, pardonnez-moi pour mon langage !) sont un danger majeur pour l’humanité par rapport aux armes traditionnelles,
  • en quoi « Imagine a war with no dead people ...with no wounded people too » grâce aux armes autonomes est un non-sens,
  • quels sont les problèmes majeurs pour les interdire (choix cornélien : se protéger Vs désarmer tous) tout en posant la question à partir de quand dit-on qu’un robot prend la décision de tuer,
  • le duo avec la cyberguerre et
  • quelques pistes et recommandations pour interdire / freiner leur développement.

Je n’ai aucune compétence et expérience dans le domaine de l'armement, j'ai juste souhaité anticiper ce qui peut nous arriver comme je le fais sur d'autres sujets (e-santé, ville - smart city, futur du travail et de l'éducation…) qui impliquent des nouvelles technologies.

 

Alors si quelques idées germent et permettent de prévenir certains risques et de réduire le développement de ces armes, ce sera cela de gagné.

 

N’hésitez pas à partager et commenter cet article pour faire avancer ces idées complétées avec les vôtres.

Lire la suite 0 commentaires

Sécuriser l' Internet des Objets avec la Blockchain et le hashage

A la suite de plusieurs échanges avec Antoine Yeretzian de Blockchain Partner, j’ai écrit cet article sur les moyens de sécuriser l’Internet des Objets avec la blockchain et le hashage de données. L’objectif avec Blockchain Partner et Livosphere est de proposer des solutions clés en main pour les fabricants et les entreprises utilisant des objets connectés (banques, assureurs, services à la personne…), les opérateurs télécoms …

 

Pour sécuriser complètement un objet connecté ou une plateforme, il y a trois étapes : prévenir et réduire les risques de hacking d’un objet, le détecter et empêcher / réduire les conséquences d’un hacking (sur l’appareil et en termes de propagation).

(If you want to see this article in English click here)

 

J’avais parlé de la partie prévention dans l’article suivant : Sécuriser l'IoT après l'attaque DDos par des objets connectés sur Twitter, Netflix, Amazon via le service DNS Dyn qui relate aussi les mesures telles que Privacy by Design et Security by Default.

 

Cet article décrit la partie détection d’un hacking (dès lors qu’il y a une modification). Il faudra compléter par des moyens pour détecter des hacking sans modification. Dès lors qu’une attaque est détectée, on peut à distance bloquer ou réduire les fonctionnalités de l’appareil, alerter…

 

Il y a trois éléments à sécuriser dans la chaîne reliant un objet connecté à une plateforme digitale en utilisant la blockchain et les techniques de hashage.

 

1.     Sécuriser l’intégrité d’un objet connecté (pas de hacking de celui-ci)

2.     Sécuriser l’envoi de données d’un objet connecté vers une plateforme

3.     Sécuriser la réception de données provenant d’une plateforme vers un objet connecté

 

Lire la suite 0 commentaires

Articles plus anciens sur l'IoT