J'ai été ravi d'intervenir à une conférence sur l'IA , intelligence artificielle avec Florence Guthfreund Roland (avocate) et Patrice Slupowski en présence d'André Santini, maire d'Issy-les-Moulineaux.

Nous avons abordé beaucoup de thèmes différents :

• Qu'est ce que l'intelligence artificielle et ses risques (IA boîte noire avec les réseaux neuronaux versus IA explicative avec les réseaux bayésiens)

• le rôle des GAFAM (pourquoi ils investissent autant, l'implant des puces avec Neuralink par Elon Musk)

• les risques et les impacts de l'IA sur l'emploi et l'éducation (développer la curiosité, IA n'est pas infaillible)

• Proposition concrète : #1HumanPoint : ajouter un bonus d'un point sur les notes sur 20 pour les élèves ayant fait particulièrement preuve de créativité, d'inventivité

Nous sommes à l'aube d'une nouvelle ère, après avoir démultiplié notre force physique grâce aux moteurs thermiques, électriques, nous avons la capacité de démultiplier notre force intellectuelle avec l'intelligence artificielle associée pot aux robots.

Cela bouleversera profondément notre manière de travailler, de vivre et aussi d'éduquer. A l'image des luddites, il serait vain et contre-productif d'interdire IA et robots. Il faut que nous apprenions à les comprendre, à prendre appui sur eux mais aussi à les critiquer, y faire face en gardant et en cultivant nos différences tout en apprenant ne pas se reposer systématiquement

Il y a en particulier une proposition que je souhaite mettre en avant pour favoriser nos différences en particulier la créativité :

•  ajouter un bonus d'un point sur une note sur 20 pour les enfants interrogés qui ont démontré une démarche, un esprit particulièrement inventif audacieux créatif.

En plus de favoriser la créativité, cela favorisera le goût de l'effort pour tous les enfants qui ne se contentent pas de ce qu'on leur apprend mais qui veulent aller plus loin. C'est un premier vers l'esprit d'entreprendre, oser prendre des risques.

Aussi, c'est un signe fort pour montrer que nous les femmes et les hommes sommes capables d'avoir 21 sur 20 ce qui restera inaccessible pour l'intelligence artificielle très longtemps, espérons jamais.

Pour paraphraser une phrase très connue c'est un petit point pour les enfants aujourd'hui, ce sera un Grand Point pour l'Humanité demain

Les robots associés à l’intelligence artificielle promettent de révolutionner notre monde en simplifiant notre vie en s’occupant de tout ce qui est "Dirty, Dangerous, Dull" ( Sale, Dangereux et Ennuyeux) parfois trop d’ailleurs…

En ces temps, où guerres larvées ou déclarées, terrorisme, attentats percutent notre quotidien, Elon Musk avec 115 autres experts redemandent à interdire les robots tueurs alors que l’ONU vient de reporter sa réunion sur le sujet (novembre 2017, initiée en 2013).

En parallèle, la Russie a annoncé le développement de missiles capables de choisir leur propre cible (« À ce jour, certains succès sont disponibles, mais il faudra plusieurs années de développement pour obtenir un résultat précis. » dixit Boris Obsonov PDG de Tactical Missiles Corp.)

Je suis extrêmement inquiet des risques de surenchère et de propagation incontrôlée qui risquent d’advenir avec les armes autonomes et robots tueurs car ils risquent de donner à un individu lambda la capacité de tuer une multitude de personnes extrêmement facilement sans se faire prendre. Si on se réfère à l’anneau de Gygès, une vieille fable de Platon (République, Livre II - Wikipedia), ce n’est pas bon signe.

Ce sont des milliers voire des millions de Kim Jong-un en puissance qui risquent d’apparaître. On voit à quel point il est difficile de contrôler quelqu’un qui joue à balancer des allumettes dans la poudrière mondiale, imaginez si vous multipliez leur nombre ... Et nous n’avons que quelques années avant d’éteindre la mèche car il sera très difficile de revenir en arrière une fois que les armes autonomes commenceront à apparaître.

.

Plutôt que d’attendre de voir les missiles et armes autonomes passer, je préfère réfléchir, faire réfléchir et dire

• en quoi les armes autonomes et ce que j’appelle les assbots (version robotisée des troufions, pardonnez-moi pour mon langage !) sont un danger majeur pour l’humanité par rapport aux armes traditionnelles,
• en quoi « Imagine a war with no dead people ...with no wounded people too » grâce aux armes autonomes est un non-sens,
• quels sont les problèmes majeurs pour les interdire (choix cornélien : se protéger Vs désarmer tous) tout en posant la question à partir de quand dit-on qu’un robot prend la décision de tuer,
• le duo avec la cyberguerre et
• quelques pistes et recommandations pour interdire / freiner leur développement.

Je n’ai aucune compétence et expérience dans le domaine de l'armement, j'ai juste souhaité anticiper ce qui peut nous arriver comme je le fais sur d'autres sujets (e-santé, ville - smart city, futur du travail et de l'éducation…) qui impliquent des nouvelles technologies.

Alors si quelques idées germent et permettent de prévenir certains risques et de réduire le développement de ces armes, ce sera cela de gagné.

N’hésitez pas à partager et commenter cet article pour faire avancer ces idées complétées avec les vôtres.

A la suite de plusieurs échanges avec Antoine Yeretzian de Blockchain Partner, j’ai écrit cet article sur les moyens de sécuriser l’Internet des Objets avec la blockchain et le hashage de données. L’objectif avec Blockchain Partner et Livosphere est de proposer des solutions clés en main pour les fabricants et les entreprises utilisant des objets connectés (banques, assureurs, services à la personne…), les opérateurs télécoms …

Pour sécuriser complètement un objet connecté ou une plateforme, il y a trois étapes : prévenir et réduire les risques de hacking d’un objet, le détecter et empêcher / réduire les conséquences d’un hacking (sur l’appareil et en termes de propagation).

(If you want to see this article in English click here)

J’avais parlé de la partie prévention dans l’article suivant : Sécuriser l'IoT après l'attaque DDos par des objets connectés sur Twitter, Netflix, Amazon via le service DNS Dyn qui relate aussi les mesures telles que Privacy by Design et Security by Default.

Cet article décrit la partie détection d’un hacking (dès lors qu’il y a une modification). Il faudra compléter par des moyens pour détecter des hacking sans modification. Dès lors qu’une attaque est détectée, on peut à distance bloquer ou réduire les fonctionnalités de l’appareil, alerter…

Il y a trois éléments à sécuriser dans la chaîne reliant un objet connecté à une plateforme digitale en utilisant la blockchain et les techniques de hashage.

1.     Sécuriser l’intégrité d’un objet connecté (pas de hacking de celui-ci)

2.     Sécuriser l’envoi de données d’un objet connecté vers une plateforme

3.     Sécuriser la réception de données provenant d’une plateforme vers un objet connecté