Microsoft va financer pour près d'1 Md$ dans OpenAI (startup "non-profit" qui veut créer une IA forte (IA > Humain : AGI) qui en échange sera vendue avec la plateforme MS Azure.
💣Cela montre les limites et contradictions du développement commercial d'une IA éthique et ouverte.
💵 OpenAI a dû créer une société commerciale "OpenAI LP" car sa structure "non-profit" actuelle ne lui permet pas d'être pérenne économiquement et donc ...
📕 La société s'appelle "OpenAI" mais elle a décidé de ne pas mettre en open-source 📖 son dernier modèle GPT2 qui permet de créer des textes automatiquement afin d'éviter le développement de Fake news... il faut savoir dans quel champ on se trouve Open ou Closed ?
🌟 OpenAI a des fondateurs et sponsors "stars" (dont Elon Musk, parti depuis, Reid Hoffman, LinkedIn co-founder, Peter Thiel, PayPal co-founder...), Ils ont débauché les meilleurs spécialistes en IA à prix d'or et devrait dépenser son milliard de dollars en 5 ans,
🏝 sauf qu'à trop avoir d'argent, de talents, on a tendance à être plus "paresseux", "moins focalisé", moins incisif" (cf. les déboires passés de quelques équipes de foot composées de stars).
🚣 Pour info, l'IA Pluribus a battu à plates coutures les meilleurs joueurs de poker et a nécessité 1000 fois moins de puissance de calcul que DeepMind qui a battu le meilleur jouer de Go.
🦄 Avoir un objectif aussi vague que construire une AGI qui soit bénéfique et sûre pour l'humanité est aussi crédible qu'une entreprise qui a pour objectif de rendre les gens heureux ... sans préciser comment !
💥 Transformer un moyen, l'IA en objectif est extrêmement dangereux, l'AGI ne doit pas être un objectif mais un moyen d'atteindre un objectif (avec un impact positif pour tous ;)
🌡️ Pour qu'un jour cela débouche sur quelque chose de concret, il vaut mieux adresser des problèmes réels comme le réchauffement climatique, les inégalités sociales ... avec l'IA, en ayant des objectifs mesurables, une feuille de route ...
⚠ Pour terminer, l'IA actuelle est comme un peigne, elle est extrêmement forte sur certaines verticales (scanning de mélanomes, détection de fraudes...) et horizontales (reconnaissance visuelle, vocale ...) mais a des trous immenses entre chaque dent. Nous élargissons les dents du peigne, mais il faudra au minimum 20 à 30 ans, avant que les dents du peigne ne se touchent et encore bien 20 ans de plus avant qu'on ne puisse plus mettre en défaut une IA (et donc que l'on ne voit plus d'interstices).
🚀 Pour que ce milliard de dollars ne soit pas investi pour rien, il est essentiel qu'Open AI se fixe des objectifs idéalement parmi les 17 fixés par les Nations Unies (éducation de qualité, eau propre et assainissement, énergie propre et d'un coût abordable...) et construise une IA (ANI, ASI, AGI peu importe) capable de les adresser plutôt qu'une AGI qui ferait le bien de l'Humanité. L'IA doit être au service de l'Humanité pas l'inverse !
Article pour aller plus loin de La Tribune
Écrire commentaire