Les 10 lois de l’intelligence artificielle selon le CEO de Microsoft

Satya Nadella voit dans l’intelligence artificielle la même puissance que la vague internet des années 1990. Plutôt que de la craindre, il dresse une liste des dix points essentiels pour assurer que l’IA reste bénéfique à l’humanité, mais il n’oublie pas d’énoncer les principes qui feront que l’Homme ne sera pas non plus malveillant envers les machines.

Homme vs Machine, un tableau trop longtemps mystifié

Quelques jours seulement après la publication d’un article de recherche de son grand rival Google, Satya Nadella a lui aussi décidé de donner sa vision de l’avenir des robots et de l’intelligence artificielle. Dans un article publié sur Slate.com, le CEO de Microsoft déroule une liste de dix lois essentielles qui doivent régir la robotique et l’intelligence artificielle.

En ouverture, Satya Nadella donne le ton : « A terme, hommes et machines travailleront main dans la main, et non l’un contre l’autre« . De l’optimisme. Mais de l’optimisme affiché dès l’introduction : « Imaginez les possibilités qu’offre la collaboration homme-machine pour résoudre les grands maux de nos sociétés, comme la maladie, l’ignorance et la pauvreté« . On comprend donc très vite l’objectif de cette démarche : vanter les mérites de l’IA tout en listant les possibles défis que devra relever l’humanité face à l’avènement des machines.

Pour appuyer l’aspect positif de cette utile et bientôt nécessaire collaboration, Nadella cite l’exemple de Saqib Shaikh, un ingénieur de Microsoft aveugle qui a développé l’appli Seeing AI, à lire ici. Elle permet de redonner un sens de la vue aux aveugles en conjuguant différentes technologies de pointe, comme la reconnaissance faciale et les techniques de machine learning.

Selon lui, « la beauté du tandem homme-machine est occultée par les discussions sur le bien ou le mal de l’intelligence artificielle. Notre perception de l’IA semble piégée quelque part entre les voix menaçantes de HAL dans 2001 l’Odyssée de l’Espace et les voix amicales des assistants personnels comme Cortana, Siri et Alexa« . La perception sociétale de l’IA est donc entachée par la science-fiction qui utilise régulièrement la machine comme élément de l’intrigue, et presque toujours présentée comme le mal.

Puis, il s’active à désamorcer le conflit homme-machine. L’inquiétude qui gagne les travailleurs, craignant de se faire remplacer par un robot, serait irrationnelle et surtout beaucoup trop précoce. « Nous pouvons rêver à la façon dont nous utiliserons notre temps libre après que les machines ont pris notre place. Nous pouvons aussi craindre une crise du marché du travail d’ici la fin du siècle, mais selon la personne qu’on écoute, la prétendue « singularité » pourrait ne pas avoir lieu avant 2100, à condition seulement que ce ne soit pas tout simplement de la pure science-fiction« . Un pic lancé aux gourous du transhumanisme qui promeuvent avec ferveur ce moment de rupture où la machine dépassera l’Homme. Le CEO se désolidarise donc de certains pontes de la Silicon Valley, prêts à tout faire et tout dire pour déchaîner les passions, y compris quand cela vire à l’absurde (et même volontairement comme Elon Musk).

Les six lois de l’IA selon Nadella

Si l’IA peut soulever des problèmes éthiques auxquels il sera impératif de répondre au moment venu, Nadella ne déchante pas et croit en la capacité de l’Homme à maîtriser la machine. Car il faut le rappeler, toute technique, toute technologie n’est qu’un moyen inventé par l’Homme pour répondre à ses besoins.

Car selon le CEO de Microsoft : « nous autres humains, disposons de la créativité, de l’empathie, de l’émotion, de la matérialité et de la vision qui peuvent être associées à la puissance de calcul de la machine – sa capacité à traiter d’énormes quantités de données et de déterminer plus rapidement des séquences qui se répètent-, tout cela pour aider la société à avancer« .

Dans la droite lignée de l’écrivain américano-russ Isaac Asimov, le CEO de Microsoft dresse la liste des dix principes essentiels de l’intelligence artificielle :

Les IA doivent êtres conçues pour aider l’humanité. A mesure que nous construisons des machines plus autonomes et plus intelligentes, il est impératif que nous préservions l’autonomie de l’Homme. Les cobots doivent s’occuper des tâches difficiles et dangereuses pour préserver la vie des humains.

Les IA doivent être transparentes. Nous devons être en mesure de savoir comment la technologie que nous engendrons fonctionne et quels sont ses principes. Les machines doivent être intelligentes, mais surtout intelligibles pour le plus grand nombre. La relation entre les deux parties ne saurait être asymétrique : si la machine connait l’Homme, l’Homme doit connaître le fonctionnement de la machine. Comprendre comment elle fonctionne et voit le monde, c’est comprendre comment elle agit sur lui et avec lui.

Les IA doivent optimiser l’efficacité sans anéantir la dignité des hommes. L’IA doit préserver la culture et promouvoir la diversité. C’est pourquoi les populations doivent s’engager plus activement et plus profondément dans la conception de systèmes autonomes. L’industrie technologique ne doit pas imposer ses valeurs et ses mœurs sur la société.

Les IA doivent garantir la vie privée. Les informations qu’elles traitent doivent demeurer privées et protégées.

Les IA doivent être responsables de leurs algorithmes. Les hommes doivent pouvoir les modifier pour défaire le mal causé, même involontairement.

Les IA doivent être dépourvues de tout biais. Pour garantir l’égalité et l’objectivité, les machines ne doivent pas être conçues de manière biaisée. Sinon, des discriminations imperceptibles seront commises.

Les quatre lois de l’Homme

Bien entendu, qui dit collaboration dit adaptation des deux parties d’une même alliance. Si les IA doivent respecter tout une série de principes pour éviter qu’elles ne soient utilisées de façon malveillante, il en va de même pour les humains. Depuis des millénaires, les hommes ont développé des règles, des conventions, des codes puis des lois pour régir leurs relations les uns avec les autres, tout cela dans le but de maximiser la survie de l’espèce, d’un peuple, d’une nation et désormais à l’échelle de la planète. Aussi, pour relever le défi d’un monde où hommes et machines agissent de concert, il est indispensable d’adapter nos sociétés à ce mode de fonctionnement.

Les générations futures devront ainsi composer avec l’état et le fonctionnement de leurs sociétés. Pour ce faire, toujours selon Nadella, nos enfants et leurs enfants devront faire preuve :

D’empathie. Difficile à simuler sur les machines, cette compétence sera valorisée chez les humains.

D’éducation. Malgré l’allongement de la durée de vie, l’éducation doit être une priorité pour s’assurer que nos enfants inventent des technologies que nous ne pouvons maîtriser aujourd’hui. Car l’avenir de la jeunesse dépendra de sa capacité à innover.

De créativité. L’une des compétences propres à l’être humain. Et ce n’est pas prêt de changer.

De capacité de jugement et de responsabilité. Si dans le futur, la machine réalisera le diagnostic et l’opération chirurgicale, l’on aura toujours besoin d’une expertise humaine pour se tenir responsable des conséquences de cette opération.


Laisser un commentaire