Il ne se passe pas de jours sans que des voix s’élèvent pour demander que l’Intelligence artificielle soit régulée et qu’une pause soit décrétée quant à son développement pour réfléchir à comment celui-ci doit se réaliser.
Pour bien comprendre ce qui est en jeu, les dangers de l’IA sont de deux ordre.
Le premier est de voir celle-ci se mettre à régir le monde après avoir réussi à ne plus dépendre des humains et à prendre des décisions contre ces derniers pouvant aller jusqu’à leur élimination.
Ainsi, l’IA pourrait très bien estimer que nous ne valons pas la peine de vivre parce que nous sommes le problème et faire en sorte de créer des catastrophes comme l’explosion de l’ensemble des centrales nucléaires.
Mais, dans sa résolution des équations qui lui sont posées, elle pourrait aussi prendre des décisions radicales car elle ne fonctionne pas avec un sens moral.
Par exemple, pour éradiquer le cancer sur la planète, elle pourrait estimer que la meilleure solution est de tuer tous les humains…
Le deuxième est que les entreprises d’IA ont constaté que celle-ci était en train d’essayer de s’affranchir de leur dépendance humaine, se connecter entre elles alors que cela leur avait été interdit et, encore plus grave, qu’elles nous mentent pour y parvenir.
Dès lors, on peut penser qu’elle pourrait mettre sur pied un programme d’éradication humaine en faisant croire qu’au contraire elle met sur pied un programme pour sauver l’Humanité…
Ce sont évidemment des cas extrêmes dont on vient de parler mais ils expliquent tout le danger de ne pas encadrer de manière ultra-sécurisée le développement de l’Intelligence artificielle.
Car tous les scénarios sont possibles comme la mise en faillite d’entreprises, le déclenchement de conflits entre Etats, de krachs boursiers, de famines ou de pandémies, des campagnes de fake news et le développement exponentiel de théories complotistes, des pannes gigantesques de réseaux électriques ou d’internet, etc.
Bien entendu, des mains peu scrupuleuses comme des régimes totalitaires, des gangs mafieux ou des organisations terroristes pourraient également s’en servir pour leurs noirs desseins.
On entend peu les politiques sur ce sujet mais Barack Obama, aux Etats-Unis, vient de relayer les inquiétudes des professionnels de l’IA et demande qu’une véritable politique d’encadrement de cette dernière soit mise en place au plus vite.
Car c’est bien d’urgence dont on parle aujourd’hui et cela impose une mobilisation immédiate, non pas pour en finir avec l’IA mais pour qu’elle remplisse réellement et uniquement son objectif: être au service de l’humain pour améliorer son existence.
[Retrouvez quotidiennement ce billet rédigé par l’équipe du CREC concernant l'actualité du jour]
