La Quotidienne centriste du 10 novembre 2026. Il faut absolument sécuriser l’Intelligence artificielle qui doit être un formidable outil aux dangers maîtrisés

Emmanuel Macron a organisé lundi une réunion intitulée «IA et sécurité» à laquelle ont participé des Etats, des chercheurs et des entreprises qui développent l’intelligence artificielle dont les plus importantes des démocraties, Anthropic, OpenIA, Mistral et Micrsoft.

A l’issue de celle-ci, un «Appel de Paris pour la sécurité de l'intelligence artificielle» a été signé (lire ci-dessous).

Assurer la sécurité de cette technologie qui prend de plus en plus d’importance dans la vie quotidienne des personnes mais aussi dans l’organisation du monde est primordial tant elle recèle aussi de dangers qui ont fait la Une des médias récemment quand des experts et des développeurs ont pointé les risques concernant l’existence même de l’Humanité.

Bien sûr, toute nouvelle technologie n’est pas neutre comme nous le rappelle le nucléaire capable de détruire la vie sur la planète mais aussi d’assurer une énergie qui nous sera de plus en plus nécessaire au fil et à mesure que disparaîtront les énergies fossiles et en la mixant avec des énergies comme le solaire, l’éolien, l’hydraulique, le géothermique, la biomasse et celles qui proviennent des mers (marémotrice, houlomotrice, thalassothermique).

Mais il faut absolument que cette technologie soit maîtrisée le plus possible et que les avantages procurés soient d’une dimension nettement plus considérable que les risques encourus.

La question se pose avant tout pour ce qu’on appelle l'intelligence artificielle générative.

Cette technologie qui est capable de créer de nouveaux contenus (textes, images, sons, vidéos, codes informatiques), comporte moult dangers ainsi que le révèle le rapport de la Commission « IA générative et vulnérabilités », intitulé «Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative» qui vient d’être remis à Emmanuel Macron.

Celui-ci identifie trois risques principaux: l'affaiblissement et la dette cognitive (avec des risques de réduction des facultés cognitives lors de l'usage des chatbots pour l'écriture) ; la dépendance émotionnelle liée à l'anthropomorphisation des agents conversationnels et leur tendance à flatter l'utilisateur au détriment de la vérité) ; les menaces démocratiques (désinformation, persuasion accrue des contenus générés par IA, biais et absence de contradictoire).

Pour sécuriser son utilisation, le rapport préconise 18 propositions afin de protéger les mineurs, d’éduquer la population à son utilisation et à ses dangers et de renforcer la répression contre les dérives, des deepfakes à la pédocriminalité.

En l’état actuel du développement de l’IA, de nos capacités à s’en servir sans risques et des doutes concernant ses possibilités destructrices, nous devons prendre toutes les précautions pour que ce qui est un formidable outil ne devienne pas notre pire cauchemar.

 

►Appel de Paris pour la sécurité de l'intelligence artificielle.
Nous réaffirmons notre intérêt partagé et notre responsabilité commune dans le développement d’une intelligence artificielle avancée sûre, sécurisée, utile et largement accessible à tous. Le développement responsable de ces technologies et l’adoption de systèmes d’IA fiables constituent des moteurs sans précédent du progrès économique, scientifique et social de nos nations.
Notre ambition est de poser les fondations nécessaires à une adoption sûre. Les modèles d’IA de frontière transcendent les frontières nationales dans leur développement, leur déploiement et leur impact ; leurs opportunités comme leurs risques sont donc intrinsèquement mondiaux. Nous avons tous un rôle à jouer pour protéger nos sociétés tout en permettant la recherche, l’innovation et un usage plus large de l’IA. Il est de notre responsabilité collective de protéger les citoyens, les entreprises et les institutions, tout en favorisant un environnement propice à la recherche, à l’innovation et à l’adoption généralisée de ces technologies. Aucun acteur, qu’il s’agisse d’un État, d’une entreprise ou d’une organisation internationale, ne peut gérer seul l’ensemble de ces risques. À cet égard, les efforts continus des décideurs publics, des chercheurs et des entreprises d’IA ont jeté les bases d’une coopération concrète en vue d’agir, notamment dans le cadre du processus d’Hiroshima, des engagements en matière de sûreté de l’IA de frontière pris lors du Sommet de Séoul sur l’IA, de la réunion du G7 d’Évian sur l’IA, de la réunion du Conseil de sécurité des Nations unies sur l’IA tenue le 23 septembre et de l’« Appel pour le contrôle des modèles d’IA de frontière ».
Les échanges de ce jour ont mis en évidence trois domaines fondamentaux de consensus : la nécessité d’un cadre réglementaire clair, compréhensible et prévisible ; l’urgence d’obtenir des résultats tangibles et immédiats en matière de transparence, de signalement des incidents, de gestion des risques et de vérification ; et la nécessité absolue de mettre en œuvre des normes d’évaluation rigoureuses.
La présente déclaration traduit notre engagement à apporter une contribution substantielle et à accélérer la mise en œuvre de ces priorités.
Afin de rendre opérationnelle cette vision partagée, nous nous engageons aujourd’hui à établir un cadre structuré de coopération reposant sur trois engagements stratégiques majeurs :
- Premièrement, les décideurs publics, les chercheurs et les développeurs s’engagent à établir un cadre commun pour l’évaluation et la gestion des risques des modèles d’IA de frontière, en s’appuyant sur les cadres existants. Ce cadre serait étayé par des normes techniques, des outils et des méthodologies d’évaluation communs, qui suivent le rythme des progrès des capacités des modèles d’IA de frontière, en mettant particulièrement l’accent sur l’atténuation des usages malveillants dangereux, notamment dans les domaines cyber et NRBC, ainsi que des risques découlant d’une autonomie croissante ou d’un défaut d’alignement des modèles, y compris la perte de contrôle. À cet égard, nous nous engageons à renforcer la coopération technique et reconnaissons le rôle que peuvent jouer les réseaux existants, notamment le Réseau international pour la mesure, l’évaluation et la science de l’IA avancée (NAAIMES), pour rendre les méthodes et les résultats d’évaluation plus comparables et plus accessibles aux pays des différentes régions.
De plus, nous convenons de publier les conclusions non sensibles de nos évaluations dans un format standardisé afin d’en garantir la comparabilité, et de créer un référentiel partagé accessible au public. Celui-ci pourrait comprendre des protocoles de « red-teaming », des outils d’étalonnage (« benchmarking »), des évaluations des risques et des résultats de tests de résistance.
- Deuxièmement, nous affirmons le principe de responsabilité et de redevabilité de l’ensemble des acteurs de l’écosystème de l’IA, en fonction de leur rôle dans cet écosystème.

Nous nous engageons à garantir le strict respect de normes de sûreté rigoureuses, établies ou reconnues par les autorités nationales compétentes, tout au long du cycle de vie des modèles, sous le contrôle de ces autorités et avec une évaluation par des tiers crédibles, compétents et indépendants, afin de favoriser la confiance nécessaire entre toutes les parties prenantes et de permettre une adoption plus large de l’IA. Des incitations claires peuvent être utilisées pour encourager la priorité donnée à la sûreté et à la sécurité dès la phase de conception et tout au long du cycle de vie.
Les décideurs publics reconnaissent la nécessité de veiller à ce que les cadres juridiques clarifient les responsabilités et la redevabilité en cas de dommages à grande échelle, afin de protéger les intérêts des personnes concernées, y compris lorsque le préjudice est transfrontalier, et d’offrir ainsi aux entreprises d’IA la sécurité juridique nécessaire à leur développement économique.
Les développeurs de modèles d’IA de frontière s’engagent à divulguer les capacités, les limites et les risques connus des modèles et, lorsque cela est approprié et proportionné au risque, à faciliter l’évaluation des modèles par des évaluateurs indépendants qualifiés, selon les modalités appropriées et conformément aux pratiques et arrangements existants. Les développeurs s’engagent également à mettre en place des mécanismes de sécurité intrinsèque (« fail-safe ») permettant d’interrompre le fonctionnement des modèles placés sous leur contrôle, y compris pendant l’entraînement et l’utilisation interne (par exemple restrictions, pauses ou arrêts).
Reconnaissent le risque que représente la suppression ou le contournement des garde-fous ainsi que l’importance de traiter ce risque tout en préservant les bénéfices du développement de modèles à poids ouverts à des fins de recherche, d’innovation et de sûreté.
Reconnaissent l’importance d’une gouvernance interne imposant des pratiques continues de gestion des risques, un suivi en temps réel des capacités émergentes, un « red-teaming » interne rigoureux et des circuits de signalement transparents protégeant les chercheurs internes. Les développeurs s’engagent à œuvrer à une structure de gouvernance claire, dotée de responsabilités définies, de ressources adéquates et d’un contrôle indépendant.
- Troisièmement, les décideurs publics, les chercheurs et les développeurs s’engagent en faveur du partage d’informations, du signalement et de systèmes d’alerte précoce. Le déploiement de systèmes d’alerte rapide, s’appuyant sur les dispositifs pertinents existants de réponse aux incidents, y compris en matière de cybersécurité, est essentiel pour prévenir les risques systémiques en cascade et pour élaborer des réponses collectives aux menaces émergentes, afin de permettre leur résolution rapide et d’en limiter les conséquences et les effets concrets.
Nous reconnaissons l’intérêt de renforcer les dispositifs de signalement existants afin de nous accorder sur la classification des incidents et de partager en temps utile des informations sur les incidents graves de nature cyber ou liés au contrôle de l’IA, ainsi que sur les autres signaux précurseurs significatifs de préjudices graves, que ce soit entre entreprises et gouvernements, entre gouvernements ou entre entreprises d’IA, et d’examiner si un mécanisme de coopération serait utile et quel pourrait en être le périmètre.
Les décideurs publics s’engagent à offrir des canaux sécurisés et confidentiels permettant aux lanceurs d’alerte, y compris les salariés et les autres parties prenantes concernées, de faire part, sur la base de motifs raisonnables, de leurs préoccupations relatives aux risques systémiques, sans crainte de représailles juridiques ou professionnelles.
[Déclaration signée par les chefs d’États et de Gouvernements et les dirigeants des entreprises et d’organisations suivants :
États : Kenya, Bahreïn, Canada, Finlande, France, Norvège, Pays-Bas, Chypre
Entreprises : Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI, Synthesia, Centre Géopolitique de la Datasphère, GPAI Policy Lab
Société civile : LawZero (Yoshua Bengio), SaferAI (Henry Papadatos), AI Safety Connect (Nicolas Miailhe), Ifri (Laure de Roucy-Rochegonde)
La déclaration reste ouverte à de nouveaux soutiens et est mise à jour.]

 

 

[Retrouvez quotidiennement ce billet rédigé par l’équipe du CREC concernant l'actualité du jour]