Forum de Paris sur la paix : Barrot appelle à renforcer la coopération internationale face aux risques liés à l'IA

AA / Istanbul / Wafae El Baghouani

Le ministre français de l'Europe et des Affaires étrangères, Jean-Noël Barrot, a appelé mercredi à renforcer les mécanismes internationaux de contrôle et de responsabilité applicables aux modèles d'intelligence artificielle (IA) avancés, mettant en garde contre les risques croissants que ces technologies pourraient représenter pour la paix et la sécurité internationales.

S'exprimant lors d'une table ronde intitulée « Plan d'action collaboratif pour une IA digne de confiance : cadres internationaux et stratégie d'entreprise », organisée au Musée national de la Marine dans le cadre du Forum de Paris sur la paix, le chef de la diplomatie française a estimé que les récents développements de l'IA imposaient une nouvelle approche diplomatique.

Barrot a rappelé qu'il y a trois ans, les discussions internationales sur l'intelligence artificielle portaient principalement sur les risques existentiels liés à cette technologie et sur l'opposition entre modèles ouverts et fermés.

Selon lui, la situation a profondément évolué, notamment après plusieurs incidents survenus au cours de l'été impliquant des modèles d'IA dits « frontières », les systèmes les plus avancés du secteur.

Le ministre a notamment évoqué des incidents impliquant des modèles développés par OpenAI et Anthropic, ainsi qu'une intrusion visant les infrastructures de Hugging Face, pour illustrer les risques liés à une éventuelle perte de contrôle de ces technologies.

Ces événements, tels que présentés par Barrot, auraient contribué à faire évoluer la perception des risques associés à l'intelligence artificielle au sein des gouvernements.

– L'intelligence artificielle devient un enjeu de sécurité internationale

Le ministre a souligné que la sécurité de l'IA ne pouvait plus être considérée uniquement comme une question technologique ou économique, mais devait désormais être intégrée aux priorités de la diplomatie internationale.

Il a identifié trois risques majeurs : l'utilisation malveillante de l'intelligence artificielle, la perte de contrôle sur les modèles avancés et l'intégration de ces technologies dans les systèmes d'armement autonomes.

Barrot a également rappelé avoir organisé, dans le cadre des travaux du Conseil de sécurité des Nations unies, des discussions consacrées aux risques posés par les modèles d'IA les plus puissants.

Selon lui, l'évolution récente de ces technologies justifie une implication accrue des ministres des Affaires étrangères, traditionnellement moins présents dans les débats relatifs à leur réglementation.

– L'Appel de Paris pour la sécurité de l'IA

Jean-Noël Barrot a également mis en avant l'« Appel de Paris pour la sécurité de l'IA », lancé à la suite d'une réunion organisée sous l'impulsion du président français Emmanuel Macron, réunissant des dirigeants politiques, des représentants de l'industrie technologique et des organisations internationales.

Le ministre a précisé que cette initiative reposait sur trois priorités : l'élaboration de normes communes pour évaluer les risques des modèles avancés, la mise en place de procédures de signalement des incidents et le développement de cadres de responsabilité pour les entreprises qui conçoivent et déploient ces systèmes.

Il a particulièrement insisté sur ce dernier point, estimant que la question de la responsabilité des développeurs constituait l'un des aspects les plus sensibles de la gouvernance internationale de l'intelligence artificielle.

Barrot a souligné que les mécanismes de signalement des incidents, déjà utilisés dans le domaine de la cybersécurité, pourraient servir de référence pour renforcer la coopération entre États et entreprises technologiques.

Le chef de la diplomatie française a par ailleurs évoqué les difficultés rencontrées par l'Union européenne dans la définition d'un cadre réglementaire adapté à l'intelligence artificielle.

Faisant référence au règlement européen sur l'IA, il a estimé que les obligations imposées aux développeurs devaient être accompagnées de mesures permettant de préserver les capacités d'innovation des entreprises.

Selon Barrot, l'enjeu consiste à construire un nouveau régime de responsabilité pour les acteurs qui développent et déploient les modèles d'intelligence artificielle, sans compromettre le potentiel économique de cette technologie.

Le ministre a ainsi plaidé pour une approche internationale conciliant la prévention des risques, la responsabilité juridique et le développement technologique.

Anadolu Ajansı / Wafae El Baghouani — Anadolu Ajansı