Critical AI Studies

Les "Critical AI Studies" (études critiques de l'intelligence artificielle) sont apparues récemment comme un nouveau champ de recherches, domaine interdisciplinaire en construction (S. Lindgren, 2023; R. Raley, 2023; ). 

Ce champ interdisciplinaire interroge et problématise développement, usages, discours sur l'IA, en considérant les implications sociales, politiques, économiques, culturelles de cette dernière (E. Peter, 2024). 

Ces études sont "critiques" en ce qu'elles visent à mettre en évidence des structures de pouvoirs, les idéologies véhiculées par l'IA, etc. (H. Bajohr, 2024)

Bajohr, Hannes. « Operative ekphrasis: the collapse of the text/image distinction in multimodal AI ». Word & Image 40, n^o 2 (2 avril 2024): 77‑90. https://doi.org/10.1080/02666286.2024.2330335.

Lindgren, Simon. « Chapter 1: Introducing Critical Studies of Artificial Intelligence ». In Handbook of Critical Studies of Artificial Intelligence, Edward Elgar Publishing., 1‑19, 2023. https://www.elgaronline.com/edcollchap/book/9781803928562/book-part-9781803928562-5.xml.

Ericson, Petter, Roel Dobbe, et Simon Lindgren. « Tracing Class and Capital in Critical AI Research ». tripleC: Communication, Capitalism & Critique. Open Access Journal for a Global Sustainable Information Society 22, n^o 1 (26 avril 2024): 307‑28. https://doi.org/10.31269/triplec.v22i1.1464.

Raley, Rita, et Jennifer Rhee, éd. Critical AI: A Field in Formation. Durham, NC: Duke University Press Books, 2023.

UVSQ -- Conférences sur l'Intelligence Artificielle : panorama et perspectives

 UVSQ -- Conférences sur l'Intelligence Artificielle : panorama et perspectives. 

Conférences et tables rondes sur l'Intelligence Artificielle : panorama et perspectives dans le cadre de l'inauguration de la maison de l'IA de l'UVSQ, le 10 juin 2025. Sur inscription avant le 3 juin.

A lire: Le gouvernement espagnol et le groupe de hackers Careto

A lire, sur le site TechCrunch, un article relatif au groupe de hackers Careto, découvert par Kaspersky il y a une dizaine d'année, et qui est désormais attribué aux autorités espagnoles. 

Google Veo3 et les réactions que son arrivée suscite

Google Veo 3 (outil de génération d'images vidéo par IA, créé par Google) est en train de devenir l'un des principaux sujets de discussion des technophiles et technophobes. Nous proposons ici un recensement des termes des débats soulevés et des réactions suscitées par l'arrivée de Google Veo3. 

- Admiration, fascination, reconnaissance de la prouesse technologique

- Confusion totale, le spectateur ne peut plus distinguer ce qui est image du réel, le vrai, de la création artificielle. "Il devient impossible de distinguer le vrai du faux". Ces technologies risquent de "bouleverser notre rapport à la vérité". 

- Accélérateur de la désinformation, menaces des deepfakes...

- Nous avons tous, à des niveaux divers, contribué au fil des ans, à la construction de ces capacités. Google a entrainé ses IA à l'aide des milliards d'heures de vidéo qui se trouvent sur Youtube. 

- Une menace renforcée sur les métiers de la création: la fin de quantité de métiers de l'industrie du cinéma? 

Ces innovations technologiques viennent alimenter les réflexions déjà bien avancées sur les impacts sociétaux de l'IA, les conséquences des deepfakes générées par IA dans les domaines politiques, sécuritaires, sur l'opinion publique, etc. 

A lire: "2025 Worldwide Threat Assessment" - DIA - May 2025 - USA

A lire, le nouveau rapport de la DIA (USA) intitulé "2025 Worldwide Threat Assessment" dans lequel il et bien sûr question des menaces que constituent les cyber-capacités des adversaires habituels que sont la Russie, la Chine, l'Iran, etc. 

Journée d'étude "L’intelligence artificielle et le domaine régalien de l’État "

La journée d'étude "L’intelligence artificielle et le domaine régalien de l’État" aura lieu ce mercredi 28 mai 2025 à l'Ecole Militaire, à Paris. 

La journée d’étude explore comment l’intelligence artificielle transforme les fonctions régaliennes de l’État dans les domaines de la défense, de la sécurité et de la justice. 

A lire: rapport "Cour de cassation et intelligence artificielle: préparer la Cour de demain"

A lire, le rapport remis le 29 avril 2025 par le groupe de travail sur l'IA à la cour de cassation, intitulé "Cour de Cassation et intelligence artificielle: préparer la Cour de demain". Rapport disponible ici. 

A voir: Exposition "Le monde selon l'IA"

A voir, l'exposition "Le monde selon l'IA". Jeu de Paume Paris, 1 place de la Concorde, jardin des Tuileries - 75001 Paris. Du 11 avril 2025 au 21 septembre 2025. 

Plus d'informations ici

Conférence #NetGouv25

Conférence #NetGouv25. 

La conférence #NetGouv25, organisée par le Groupe de travail sur la gouvernance et la régulation d’Internet, aura lieu ce mercredi 28 mai 2025 à la Maison de la Recherche de la Sorbonne Nouvelle et en ligne. 

S’inscrire (gratuitement) : https://framaforms.org/inscription-a-netgouv25-1712172534 

Programme  : https://netgouv.hypotheses.org/1038

A lire: ANSSI. "Etat de la prise en compte de la cryptographie post-quantique"

L'ANSSI vient de publier (26 mai 2025) un rapport intitulé "Etat de la prise en compte de la cryptographie post-quantique". Rapport disponible ici. 

Appel à contributions revue EFRC

 Appels à contributions en cours pour la revue Etudes Françaises de Renseignement et de Cyber (EFRC). 

Numéros concernés: 

- Numéro 5 spécial Asie/Issue 5 special Asia

- Numéro 6 : IA et opérations cognitives

  

A lire: Air Force Doctrine Note 25-1, Artificial Intelligence (AI)

L'US Air Force a récemment publié l'Air Force Doctrine Note 25-1, Artificial Intelligence (AI). 8 avril 2025. 19 pages. 

Résumé de l'AFDN 25-1

Ventre, D. (2025). Similitudes des discours sur la militarisation de l’IA et du cyberespace. Études françaises de renseignement et de cyber

Vient de paraître (avril 2025), dans le nouveau numéro (n°4) de la revue Etudes Françaises de Renseignement et de Cyber: 

• Ventre, D. (2025). Similitudes des discours sur la militarisation de l’IA et du cyberespace. Études françaises de renseignement et de cyber, 4(3), 201-216. https://doi.org/10.3917/efrc.243.0201.

  
  
  La militarisation revêt plusieurs formes : transfert de compétences au domaine militaire, contrôle des territoires ou populations par l’armée, adaptation d’environnements aux besoins militaires (industrie, économie) ou encore diffusion d’une idéologie militaire dans la société. Déjà évoquée dans les années 1980, la militarisation de l’IA s’est imposée comme un enjeu essentiel au cours des dix dernières années. Cet article soulève deux questions : quelles sont les caractéristiques de cette militarisation ? Est-on confronté à une militarisation d’un genre nouveau ? Pour y répondre, trois catégories de discours sont analysées : politique, militaire et points de vue de la science (SHS). Nous formulons l’hypothèse selon laquelle de nombreuses similitudes apparaissent entre la militarisation de l’IA et celle du cyberespace et essayons d’en expliquer les raisons et les conséquences.
  
  Mots clefs: militarisation, cyberespace, intelligence artificielle
  
  Militarization takes several forms: transfer of skills to the military domain, control of territories or populations by the army, adaptation of environments to military needs (industry, economy) or even dissemination of a military ideology in society. Already mentioned in the 1980s, the militarization of AI has emerged as an essential issue over the last ten years. This article raises two questions: what are the characteristics of this militarization? Are we facing a new kind of militarization? To answer this, three categories of discourse are analyzed: political, military and points of view of human and social sciences. We hypothesize that many similarities appear between the militarization of AI and that of cyberspace and try to explain the reasons and consequences of these similarities.
  
  Keywords: militarization, cyberspace, artificial intelligence

Séminaire Université de Sherbrooke du 14 avril 2025. "Le monde de la Justice en prise avec les risques et menaces cyber"

Le 14 avril 2025, dans le cadre du séminaire du Pôle d'expertise en cybersécurité de l'Université de Sherbrooke, mon intervention portait sur le thème: "Le monde de la Justice en prise avec les risques et menaces cyber".   

Tous mes remerciements au professeur Hugo Loiseau (Univ. de Sherbrooke), à Sylvana Al Baba Douaihy (Prof. associée, Univ. de Sherbrooke), et Danièle Normandin (Pôle d'expertise en cybersécurité - Univ. de Sherbrooke), pour leur accueil chaleureux et l'organisation du séminaire. 

Colloque Obvia du 11 avril 2025

Le 11 avril 2025 s'est tenu à l'Université Laval (Québec) le colloque "Cybersécurité' organisé par l'Obvia (Pôle d'expertise en cybersécurité et impacts sociétaux). La journée à réuni près de 90 participants. Au cours de cette journée j'ai pu faire deux présentations: 

- la conférence d'ouverture, sur le thème de la "Coopération Internationale en Cybersécurité". 

- lors d'une table ronde modérée par Benoît Dupont (Université de Montréal), un exposé sur les APTs. 

Le programme complet du colloque est disponible sur le site de l'Obvia. 

Tous mes remerciements aux organisateurs, au professeur Hugo Loiseau (Univ. de Sherbrooke), à Mme Lyse Langlois (Directrice générale de l'Obvia, Prof. Université Laval), et à l'ensemble de leurs collègues, pour cette invitation et leur chaleureux accueil. 

Atelier sur l'écosystème de malwares et cybercriminalité. 12 mars 2025

Heureux d'avoir pu contribuer aux ateliers sur l'écosystème des malwares et la cybercriminalité qui se sont déroulés au Campus Cyber (Paris La Défense) ce mercredi 12 mars 2025. La journée était organisée par le projet DefMal du PEPR Cybersécurité. Atelier sur l’Écosystème de Malwares et Cybercriminalité

🔹 Trois séquences clés ont rythmé cette journée: 

1️⃣ Écosystème cybercriminel – avec une conférence inaugurale de Benoit Dupont et Olivier Beaudet-Labrecque, Jean-Loup Richet, Francesco Calderoni

2️⃣ Prospective – introduite par une conférence de Virginie Tournay et Daniel Ventre, Marlène Dulaurans, Éric Freyssinet.

3️⃣ Retour d’expérience sur les enquêtes liées aux rançongiciels avec Yann Loubry, Florent Peyredieu

Merci aux organisateurs: Maira Nassau et Jean-Yves Marion (Université de Lorraine). 

Colloque Cybersécurité - 11 avril 2025, Université Laval, Québec

 🛡Le 11 avril 2025 j’aurai le plaisir d’intervenir en tant que panéliste invité lors du colloque 𝑪𝒚𝒃𝒆𝒓𝒔𝒆́𝒄𝒖𝒓𝒊𝒕𝒆́ : 𝑬𝒏𝒋𝒆𝒖𝒙 𝒔𝒐𝒄𝒊𝒆́𝒕𝒂𝒖𝒙, 𝒐𝒑𝒑𝒐𝒓𝒕𝒖𝒏𝒊𝒕𝒆́𝒔 𝒆𝒕 𝒑𝒆𝒓𝒔𝒑𝒆𝒄𝒕𝒊𝒗𝒆𝒔 𝒅’𝒂𝒄𝒕𝒊𝒐𝒏, organisé par le Pôle d’expertise en cybersécurité et impacts sociétaux de l’@Obvia (Université Laval. Québec).

De la protection des données personnelles aux enjeux géopolitiques, en passant par la cyberrésilience et la réglementation, cette journée d’étude contribuera à renforcer l’écosystème numérique québécois.

💡 Un rendez-vous incontournable pour les acteurs publics et politiques, les professionnels du secteur et toute personne intéressée par l’avenir de notre société numérique.

📅 Réservez votre place ici ➡ https://lnkd.in/eM9XiQCk

Programme complet: https://lnkd.in/eTkw5Dm3

hashtag#Cybersécurité hashtag#Numérique hashtag#Innovation hashtag#Obvia hashtag#Colloque

CISA - Disinformation Tactics

Un document d'octobre 2022 publié par la CISA américaine ("Tactics of Disinformation"), énumérait les principales composantes tactiques de la désinformation. Le document décline 8 tactiques, chacune étant illustrée de cas concrets rapportés par les médias. Les principaux pays cités, à l'origine de ces opérations de désinformation, sont la Russie, l'Iran, la Chine, des organisations terroristes. 

Il est dommage que le document n'approfondisse pas davantage le sujet, en s'intéressant notamment à la manière dont ces composantes tactiques peuvent être agencées les unes par rapport aux autres: celles qui préparent le terrain, celles qui sont compatibles avec d'autres manœuvres, etc. Car toutes ces tactiques ne se valent pas, n'ont pas la même efficacité, la même portée, les mêmes effets. 

Le schéma que nous proposons ci-dessous énumère ces 8 tactiques de désinformation: 

A lire : "ENISA Threat Landscape : Finance Sector"

L'ENISA vient de publier un rapport de 33 pages relatif aux cybermenaces qui pèsent sur le secteur de la finance. Pour cette étude, l'ENISA a identifié 488 incidents (rendus publics) sur la période janvier 2023 - juin 2024. 

Atelier sur l'écosystème de Malwares et Cybercriminalité

Atelier organisé par le projet DefMaJ du PEPR Cybersécurité. Lieu: Campus Cyber. Date: 1 mars 2025. Programme, infos pratiques, inscription: ici 

Event - “The EU’s Cybersecurity Strategy for the Digital Decade”

“The EU’s Cybersecurity Strategy for theDigital Decade”. Draft programme V1. 

14 May – 16 May 2025 – Interagency Law Enforcement Academy of Advanced Studies, Rome, Italy

Sélection de textes sur l'IA récemment publiés par des gouvernements, ministères, think tanks...

Sélection de quelques textes sur l'IA récemment publiés par les gouvernements, ministères, think tanks...: 

- Faire de la France une puissance de l'IA. Comité interministériel de l'intelligence artificielle. 6 février 2025. 37 pages

- Défis et opportunité de l'intelligence artificielle dans la lutte contre les manipulations de l'information. SGDSN. 7 février 2025. 28 pages. Version française. Version anglaise. 

- Enjeux de défense. Ministère des Armées. Dossier de presse. Février 2025. 7 pages. 

- Développer la confiance dans l'IA à travers une approche par les risques cyber. ANSSI. Février 2025. 14 pages. Version en anglais. 

- Communiqué de presse, ANSSI, 12 février 2025, 3 pages. 

- L'intelligence artificielle au service de nos quotidiens. France 2030. février 2025. 28 pages. 

- Lancement d’une coalition mondiale pour une intelligence artificielle durable. Ministère de la transition écologique, de la biodiversité, de la forêt, de la mer et de la pêche. 11 février 2025. 10 pages.

- Les actions de Paris pour l'intelligence artificielle. Présidence de la République. 11 février 2025. 12 pages. 

- Numérique et intelligence artificielle. Positions d'Intercommunalités de France. Février 2025. 6 pages.  

- Bibliographie sélective. BNF. Février 2025. 8 pages. 

- Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act). European Commission. February 4, 2025. 140 pages. 

- Commission Guidelines on the definition of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act). European Commission. February 6, 2025, 13 pages. 

- Speech by President von der Leyen at the Artificial Intelligence Action Summit. European Commission. 11 February 2025. 2 pages. 

- Enhancing Access to and Sharing of Data in the Age of Artificial Intelligence. Policy Brief. OECD 6 February 2025. 7 pages. 

- Data Centers and Cloud Computing: Information Technology Infrastructure for Artificial Intelligence, CRS Report, Washington DC, February 5, 2025. 3 pages. 

- Steering AI's future: strategies for anticipatory governance. OECD Artificial Intelligence Papers. February 2025. N°32. 34 pages. 

- Articial Intelligence Playbook for the UK Government. Created by the Government Digital Service. Department for Science, Innovation and Technology, February 2025. 118 pages. 

- Identifying the Economic Implications of Artificial Intelligence for Copyright Policy, Edited by Brent Lutes, Chief Economist, United States Copyright Office (USA), February 2025, 66 pages. 

- Artificial General Intelligence's Five Hard National Security Problems, RAND Corporation, February 2025, 19 pages. 

- Artificial Intelligence and Cybersecurity:Balancing Risks and Rewards. White paper. World Economic Forum. January 2025. 28 pages. 

- Copyright and Artificial Intelligence. Part 2: Copyrightability. USCO (USA), January 2025, 52 pages.

- Milton L. Mueller, It's just distributed computing: rethinking AI governance, Telecommunications Policy, 6 Feb. 2025

Intelligence artificielle, cybersécurité, cyberdéfense - Ouvrage paru en 2020

Pour rappel (les sujets étant d'actualité), l'ouvrage "Intelligence artificielle, cybersécurité et cyberdéfense", publié chez ISTE (Londres) en 2020, et la même année en anglais chez Wiley (Artificial Intelligence, Cybersecurity and Cyber Defense). 

A lire - "Pourquoi la guerre?" de Frédéric Gros

A lire ou à relire, "Pourquoi la guerre?", de Frédéric Gros, chez Albin Michel. Au delà de cette question fondamentale, l'ouvrage en soulève en vérité bien d'autres: quels sont moteurs les plus profonds de la guerre? Qu'est-ce que la guerre? Qui la fait? Les guerres sont-elles toutes de même nature? Qu'est-ce que la guerre juste? La guerre totale? Comment, et pourquoi, Etat et guerre semblent-ils indissociables l'un de l'autre? En faisant référence aux guerres actuelles (Ukraine, Proche-Orient) et aux guerres des siècles passés, l'auteur est à la recherche de réponses à sa question centrale (pourquoi la guerre?) sans bien sûr prétendre en apporter une seule, définitive. Ce travail ouvre des voies de réflexion multiples. Une lecture passionnante. 

A lire - "Drone-Centric Warfare"

A lire, article de 4 pages, intitulé "Drone-Centric Warfare", se référant au contexte de la guerre en Ukraine. Article rédigé par Mykhailo Samus (ICDS - Estonia). (January 2025, 4 pages, Russia's War in Ukraine Series 2, n°7). 

Dans la même série, signalons également "Artificial Intelligence in Defence of Ukraine" (September 2024, Vitaliy Goncharuk). 

UE - Rapport 2024 de l'Interinstitutional Cybersecurity Board (IICB)

Le règlement européen 2023/2841 (13 décembre 2023, entré en vigueur le 7 janvier 2024) (regulation laying down measures for a high common level of cybersecurity at the institutions, bodies, offices and agencies of the Union) a créé, dans son  article 10, l'Interinstitutional Cybersecurity Board (IICB). Deux missions principales lui sont confiées: 

(a) surveiller et soutenir la mise en œuvre du  règlement par les entités de l’Union ;

(b) superviser la mise en œuvre des priorités et objectifs généraux par la CERT-UE et fournir une orientation stratégique au CERT-UE.

L'IICB vient de publier son rapport annuel 2024 (Bruxelles, 16 janvier 2025, Conseil de l'UE). On pourrait en retenir quelques chiffres: 

- chaque année les entités européennes sont la cible de milliers d'attaques; le CERT-UE en analyse plus particulièrement 600, et a lancé 180 alertes auprès des entités européennes au cours de l'année 2024. 

- le nombre d'incidents sérieux, significatifs, est de 15 toujours au cours de l'année 2024, chiffre que les auteurs du rapport estiment élevé. Mais ce chiffre se situe plutôt dans la moyenne des dernières années (13 en 2020; 17 en 2021; 5 en 2022; 18 en 2023; et 15 en 2024). On s'interrogerait plutôt sur le faible nombre d'attaques sérieuses recensées en 2022. 

Le rapport dans son ensemble décline les mesures prises et à prendre pour assurer et augmenter le niveau de cybersécurité des institutions de l'UE.