William Marcellino, The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0

William Marcellino, The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0, RAND Corporation, 42 pages, 2023. 

La Chine est visée par ce rapport, dont le sous-titre est "Next-generation chinese astroturfing and coping with ubiquitous AI". "Using existing technology, U.S. adversaries could build digital infrastructure to manufacture realistic but inauthentic (fake) content that could fuel similarly realistic but inauthentic online human personae: accounts on Twitter, Reddit, or Facebook that seem real but are synthetic constructs, fueled by generative AI and advancing narratives that serve the interests of those governments." Mais si les adversaires des USA sont capables de toutes ces manipulations, les USA le sont tout autant. Ce que ne dira jamais le rapport, bien entendu. Si l'IA générative est une menace potentielle pour la sécurité nationale américaine, elle l'est aussi pour les adversaires de l'Amérique. Jeu à armes égales. 

A lire - Vincent J. Carchidi, Should Strategists Worry About the Philosophy of Artificial Intelligence?

 Vincent J. Carchidi, Should Strategists Worry About the Philosophy of Artificial Intelligence?, Military Strategy Magazine, Vol.9, issue 1, Summer 2023, pp.43-49. 

" There is an unspoken assumption that the wet, fleshy stuff within human (or animal) skulls is unique but replicable, reproducible on silicon substrates. But what if it is not possible to replicate intelligence via artificial means? What if today's “narrow” AI is merely a series of engineering-based workarounds that function as band-aids on the fundamental problems of reproducing intelligence?"

USA - Bill - Proliferation of foreign commercial spyware

USA - Bill to impose sanctions against certain persons engaged in the proliferationor use of foreign commercial spyware, and for other purposes. 118th Congress, 1st Session,  H.R. 5522. Bill introduced by Mr Himes. 

EU - Dual Use Regulation

A lire: Lena Riecke, Unmasking the Term 'Dual Use' in EU Spyware Export Control, European Journal of International Law, Vol. XX No. XX, 1–23, Oxford University Press, 2023, https://doi.org/10.1093/ejil/chad039

Abstract: Spyware has been heralded as an essential tool for law enforcement and intelligence operations. However, examples abound of states that use it in a manner that violates human rights as well as undermines democracy and the rule of law. Against this backdrop, the European Union (EU) Dual-use Regulation was recast in 2021. It now makes an effort to control the export of cyber surveillance technologies, including spyware, which it defines as dual use. What narrative is created by framing spyware as ‘dual use’? This article illustrates how the term 'dual use' roots in a distinction between ‘peaceful’ and ‘non-peaceful’, or ‘civil’ and ‘military’ uses, and has gradually become associated with a broader dichotomy between ‘legitimate’ and ‘illegitimate’ purposes. Historically, this duality served not only to articulate the risks posed by certain technologies and indicate the rationale for their export control but also to justify their trade. Yet recourse by EU actors to dual use tilts the EU discourse on spyware export control towards state-centric security considerations and commercial interests over human rights. Unmasking how the term transposes a conceptually flawed, deceptive and empty duality to the spyware context, this article shows that the very concept of dual use may undermine human rights safeguards in spyware export control. 

A lire - Report on North Korea's Cybercrimes

A lire: Bruce Klingner, North Korea’s CybercrimesPay for Weapons Programsand Undermine Sanctions, Report 3790, The Heritage Foundation, Asian Studies Center, Septembre 2023, 16 pages, USA. 

A lire - Offensive cyber operations, by Juliet Skingsley

 A lire: Juliet Skingsley, Offensive Cyber Operations, Research Paper, Septembre 2023, Chatham House, 37 pages.  

"hyperbole and militaristic rhetoric, not only on the part of the media and government officials but also within academic circles, continues to hinder a better understanding of the utility and risks of offensive cyber activity". 

UE - Note du Parlement Européen sur la politique de cybersécurité de l'administration américaine

Le Parlement européen vient de publier une courte note (2 pages) faisant l'état des lieux de la politique actuelle de cybersécurité américaine. L'administration Biden se trouve comme les précédentes confrontée à tout un ensemble de risques et menaces, notamment du fait des attaques incessantes contre ses infrastructures. Mais elle doit aussi pallier au niveau de cybersécurité insuffisant dans le secteur privé (80% des infrastructures civiles et militaires sont entre ses mains), et combler les manquements de l'administration de Trump qui n'aurait pas implémenté les recommandations faites par le GAO en 2021 en matière de cybersécurité.  

Gisela Grieger, The US cybersecurity posture under Biden, 2 pages, European Parliamentary Research Service, September 2023. 

France - Revue Enjeux Numériques - Septembre 2023

 A lire: revue Enjeux Numériques, Septembre 2023. Thème du numéro: La souveraineté numérique: dix ans de débats, et après?, 145 pages. Télécharger le numéro. 

France - Rapport ANSSI sur FIN12

 A lire: ANSSI, "FIN12: un groupe cybercriminel aux multiples rançongiciels", 18 septembre 2023, 15 pages

Chili - Réflexions sur la désinformation et les moyens d'y faire face

Un groupe de travail principalement constitué d'universitaires, a récemment publié (28 août 2023) un rapport de 110 pages sur le thème de la désinformation: 

Anguita, P., Bachmann, I., Brossi, L., Elórtegui, C., Escobar, MJ., Ibarra, P., Lara, JC., Padilla, F. y Peña, P., (2023). Elfenómeno de la desinformación: Revisión de experienciasinternacionales y en Chile. Santiago: Comité Asesor contra la Desinformación; Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. 

Les auteurs rappellent que l'enjeu essentiel de la lutte contre la désinformation demeure la protection des processus démocratiques contre la menace que constituent les contenus faux et trompeurs. Mais il est primordial de savoir conserver la distinction entre les démarches de désinformation et le libre droit de l'expression d'opinions. 

Le Chili semble ne pas encore disposer d'un corpus juridique lui permettant d'engager des actions concrètes face à la désinformation. Par contre, pas moins de 11 projets de loi sur le sujet sont référencés à ce jour.  

USA - Hearing on The Need for Transparency in Artificial Intelligence

 A lire: Testimony of Victoria EspinelCEO of BSA | The Software AllianceHearing on The Need for Transparency in Artificial Intelligence Before the Senate Committee on Commerce, Science, & Transportation Subcommittee on Consumer Protection, Product Safety, and Data Security September 12, 2023. 

USA - Summary of the 2023 Cyber Strategy of the Department of Defense

A lire: Summary of the 2023 Cyber Strategy of the Department of Defense, september 2023, 24 pages. 

Obstacles au maintien d'un cyberespace ouvert et stable

Dans "Rules of Order:Assessing the State of Global Governance" (septembre 2023), Stewart Patrick énumère (paragraphe 12, p. 20 et suiv.) les obstacles au maintien d'un internet (cyber domain) ouvert et stable. Car si les USA et autres démocraties n'ont cessé au cours des 3 dernières décennies de promouvoir un internet ouvert, décentralisé, sécurisé, restant principalement entre les mains d'acteurs privés, plusieurs obstacles se sont dressés contre la réalisation de ce "rêve" (sic), créant au contraire un internet fragmenté, moins libre, plus dangereux. 

Au rang des facteurs impactant négativement le projet sus cité, l'auteur mentionne la course aux capacités et les pratiques cyber offensives des Etats, qui créent l'instabilité et l'insécurité dans le cyberespace. Pour exemple, il rappelle les cyberattaques qui ont touché les autorités fédérales américaines en 2020 (Solar Winds). 

Mais l'auteur omet de rappeler que les promoteurs de l'internet ouvert et sécurisé que sont les USA, sont aussi les acteurs de cette conflictualité et de cette insécurité.  

Autre variable essentielle constituant obstacle à l'internet ouvert et stable: les divergences en matière de protection des données privées ("digital privacy"). Trois grandes approches concurrentes existent actuellement: celle des Etats-Unis privilégient la libéralisation des données (marché libre, pour l'innovation, l'économie); celle de l'UE (qui conditionne les flux des données au respect des données personnelles, avec son GDPR), et la Chine qui insiste que le contrôle étatique sur les données et l'internet en général. 

Pour lever ces obstacles et contribuer à la construction de cet internet ouvert et stable, l'auteur propose de créer un accord ("arrangement") réunissant les démocraties en ce qui s'apparenterait à un club ("club-like arrangement among like-minded advanced democracies") dont les membres décideraient des règles et assureraient la police mondiale de l'internet, attribuant les attaques, sanctionnant les coupables et les mauvais joueurs. 

IISS Research Paper on Cyber capabilities and national power

L'IISS publie le second volume du rapport sur les capacités cyber des Etats (présentation du volume 2). L'IISS a défini trois cercles, dans lesquels sont positionnés les Etats au regard des cyber capacités qui sont les leurs (ou qu'on leu attribue). La méthode d'analyse s'appuie sur un ensemble de catégories: "strategy and doctrine – governance, command and control – core cyber-intelligence capability – cyber empowerment and dependence – cyber security and resilience – global leadership in cyberspace affairs – offensive cyber capability". 

- le premier cercle est celui des Etats dominants dans toutes les catégories prises en compte pour l'appréciation des cyber capacités. Seuls les Etats-Unis entrent, selon l'IISS, dans ce premier cercle. 

- le second cercle est celui des Etats qui leaders dans certaines catégories: Australie, Canada, Chine, France, Israël, Russie, Royaume-Uni, Allemagne, Pays-Bas. 

- le troisième cercle est celui des Etats ayant du potentiel dans certaines catégories, mais des faiblesses significatives dans d'autres: Inde, Indonésie, Iran, Japon, Malaisie, Corée du Nord, Vietnam, Brésil, Estonie, Nigeria, Arabie Saoudite, Singapour, Afrique du Sud, Turquie, EAU.

Carte créée à partir des données de l'IISS. Copyright Daniel Ventre, 12 septembre 2023.