CNRS Formation Entreprises propose une formation d'une journée sur le thème "Enjeux sociétaux, politiques et juridiques de la cybersécurité et de la cyberdéfense". 20 juin 2024. Intervenant: Daniel Ventre
Présentation de la formation et inscriptions: CNRS Formation
NSA Cybersecurity Year in Review - 2023
- Un rapport publié par la NSA, qui souhaite être plus "transparente" (!?) : "In an effort to be more transparent, NSA publishes an annual year in review sharing information regarding cybersecurity efforts..."
- Quelques mots sur le monde:
* la Chine est un adversaire unique en raison de l'ampleur et du type de menace qu'elle représente;
* la Russie reste une menace importante (à la sécurité régionale et pour la stabilité mondiale)
* la Corée du Nord continue à mener des cyberattaques
Rien de très original dans tout cela donc.
* acteurs américains, néo-zélandais, canadiens et britanniques, mais également japonais, sud-coréens coopèrent dans la lutte contre les cybermenaces
Les pages de ce rapport ne font cependant pas la moindre référence à l'Iran, pays pourtant habituellement pointé du doigt par les autorités américaines comme étant l'une des racines de la menace cyber.
La RAND Corporation vient de publier un rapport intitulé "Understanding the limits of artificial intelligence for warfighters", second volet d'une série de 5 dédiée à l'IA dans le domaine militaire, et qui traite ici plus spécifiquement de la notion de "distributional shift", désignant "the divergence of current data from the data on which an AI system was trained".
L'ensemble de la série est composé des volumes suivants:
• Lance Menthe, Li Ang Zhang, Edward Geist, Joshua Steier, Aaron B. Frank, Eric Van Hegewald, Gary J. Briggs, Keller Scholl, Yusuf Ashpari, and Anthony Jacques, Understandingthe Limits of Artificial Intelligence for Warfighters: Vol. 1, Summary, RR-A1722-1, 2024
• Joshua Steier, Erik Van Hegewald, Anthony Jacques, Gavin S. Hartnett, and Lance Menthe, Understanding the Limits of Artificial Intelligence for Warfighters: Vol. 2, Distributional Shift inCybersecurity Datasets, RR-A1722-2, 2024
• Li Ang Zhang, Yusuf Ashpari, and Anthony Jacques, Understanding the Limits of ArtificialIntelligence for Warfighters: Vol. 3, Predictive Maintenance, RR-A1722-3, 2024
• Edward Geist, Aaron B. Frank, and Lance Menthe, Understanding the Limits of ArtificialIntelligence for Warfighters: Vol. 4, Wargames, RR-A1722-4, 2024
• Keller Scholl, Gary J. Briggs, Li Ang Zhang, and John L. Salmon, Understanding the Limits of Artificial Intelligence for Warfighters: Vol. 5, Mission Planning, RR-A1722-5, 2024. (à paraître)
"A hostage to fortune: ransomware and UK national security", rapport publié par le Joint Committee on the National Security Strategy de la la House of Commons, House of Lords britannique (4 décembre 2023).
"The UK is one of the most targeted countries in the world for ransomware, with some estimates putting it second only to the US..."
A la question "why the UK is victimised more than other major European economies", la Ministre de la sécurité répond "There is a very simple reason: the English Language. Then there is a more prosaic reason which is our open banking systems".
Le facteur linguistique peut étonner. Il serait l'un des déterminants de la surface d'attaques mondiale?
Le webinaire sur la cybersécurité est en ligne sur la chaîne Youtube de CNRS Formation.
Le projet Safe and Free (Univ. of Texas, Austin, USA), vient de publier une étude comparée sur les modes de surveillance technique dans les pays libéraux: "National Security Surveillance and the Rule of Law Across Democratic States". Le professeur Sébastien-Yves Laurent a rédigé le chapitre relatif à la France.
Ce lundi 28 novembre, à l'occasion d'une réunion dans les locaux du Sénat, a officiellement été lancée la Revue Etudes Françaises de Renseignement et de Cyber. A cette occasion le premier numéro de la revue nous a été remis. Ce numéro est le fruit de près d'une année de travail. Le second est en préparation. Les appels à contributions pour les numéros suivants sont publiés (voir le site de la revue). La revue s'affiche internationale dès le premier numéro.
ADP 3-13 INFORMATION - Department of the Army - USA. 144 pages.
"ADP 3-13 serves as the Army’s foundational doctrine for information. It provides the fundamental principles for considering how Army forces use, protect, and attack data and information to achieve objectives while affecting the threat’s (adversary or enemy) ability to do the same"
Le Forum Economique Mondial publie le livre blanc "Unlocking Cyber Resilience in Industrial Environments: Five Principles" (novembre 2023, 19 pages) qui propose, comme le mentionne son titre, quelques principes susceptibles d'aider les responsables cyber des entreprises à rendre leurs technologies opérationnelles (OT - Operational Technologies) cyber-résilientes.
"2023-2030 Australian Cyber Security Strategy", Australian Government, Novembre 2023, 64 pages.
Quand la cybersécurité est (essentiellement?) un projet, une opportunité, de nature économique.
"We must not forget that cyber security is also a big opportunity for our country. The global cyber industry is massive and it is growing rapidly, and it is here to stay. If we play it right, Australia is uniquely placed to create well-paid jobs for Australians and products that we can export all over the world."
Rapport publié le 14 novembre 2023: "2023 Reportto Congress of the U.S.-China Economic and Security Review Commission". 753 pages.
« Cybersécurité : le risque des menaces persistantes avancées pour les entreprises et les organisations », un webinaire CNRS Formation Entreprises , animé par Daniel Ventre.
Lundi 27 novembre 2023
De 11h à 12h
Vendredi 1er décembre 2023, 9h - 17h.
ENS Paris-Saclay – 4, avenue des Sciences - 91190 Gif-sur-Yvette
Participation gratuite. Pour s'inscrire à la journée : inscription
Au quotidien, le potentiel transformatif du numérique et de l’IA soulève des défis nouveaux qui s’imposent aux experts métiers et ouvrent des opportunités pour de nouvelles professionnalités. Cette transformation s’opère en outre dans un contexte d’accélération du changement et à une telle échelle que les institutions responsables de la production et de la mise à l’épreuve des savoirs rencontrent aujourd’hui des difficultés à appréhender correctement ce phénomène. La transformation numérique concerne essentiellement et intrinsèquement les personnes et les sociétés. Il s’agit donc conjointement de répondre à des enjeux technologiques et scientifiques propres à l’IA, et d’élaborer des propositions relatives à la conduite de politiques et de stratégies publiques ou privées au sujet de l’ensemble du cycle de vie de l’IA, depuis la conception de ses méthodes et outils jusqu’à la mise à l’épreuve de ses pratiques et usages en tirant profit d’une grande variété d’expertises et d’expériences concrètes. Inscrit dans ce périmètre et s’engageant sur un agenda ouvert mais centré sur la transformation numérique et l’intelligence artificielle, l’objet interdisciplinaire MaISoN a pour objectif de susciter, soutenir et mettre en dialogue interdisciplinaire des activités de recherche et de formation de la communauté scientifique de Paris Saclay en matière de sciences humaines et sociales et d’intelligence artificielle. MaISoN portera ces dialogues par des formes d'organisation et des pratiques savantes, l’analyse des professionnalités mises en jeu, des attentes et des promesses sociales et économiques de la technologie, de l'équilibre entre le contrôle et la participation aux décisions, et encore des transformations de la normativité.
La Déclaration de Bletchley pour une IA responsable, considérant les risques de l'IA, est issue du sommet qui s'est tenu à Londres début novembre 2023: "Many risks arising from AI are inherently international in nature, and so are best addressed through international cooperation. We resolve to work together in an inclusive manner to ensure human-centric, trustworthy and responsible AI that is safe..."
28 pays sont représentés dans cette Déclaration, auxquels s'ajoute l'UE.
Amnesty International, The Predator Files : caught in the Net. The Global Threat from "EU regulated" spyware. September 2023, 59 pages.
Freedom on the net 2023. New report on "The Repressive Power of Artificial Intelligence", october 2023, 47 pages.
Le Privacy and Civil Liberties Oversight Board publie un nouveau rapport de près de 300 pages (en date du 28 septembre 2023) sur le programme de surveillance opéré conformément à la section 702 de la FISA. Un premier rapport sur le même sujet avait été rendu public en juillet 2014.
Depuis 2014 le programme 702 a
fait l’objet de changements substantiels : des mises à jour programmatiques,
des changements imposés par la FISC (Foreign Intelligence Surveillance Court),
et de nouvelles contraintes.
Pour rappel le programme 702 a
été conçu suite aux attentats du 11 septembre 2001 afin de donner les moyens
aux renseignements américains de lutter contre le terrorisme. Le programme s’inscrit
dans le prolongement d’une directive présidentielle (classifiée) autorisant la
NSA à collecter des données (surveillance électronique) pour prévenir les
attaques terroristes sur le sol américain. La FISA fut quant à elle votée en
2008. En janvier 2018 le Congrès américain a voté le maintien de la section 702,
qui devrait expirer le 31 décembre 2023.
Rappelons enfin que ce programme
a pour objet principal la définition du périmètre légal de la surveillance :
le gouvernement est autorisé à surveiller les citoyens étrangers, qui ne se
trouvent pas sur le territoire américain, afin de collecter du renseignement
avec l’appui des fournisseurs de services de communications électroniques. Mais
il peut s’avérer difficile de respecter strictement ces conditions : les
communications de citoyens américains, ou des informations les concernant,
peuvent être collectées de manière incidente lors des opérations de
surveillance électronique (lorsque les citoyens étrangers échangent avec des
citoyens américains, ou quand il peut être question de citoyens américains dans
les échanges). La communauté du renseignement n’a jamais été en mesure de préciser
le volume de données collectées de manière incidente.
246 073 citoyens étrangers
ont été ciblés par la surveillance électronique relevant de la section 702 (chiffre
fourni par l’Intelligence Community. Voir page 5 du rapport).
Le rapport formule un ensemble de recommandations :
- Une réforme de la structure et de la culture du FBI s’impose, afin de mieux prendre en compte la vie privée et les libertés civiles dans la mise en œuvre de ses opérations.
- Le Congrès devrait codifier et étendre les protections garantissant que toutes les demandes d’information relevant de la section 702 soient limitées et appropriées
- Demande de modification de l’exercice du contrôle des activités des acteurs du renseignement par le Congrès
- Adopter de nouvelles mesures pour renforcer la protection des données des citoyens américains (contre les divulgations de données par exemple)
Appels à contributions pour les n° 2 et 3 de la revue "Etudes françaises de renseignement et de cyber".
William Marcellino, The Rise of Generative AI and the Coming Era of Social Media Manipulation 3.0, RAND Corporation, 42 pages, 2023.
La Chine est visée par ce rapport, dont le sous-titre est "Next-generation chinese astroturfing and coping with ubiquitous AI". "Using existing technology, U.S. adversaries could build digital infrastructure to manufacture realistic but inauthentic (fake) content that could fuel similarly realistic but inauthentic online human personae: accounts on Twitter, Reddit, or Facebook that seem real but are synthetic constructs, fueled by generative AI and advancing narratives that serve the interests of those governments." Mais si les adversaires des USA sont capables de toutes ces manipulations, les USA le sont tout autant. Ce que ne dira jamais le rapport, bien entendu. Si l'IA générative est une menace potentielle pour la sécurité nationale américaine, elle l'est aussi pour les adversaires de l'Amérique. Jeu à armes égales.
Vincent J. Carchidi, Should Strategists Worry About the Philosophy of Artificial Intelligence?, Military Strategy Magazine, Vol.9, issue 1, Summer 2023, pp.43-49.
" There is an unspoken assumption that the wet, fleshy stuff within human (or animal) skulls is unique but replicable, reproducible on silicon substrates. But what if it is not possible to replicate intelligence via artificial means? What if today's “narrow” AI is merely a series of engineering-based workarounds that function as band-aids on the fundamental problems of reproducing intelligence?"
USA - Bill to impose sanctions against certain persons engaged in the proliferationor use of foreign commercial spyware, and for other purposes. 118th Congress, 1st Session, H.R. 5522. Bill introduced by Mr Himes.
A lire: Lena Riecke, Unmasking the Term 'Dual Use' in EU Spyware Export Control, European Journal of International Law, Vol. XX No. XX, 1–23, Oxford University Press, 2023, https://doi.org/10.1093/ejil/chad039
Abstract: Spyware has been heralded as an essential tool for law enforcement and intelligence operations. However, examples abound of states that use it in a manner that violates human rights as well as undermines democracy and the rule of law. Against this backdrop, the European Union (EU) Dual-use Regulation was recast in 2021. It now makes an effort to control the export of cyber surveillance technologies, including spyware, which it defines as dual use. What narrative is created by framing spyware as ‘dual use’? This article illustrates how the term 'dual use' roots in a distinction between ‘peaceful’ and ‘non-peaceful’, or ‘civil’ and ‘military’ uses, and has gradually become associated with a broader dichotomy between ‘legitimate’ and ‘illegitimate’ purposes. Historically, this duality served not only to articulate the risks posed by certain technologies and indicate the rationale for their export control but also to justify their trade. Yet recourse by EU actors to dual use tilts the EU discourse on spyware export control towards state-centric security considerations and commercial interests over human rights. Unmasking how the term transposes a conceptually flawed, deceptive and empty duality to the spyware context, this article shows that the very concept of dual use may undermine human rights safeguards in spyware export control.
A lire: Bruce Klingner, North Korea’s CybercrimesPay for Weapons Programsand Undermine Sanctions, Report 3790, The Heritage Foundation, Asian Studies Center, Septembre 2023, 16 pages, USA.
