Veille Sécurité IA – N317

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 6 au 12 mai 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 6 au 12 mai 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

7 mai 2024. Sécuriser les IA génératives, les conseils de l’ANSSI – L’OCDE annonce une mise à jour de ses principes sur l’IA – Les recommandations de la CNIL en matière d’IA dans le domaine de la santé, de premiers exemples …

IA au service de la sécurité … ou pas

• Comment sécuriser son IA générative : les conseils de l’ANSSI (voir aussi la lettre de veille du 29 avril)

• L’intelligence artificielle (IA), entre menaces et opportunités, une information Cybermalveillance.gouv.fr

• IA et Privacy : les entreprises doivent se tenir prêtes

• IA et arsenal nucléaire : un responsable américain exhorte la Chine et la Russie à déclarer que l’IA ne contrôlera pas les armes nucléaires. Un consensus international est-il possible ?

• L’Impact transformateur de l’IA dans la cybersécurité

• Vidéosurveillance algorithmique : premières expérimentations et premières critiques

  • Les expérimentations de la SNCF avec la vidéosurveillance algorithmique ne passent pas (voir aussi la lettre de veille du 5 mai)

• Un Britannique génère plus de 1000 images pédopornographiques avec l’IA… et s’en voit interdire l’usage

Interrogations / Perspectives / Prospectives

• Des IA « garde-fous » pour protéger l’Humanité, une interview du chercheur Yoshua Bengio, un podcast Le Monde Numérique

• Sécuriser la prochaine frontière de l’innovation en matière d’IA

• « IA Washing » ou le retour redouté du Turc mécanique ? La chronique de Nicolas ARPAGIAN reprise sur LinkedIn

Information

• L’OCDE annonce une mise à jour de ses Principes sur l’IA

  • IA générative : un cadre international à nouveau évoqué par le Japon

  • Face aux évolutions technologiques rapides, l’OCDE met à jour les Principes sur l’IA, le communiqué de presse

    • Recommandation du Conseil sur l’intelligence artificielle (en)

• Cybersécurité et IA pour renforcer la cybersécurité des PME et collectivités d’Île de France, le programme CYBIAH piloté par le Campus Cyber à découvrir

  • Dans sa proposition, CYBIAH prévoit une série d’ateliers à l’attention des PME d’Île de France , le premier, le 28 mai prochain

Santé

• Premières recommandations de la CNIL en matière d’IA : quels exemples appliqués au secteur de la santé ?

• Un livre blanc sur l’usage de l’IA dans les essais cliniques

  • Données de santé artificielles : une nouvelle ère pour les essais cliniques

Enseignement

• Tricherie et intelligence artificielle. L’éléphant dans la salle de cours

Recherche, développement et application

• Microsoft prépare un nouveau modèle d’IA pour concurrencer Google et OpenAI. MAI-1 est décrit comme étant « bien plus grand » que les précédents modèles open source de Microsoft

Entreprise – Économie – Business

• Cybersécurité et IA pour renforcer la cybersécurité des PME et collectivités d’Île de France, le programme CYBIAH piloté par le Campus Cyber à découvrir

• L’innovation, et non la réglementation, protégera les entreprises des deepfakes (en

• Comment préparer votre personnel à penser comme des professionnels de l’IA

• Intégration de l’IA dans le Retail et les CPG : un potentiel sous-estimé selon une étude de RELEX Solutions

Événements – Livres / Rapports / Études …

• Matinale IA et Transition Ecologique, une Matinale proposée par le Hub France IA le 14 mai

• Gen AI : les Français mitigés entre enthousiasme et inquiétude selon un rapport du Boston Consulting Group

9 mai 2024. Le NIST propose son cadre de gestion des risques en matière d’IA – Les autorités chinoises et françaises publient une déclaration conjointe sur l’intelligence artificielle – Quelque diagrammes pour comprendre l’IA, pas sûr que ça suffise …

IA au service de la sécurité … ou pas

• Cyber Sphère : David Ofer – L’intelligence Artificielle et la Cyber, une interview du Président de la Fédération Française de la Cybersécurité proposée par le podcast Cyber Sphère du Club Cyber de l’AEGE

• Utiliser l’IA pour mieux faire de la cyber ? C’est possible ! Découvrez les travaux en cours côté Google DeepMind, un post de Gérôme BILLOIS sur LinkedIn

• OpenAI dévoile « Model Spec » pour explorer le comportement idéal de l’IA. Une tentative d’établir des règles que ses chatbots IA devraient suivre, et des principes par défaut qui devraient être préservés

• OpenAI a supprimé deux jeux de données utilisés pour entraîner illégalement GPT-3, ils contenaient des milliers de livres sous copyright et les employés qui avaient collecté ces données ont disparu

• Renseignement : Le français Preligens dévoile une nouvelle solution d’IA pour l’imagerie satellitaire radar

• Avec « Threat Intelligence », Google met l’IA au service de la cybersécurité

• Microsoft lance un chatbot d’IA pour les espions, un modèle d’IA générative basé sur GPT-4 conçu spécifiquement pour les agences de renseignement américaines qui opère déconnecté d’internet

• Suisse. Doublement des annonces de cyberincidents et augmentation des tentatives de fraude recourant à l’IA notifiées à l’OFCS, l’Office fédéral de la cybersécurité

• Les annonces de cyberincidents ont doublé à fin 2023

• Des chiens-robots armés de fusils sont en cours de tests par des opérateurs spéciaux des Marines dans un contexte de protestations contre l’utilisation de l’IA à des fins militaires

• Failles / vulnérabilités. Le NIST propose son cadre de gestion des risques de l’AI

Interrogations / Perspectives / Prospectives

• L’Europe peut-elle être une puissance de l’IA Générative ? Comprendre la chaîne de valeur de l’IA générative, le post de Françoise HALPER sur LinkedIn

• A quoi ressemble la chaîne de valeur de l’IA générative en Europe ?

  • Des puces aux applications, l’Europe peut-elle être une puissance de l’IA générative ? L’étude de France Digitale

Information

• Déclaration conjointe entre la République française et la République populaire de Chine sur l’intelligence artificielle et la gouvernance des enjeux globaux

  • L’analyse de Yannick Meneceur sur LinkedIn

Santé

• L’Intelligence Artificielle et les chatbots : un atout dans la relation patient-soignant

• L’IA médicale de Google pulvérise les modèles GPT d’OpenAI et surpasse les médecins

  • Google a créé une IA docteur, et elle va envoyer votre médecin chez France Travail

Enseignement

• Cinq diagrammes pour comprendre l’IA (en)

Recherche, développement et application

• Granite : IBM lance son pavé dans la mare des modèles de langage pour la génération de code

Entreprise – Économie – Business

• Les salariés veulent l’IA au travail et n’attendront pas que les entreprises les rattrapent, car pour eux l’IA place la barre plus haut et brise leur plafond de carrière d‘après Microsoft

12 mai 2024. Les intelligences artificielle sont capables de mentir, les scientifiques alertent – Les LLM hébergés dans le cloud exposés aux failles … rien de plus normal, non ? – MicroSoft développe une IA pour les services secrets, mais, chut, c’est secret ! …

IA au service de la sécurité … ou pas

• La résilience des IA, un enjeu clé pour les systèmes critiques des entreprises

• L’IA, rempart contre les cybermenaces : Les organisations ne peuvent plus attendre !

• « Non, je ne suis pas un robot » : alerte, l’intelligence artificielle a déjà développé une capacité de tromperie

  • L’IA me ment-elle ? Les scientifiques mettent en garde contre une capacité croissante de tromperie (en)

  • Tromperie de l’IA : une étude d’exemples, de risques et de solutions potentielles, l’article paru dans le journal Pattern (en)

• Des pirates ciblent les accès aux LLM dans le cloud

  • Des chercheurs découvrent un système de « LLMjacking » ciblant les modèles d’IA hébergés dans le cloud (en)

  • LLMjacking : informations d’identification cloud volées utilisées dans une nouvelle attaque d’IA, l’analyse de ce type d’attaque par l’équipe de Sysdig (en)

• Comment assurer la sécurisation des modèles d’IA ?

• IA générative et Deepfakes : OpenAI présente des outils pour détecter « la provenance et l’authenticité de contenus, le post de Françoise HALPER sur LinkedIn, une synthèse de l’article OpenAI …

  • Comprendre la source de ce que nous voyons et entendons en ligne (en)

• Cisco réinvente la cybersécurité au RSAC 2024 avec l’IA et la visibilité au niveau du noyau (en)

• Microsoft déploie une mystérieuse IA pour les services secrets (voir aussi la lettre de veille du 9 mai)

Interrogations / Perspectives / Prospectives

• IA : Cinq principes pour une approche responsable

• 10 Bits : La liste critique de l’actualité des données du 4 au 10 mai (en)

Information

• Les USA envisagent de restreindre l’accès de la Chine aux logiciels d’IA à l’origine d’applications telles que ChatGPT. Une initiative pour limiter l’exportation de modèles d’IA propriétaires ou à source fermée

Recherche, développement et application

• IBM publie les modèles code de son IA Granite en open-source, afin de résoudre les problèmes des développeurs pour livrer des logiciels fiables. Ce modèle serait plus performant que Llama 3, selon IBM

• Le moteur de recherche boosté par ChatGPT est imminent. Google vs . OpenAI, mais …

  • Sam Altman dément les rumeurs sur le moteur de recherche OpenAI (en)

• Microsoft explique en détail comment elle développe l’IA de manière responsable dans son premier rapport de transparence évoquant les difficultés rencontrées et parlant des améliorations en cours

Entreprise – Économie – Business

• L’intersection critique entre l’IA et la gestion des identités (en)

• L’IA au service de l’excellence opérationnelle

• Après la cybersécurité, les décideurs attendent beaucoup de l’IA pour la conformité et le recrutement, mais en même temps …

• Ressources Humaines et IA : adoption timide mais réelle défiance

  • Plus de trois-quarts de responsables RH doutent de la pertinence de l’IA

  • L’Intelligence artificielle en RH : entre défiance et promesses de transformation, l’information de Kelio à l’origine de l’enquête

Événements – Livres / Rapports / Études …

• L’intelligence artificielle profite plus aux cybercriminels qu’aux banques