Veille Sécurité IA – N305

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 12 au 18 février 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 12 au 18 février 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

13 février 2024. Des agents conversationnels malveillants pour faciliter le piratage – Les électeurs américains, pas seulement les électeurs américains, soumis au risque de manipulation avec l’avènement de l’IA – L’autorité de la concurrence lance une consultation sur l’IA générative …

IA au service de la sécurité … ou pas

• Les cybercriminels créent leurs propres chatbots d’IA pour faciliter le piratage et l’escroquerie des utilisateurs sur Atlantico sous condition de communiquer une adresse de messagerie

• Vulnérabilités dans les générateurs de code d’IA : exploration des attaques ciblées d’empoisonnement des données, une étude de chercheurs italiens (en) et d’autres sur le site arXiv

• Le métro de Londres teste des outils de surveillance IA en temps réel pour détecter les délits, des erreurs pouvant entraîner des conséquences importantes suscitent des interrogations

• Sécurité de l’IA générative : comment empêcher l’exposition aux données de Microsoft Copilot

Interrogations / Perspectives / Prospectives

• L’impact économique et social de l’IA, une conversation avec Martin Tisné, Anu Bradford, Anne Bouverot, Gabriela Ramos, Marc Faddoul et Brando Benifei dans le cadre de la première édition du Sommet Grand Continent fin décembre 2023, vidéo et transcription

• Présidentielle américaine 2024 : l’IA peut-elle influencer l’élection ?

• IA générique et générative : une bombe à retardement pour les cadres dirigeants ?

• Après l’accord de l’UE sur l’AI Act, Amnesty International partage ses craintes

• 10 Bits : La liste critique de l’actualité des données du 3 au 9 février (en)

Information

• Ordinateurs : comme les Mac, les PC avec une puce dédiée à l’intelligence artificielle arrivent dans le commerce sur FranceInfo radio dans la chronique « Aujourd’hui c’est demain » d’Anicet MBIDA

• Sam Altman et la géopolitique des puces IA à 7 000 milliards de dollars (en)

Santé

• Les freins qui se posent à l’intégration de l’IA dans la pratique médicale

Recherche, développement et application

• Peut-on apprendre à désapprendre un LLM ?

• LLaMandement, le LLM open source du gouvernement français

Enseignement

• Meta, Simplon et le collectif Impact AI s’associent pour former 30 000 français à l’IA générative

  • Initier 30.000 Français à l’IAGen : l’ambition de Meta et Simplon

Économie – Business

• Capgemini déploiera les modèles de Mistral AI

• Comment l’IA et la blockchain transforment la supply chain

Événements – Livres / Rapports / Études …

• Les prix Impact TIME100 2024 récompensent quatre leaders de l’IA

• L’Autorité de la Concurrence lance une consultation publique sur l’IA générative

15 février 2024. Des hackers russes, chinois et nord-coréens utilisent l’IA générative, un rapport MicroSoft – L’intelligence artificielle fait peser une menace d’ingénierie augmentée sur les entreprises – ChatGPT va se souvenir désormais, ce n’est pas sans conséquence en matière de cybersécurité …

IA au service de la sécurité … ou pas

• ChatGPT : des hackers russes, chinois et nord-coréens se servent du chatbot IA, alerte Microsoft. Opération détournement de ChatGPT

  • La Chine, la Russie, l’Iran et la Corée du Nord utilisent ChatGPT comme une arme

  • Des cyberattaques utilisent déjà l’IA générative, prévient Microsof

  • Garder une longueur d’avance sur les acteurs menaçants à l’ère de l’IA, le rapport publié par MicroSoft en collaboration avec OpenAI (en)

• L’entreprise face à l’ingénierie sociale augmentée par l’IA

• Les géants de la tech transforment la guerre en Ukraine en laboratoire d’IA à ciel ouvert

• Comment les chatbots ont été gangrenés par l’industrie du crime organisé, accès abonnés LeMonde

• Comment l’IA renforce XDR pour consolider les piles technologiques (en)

• ChatGPT se dote d’une mémoire permanente : ce qui change

  • Mémoire et nouveaux contrôles pour ChatGPT, le message OpenAi (en)

  • ChatGPT se souviendra de vos conversations (si vous le souhaitez)

  • OpenAI ajoute une mémoire persistante à ChatGPT. Quelles implications en cybersécurité ? … un post de Gérôme BILLOIS sur LinkedIn

• Nous sommes à un moment charnière pour l’IA et la cybersécurité (en)

• Intelligences artificielles, les mille et une façons de les faire dérailler, accès abonnés LeMonde

Informations

• IA act Europe : équilibrer innovation et réglementation, ChatGPT au cœur de la nouvelle régulation, une synthèse juridique

• Indonésie : l’intelligence artificielle s’invite dans la campagne présidentielle

Enseignement

• IA, machine learning, deep learning, IA générative : quelles différences ?

• Intelligences artificielles et esprit critique, entre menaces et leviers

Recherche, développement et application

• Le développement « low-code » et « no-code » fait peau neuve alors que les priorités se tournent vers l’IA

• SliceGPT : une nouvelle méthode de compression des LLMs efficace

Économie – Business

• Capgemini et Mistral AI s’associent pour accélérer le déploiement de la GenAI (voir aussi la lettre de veille du 13 février)

• Quelle est la stratégie d’IA générative d’Apple ? (en)

• Cloud : la fièvre de l’IA profite à Microsoft, qui rattrape peu à peu Amazon

  • Et si AWS perdait son leadership du cloud en 2026 à cause de l’IA ?

• Se réinventer grâce à l’IA en redéfinissant les modèles d’affaires, les expériences clients, et les opérations internes

Événements – Livres / Rapports / Études …

• Intelligence artificielle et protection des données : présentation d’un rapport d’information parlementaire

  • Commission des lois : les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré, la vidéo de l’audition des rapporteurs du rapport …

  • … le rapport d’information

  • Intelligence artificielle : des députés proposent de faire de la CNIL l’autorité régulatrice

• « Intelligence artificielle, intelligence du futur  » le cycle de conférences de Mines Paris Alumni et Addendum

• Google inaugure ce jeudi un hub dédié à l’intelligence artificielle à Paris

  • L’IA enflamme Paris : Découvrez le hub révolutionnaire de Google!

• Les garde-fous des IA génératives ne servent pas à grand-chose, accès abonnés LaTribune

  • L’Approche de l’AI Safety Institute en matière d’évaluations ; l’AISI, une organisation britannique institutionnelle (en)

18 février 2024. Un « accord technologique » entre grandes entreprises pour lutter contre les contenus trompeurs – ChatGPT utilisé par les cyberattaquants, de nouvelles publications – Des cours gratuits sur l’IA proposés par Google…

IA au service de la sécurité … ou pas

• À quoi pourrait ressembler l’utilisation de la sécurité pour réguler les puces IA, des idées sur la manière de réglementer l’utilisation des puces et matériels d’IA proposée par des chercheurs universitaires et d’Open AI (en)

• Les grandes entreprises technologiques développent un « accord technologique » pour lutter contre les deepfakes de l’IA (en)

  • IA et élections : les géants de la tech s’engagent pour mieux débusquer les contenus trompeurs

  • Les géants du numérique signent un accord contre l’utilisation trompeuse de l’IA dans le cadre d’élections

  • OpenAI, Meta et d’autres géants de la technologie s’engagent pour lutter contre l’ingérence électorale de l’IA (en)

• Alphabet : Google renforce encore la cybersécurité avec l’IA

  • Google lance une série d’initiatives d’IA pour améliorer la cybersécurité (en)

  • La nouvelle sécurité « magique » de Gmail utilise l’IA et est désormais disponible, selon Google (en)

• ChatGPT est utilisé par des cyberattaquants : OpenAI et Microsoft alertent

  • Cybersécurité : comment les « hackers d’Etat » utilisent les outils d’OpenAI

  • Microsoft et OpenAI aux prises avec des attaques d’IA de très haut niveau

  • Microsoft et OpenAI : les États-nations utilisent l’IA comme arme dans les cyberattaques (en)

  • LLM : Microsoft et OpenAI alertent de leur utilisation abusive par les pirates (voir aussi la lettre de veille du 15 février)

• Émirats arabes unis : des hackers pro-Iran ont diffusé un faux journal généré par IA

• Voyez pourquoi ChatGPT mémorise vos requêtes et recherches

• Protéger la vie privée des systèmes d’IA : l’ambition du projet iPoP, piloté par l’INRIA, le projet iPoP (Interdisciplinary Project on Privacy)

• Privacy by Design : Un levier concurrentiel et stratégique pour XXII, une entreprise américaine spécialiste de l’implémentation de l’intelligence artificielle dans les flux vidéos

• Gemini de Google : avancées et questions de vie privée

Interrogations / Perspectives / Prospectives

• « L’intelligence artificielle : une difficile conciliation entre régulation et innovation », une parole d’expert du CyberCercle, celle de Mireille CLAPOT, Présidente de la Commission Supérieure du Numérique et des Postes

• L’intelligence artificielle, une nouvelle arme du pouvoir ? Une analyse de Solange GHERNAOUTI

• Et l’IA pourrait se substituer à TOUS les emplois d’ici l’année… 2050 ? sur Atlantico sous réserve d’abonnement à sa lettre

Informations

• Allemagne : Microsoft investira 2 milliards d’euros dans l’IA d’ici 2025

Enseignement

• Google dédie une enveloppe de 25 millions d’euros à la formation des européens à l’IA

• Google lance des cours gratuits sur l’IA générative

  • Introduction à l’IA générative

  • Introduction aux grands modèles linguistiques

  • Les Principes fondamentaux de l’IA générative

  • Introduction à Gen AI Studio

  • Introduction à la génération d’images

  • Introduction à l’IA responsable

  • IA responsable : application des principes de l’IA avec Google Cloud

  • Série d’ateliers à la demande (en)

Recherche, développement et application

• Créer une vidéo à partir de texte, Sora, un nouveau modèle d’IA OpenAI capable de créer des vidéos à partir d’instructions textuelles. Le site propose le rapport technique de cet outil

  • OpenAI lance Sora, une IA qui crée des vidéos bluffantes avec du texte. Bluffant ou … flippant ?

  • Comment essayer Sora (OpenAI), l’intelligence artificielle qui fabrique des vidéos ? Un lancement contrôlé

  • Toutes les vidéos dans cet article ont été générées par Sora. Par Sam Altman en personne

• Google présente son nouveau modèle d’IA, Gemini 1.5

Événements – Livres / Rapports / Études …

• Comprendre l’IA moderne: Et si c’était un jeu d’enfant ? Par l’Institut Frederik R.Bull en la personne de son président, Jean ROHMER, le 27 février. En distanciel, l’inscription est ici …

• Intelligence artificielle et [in]sécurité à l’ordre du jour de la conférence annuelle de l’OSSIR le 12 mars en mode mixte