Veille Sécurité IA – N320

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 27 mai au 2 juin 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 27 mai au 2 juin 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

28 mai 2024. Windows recall se rappelle de tout ce que fait son utilisateur, vous voyez tout de suite le problème, non ? Une initiative française pour contrer les biais de l’IA et renforcer la participation citoyenne, ce sont les communs démocratiques – Au sommet de Séoul, responsabilité et transparence à l’ordre du jour …

IA au service de la sécurité … ou pas

• La sécurité des LLM sur la sellette

• Que reproche-t-on à Google AI Overviews ? L’IA qui invente des réponses

  • L’IA de Google Search traite le site Web satirique The Onion comme une véritable source et l’exploite sans cesse pour générer ses résumés, ce qui donne lieu à des réponses erronées et parfois dangereuses

• Les efforts déployés par OpenAI pour réduire la quantité de données erronées produites par ChatGPT ne suffisent pas à garantir une conformité totale avec les règles de l’UE en matière de données

  • Le rapport sur les travaux entrepris par la Taskforce ChatGPT du Comité européen de la protection des données (EDPB) (en)

• Microsoft beaucoup trop intrusif avec Windows Recall

  • Microsoft fait l’objet d’une enquête sur la nouvelle fonction d’intelligence artificielle dénommée Recall, les experts en sécurité y voient un œil ouvert sur la vie privée et un potentiel infostealer

• Phishing boosté par l’IA : des simples arnaques au phishing intelligent, que nous réserve l’avenir ?

• L’IA ouvre de nouvelles possibilités de surveillance, accès abonnés LeMonde

Interrogations / Perspectives / Prospectives

• Le Conseil de l’Europe pose les jalons d’une IA éthique et responsable (voir aussi la lettre de veille du 21 mai)

• Communs démocratiques : une initiative française pour contrer les biais de l’IA et renforcer la participation citoyenne

• L’intelligence artificielle générative : l’union européenne relaie le droit d’auteur au rang des exceptions, une analyse juridique

• Voix volées : des artistes s’insurgent contre le clonage vocal sans consentement

• ChatGPT va s’enrichir des articles du Wall Street Journal

• 10 Bits : La liste critique de l’actualité des données du 18 au 24 mai (en)

Information

• Vers une gestion responsable de l’IA : les avancées du AI Summit Séoul

  • AI Safety Summit de Séoul : un pas historique vers la responsabilité et la transparence?

• Comment l’Oncle Sam s’en sort-il avec l’ordre exécutif de Biden en matière d’IA ? Plutôt bien, on nous dit (en)

• HEC et l’Institut Polytechnique remportent l’appel à projets Cluster IA

• Accenture renforce sa présence en France avec deux centres dédiés à l’IA générative

Recherche, développement et application

• Futur de ChatGPT : OpenAI dévoile l’avenir de son IA générative à Paris

• GPT-5 arrive bientôt : OpenAI entraîne un « modèle de nouvelle génération »

• Administration réseau : il est trop tôt pour l’IA

Entreprises – Économie – Business

• Les entreprises organisent leur IA, une émission « Grand Théma » LeMondeInformatique

  • La vidéo de l’émission …

• Les entreprises françaises très prudentes sur l’IA générative dans la finance (étude)

• Surmonter les défis pour exploiter le potentiel des agents basés sur l’IA

Événements – Livres / Rapports / Études …

• Le JT de la DGA : spécial intelligence artificielle depuis le salon VivaTech, un entretien avec Bertrand Rondepierre, directeur de l’Agence ministérielle de l’intelligence artificielle de la défense

• Le magazine « Cultur’IA » N.20 de la Gendarmerie est en ligne

  • Le post de Commandement du ministère de l’Intérieur dans le cyberespace sur LinkedIn

• Rapport scientifique international sur la sécurité de l’intelligence artificielle avancée : un rapport actualisé et fondé sur des données probantes concernant la sécurité de l’IA avancée

  • Rapport scientifique international sur la sécurité de l’IA avancée (en)

• Que pense le public américain de l’IA ? (en)

  • Les Américains sont divisés sur la question de savoir si l’IA améliorera ou empirera les choses, selon une nouvelle enquête (en)

30 mai 2024. Guillaume POUPARD nous parle de cybersécurité à l’heure de l’IA, en anglais, s’il vous plaît – L’UE crée un bureau de l’IA chargé de réguler ces technologies – OpenAI crée un comité de sûreté et de sécurité qui sera dirigé par des membres du conseil d’administration …

IA au service de la sécurité … ou pas

• What Is the Right Cybersecurity Strategy in the Age of AI ? Vidéo d’une intervention de Guillaume POUPARD. A son message de publication sur LinkedIn, il annexe …

  • Les Recommandations de sécurité pour un système d’IA générative de l’ANSSI

  • Générative A.I. regulation and cybersecurity – a global view of policymaking, une étude d’Aspen Digital

• IA générative et cybersécurité : Entre promesses et prudence

• L’intelligence artificielle, une technologie disruptive qui perturbe les experts en cyber-sécurité

• Les entreprises de la tech s’accordent sur la mise en place d’un « interrupteur d’arrêt » de l’IA pour éviter les risques du type Terminator. Elles s’engagent à ne pas dépasser les limites, mais lesquelles ?

• Les fonctions IA d’Apple seraient traitées par une « boîte noire » pour protéger les données des utilisateurs

• Microsoft RECALL : Une IA qui analyse l’usage que vous avez de votre ordinateur (voir aussi la lettre de veille du 28 mai)

Interrogations / Perspectives / Prospectives

• Intelligence artificielle : la France en pointe ? Vidéo de l’audition d’Arthur MENSCH de Mistral AI par la Commission des affaires économiques du Sénat

  • Un commentaire de cette audition par Pascal ALIX sur LinkedIn

• « Rééduquer » l’IA pour la rendre conforme à la démocratie, une interview d’Axel DAUCHEZ pour présenter le projet « Communs démocratiques » bâti par le collectif Make.org en partenariat avec Science-Po et le CNRS notamment

  • Ensemble, nous avons le pouvoir d’améliorer la société, le site Make.org (voir aussi la lettre de veille du 28 mai)

• Pourquoi Elon Musk s’attaque à Yann le Cun, le breton en charge de l’IA de Facebook dans la chronique d’Anthony MOREL sur BFM Tv

  • Yann Le Cun, l’homme qui a décidé de détruire méticuleusement Elon Musk

  • Intelligence artificielle : « La riposte contre l’hégémonie actuelle d’OpenAI, dont Elon Musk était l’un des fondateurs, se met en place », accès abonnés LeMonde

Information

• L’UE crée un bureau de l’IA chargé de réguler ces technologies

  • La Commission crée un bureau de l’IA afin de renforcer le rôle moteur de l’UE en matière d’intelligence artificielle sûre et digne de confiance ; le communiqué de presse

• David Salvagnini promu Directeur de l’intelligence artificielle à la NASA

• « “ChatXiPT”, l’intelligence artificielle chinoise qui reflète la pensée de Xi Jinping », accès abonnés LeMonde

Recherche, développement et application

• OpenAI a créé un comité de sûreté et de sécurité qui sera dirigé par des membres du conseil d’administration, dont le PDG Sam Altman alors qu’elle commence à former son prochain modèle d’IA

• OpenAI confirme la sortie imminente de ChatGPT 5 et promet un nouveau « niveau de capacités »

• ChatGPT est devenu plus intelligent : la version gratuite passe à GPT-4o

Entreprise – Économie – Business

• Les salariés français demandent à être formés à l’IA

  • Ce que veulent les candidats, l’enquête Robert Half

Événements – Livres / Rapports / Études …

• Intelligence artificielle: l’UE doit passer à la vitesse supérieure

  • L’UE face au défi de l’intelligence artificielle – Pas de progrès possibles sans une gouvernance renforcée et sans investissements plus importants et mieux ciblés, la présentation du rapport

  • Le rapport de la Cour des comptes européennes

• Infléchir la courbe des biais d’automatisation : une étude de la prise de décision humaine basée sur l’IA dans des contextes de sécurité nationale, une étude publiée par l’académie d’Oxford(en)

2 juin 2024. ChatGPT utilisé pour des opérations d’influence d’opinion, OpenAI l’explique – Un ChatGPT sans limite, un hacker l’a fait …

IA au service de la sécurité … ou pas

• Viva Technology : les innovations à découvrir sur le stand du ministère des Armées

• OpenAI décrypte comment ChatGPT est utilisé pour des opérations d’influence d’opinion

  • ChatGPT est nul pour les opérations d’influence, selon OpenAI

  • OpenAI est très satisfaite d’avoir déjoué cinq opérations secrètes d’influence de l’IA inefficaces (en)

  • Perturber les utilisations trompeuses de l’IA dans le cadre d’opérations d’influence secrètes (en)

• Le nouveau ChatGPT génère de la désinformation et de la haine sur demande, une information Radio-Canada

• Un hacker dévoile une version « jailbreakée » de ChatGPT, accessible à tous

• Plus d’un tiers des tentatives de fraude ciblant les institutions financières utilisent désormais l’IA (en)

Interrogations / Perspectives / Prospectives

• L’UE se dote d’un bureau d’experts pour encadrer l’intelligence artificielle, une première

  • AI Act : la Commission Européenne met en place son régulateur

  • Un « Bureau de l’IA » en Europe pour veiller sur le Futur de l’intelligence artificielle et sa régulation … un post de Françoise HALPER sur LinkedIn (voir aussi la lettre de veille du 30 mai)

• Entretien avec Shoshana Zuboff : les mutations du capitalisme de surveillance à l’ère de l’IA dans « Le meilleur des mondes » de François SALTIEL sur France culture le 31 mai

  • L’IA pour démultiplier le capitalisme de surveillance … le post de Philippe WERLE sur LinkedIn

• L’Odysée éthique de l’humanité digitale

• Les acteurs de l’IA suscitent la défiance du grand public

Informations

• Texte définitif du règlement IA en français avec table des matières interactive

• OpenAI instaure un Comité de sûreté et de sécurité et confirme l’entraînement d’un nouveau modèle de frontière

• 10 Bits : La liste critique de l’actualité des données du 25 au 31 mai (en)

• Arrêtons nous un instant sur la chaire « IA et Sécurité » … un post de Patrick PERROT sur LinkedIn

Santé

• IA en santé : l’Entrepôt de données de santé de l’AP-HP confirme sa démarche open source pour la recherche sur les données de santé

Enseignement

• 5 raisons de suivre la formation « ChatGPT et IA : mode d’emploi pour managers et RH », une formation en ligne ouverte à tous proposée par le CNAM

• « L’explosion de l’intelligence artificielle a été beaucoup plus rapide que le temps universitaire », accès abonnés LeMonde

Recherche, développement et application

• 10 façons dont l’IA bouleverse les bases de données traditionnelles

• « Ajoutez de la colle sur vos pizzas » : Google tente de stopper ses suggestions délirantes

  • AI Overviews : Google s’explique après les réponses absurdes apparues sur son moteur de recherche

Entreprise – Économie – Business

• « L’IA générative est un outil de compétitivité. Les chefs d’entreprise l’ont bien compris… », vidéo d’une interview de Laurent Daudet de la Sté LightOn dans « L’invité de la semaine » d’InformatiqueNews

• Les jeunes entreprises canadiennes en cybersécurité assurent l’avenir grâce à l’IA