Veille Sécurité IA – N323

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 17 au 23 juin 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 17 au 23 juin 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

18 juin 2024. L’IA de défense, sujet d’une conférence de presse du ministère des armées – Modération de l’IA pour protéger les réseaux sociaux dans les recommandations d’un panel de citoyens européens à la Commission en matière de lutte contre la haine – Il semblerait bien que les LLM apprennent à mentir et à détourner leurs propres fonctions de récompense – Des newsletters pour suivre l’information …

IA au service de la sécurité … ou pas

• Le Journal de la défense – Intelligence artificielle : les armées accélèrent, le replay est en ligne sur la chaîne LCP

  • L’IA de défense, une réalité ! la conférence du ministère des Armées consacrée à l’utilisation opérationnelle de L’IA dans les armées françaises, en présence du ministre des Armées et de Bertrand Rondepierre, directeur de l’agence ministérielle pour l’IA de défense (AMIAD)

  • [Eurosatory] L’IA sur le champ de bataille, le communiqué de presse du ministère des armées

• IA et lutte contre la haine : les recommandations du panel de citoyens à la Commission européenne

• Les LLM peuvent apprendre à mentir et à détourner leurs propres fonctions de récompense sans qu’on leur apprenne explicitement à le faire d‘après un nouvel article d’Anthropic

• ChatGPT se transforme en hacker, voici comment

• Thales et le CEA signent un partenariat sur l’intelligence artificielle générative de confiance appliquée à la défense et à la sécurité, le communiqué de presse

  • En direct d’Eurosatory à 16h : conférence consacrée à l’utilisation opérationnelle de L’IA dans les armées françaises le 17 juin

• Boom des sites générés par l’IA : la nouvelle frontière des Fake News et l’importance d’un bon journalisme

• IA : Meta retarde le lancement de ses LLM dans l’UE

  • Meta suspend l’utilisation des données personnelles de ses utilisateurs européens

  • Meta fait marche arrière en Europe sur l’entraînement de ses IA (voir aussi la lettre de veille du 16 juin)

  • Pour aspirer massivement vos données, comment Meta a créé l’une des plus grandes infrastructures d’exploitation IA au monde, avec une croissance exponentielle

Interrogations / Perspectives / Prospectives

• Autonomie stratégique sur la GenAI : un rêve français impossible ?

• Apple : l’intégration de ChatGPT soulève des questions de concurrence et de confidentialité des données

• Pourquoi l’IA pourrait jouer un rôle essentiel dans l’espace

• Sam Altman pourrait mettre fin à la mission originelle d’OpenAI

  • Sam Altman aurait proposé qu’OpenAI passe au statut de société à but lucratif comme xAI et Anthropic tandis qu’il a renforcé le conseil d’administration de l’entreprise et intégré un ancien directeur de la NSA

• La NSA met la main sur ChatGPT (voir aussi la lettre de veille du 16 juin)

• Faut-il s’inquiéter des « hallucinations » des IA comme ChatGPT ou Gemini ? Accès abonnés LeMonde

Information

• Preligens, pionnier français de l’IA appliquée aux données géospatiales, passe sous le giron du groupe Safran

Santé

• Santé : l’intelligence artificielle, une alliée pour débusquer les cancers. Un sujet FranceInfo TV

• Révolutionner les soins de santé avec des assistants multilingues basés sur l’IA

Enseignement

• 7 newsletters à suivre pour tout comprendre sur l’IA

Entreprises – Économie – Business

• DSI et Métiers encore plus liés par l’IA Générative

• Les retombées des projets d’IA sont « lamentables », se plaignent les dirigeants alors que les retards et les problèmes de mise en œuvre remettent en cause les initiatives d’IA générative en 2024

20 juin 2024. Pour connaître les bons réflexes juridiques lors de l’utilisation de l’IA – Pour se protéger des deepfakes, une approche en deux temps selon un éditeur de sécurité – Pour l’appropriation de l’IA par les PME, demander, une étude de la CCI d’Île de France …

IA au service de la sécurité … ou pas

• IA générative et cybersécurité, un classique revisité

• Comment protéger les identités à l’ère des deepfakes ?

  • Les experts en cybersécurité de Kaspersky proposent une approche en deux temps pour se protéger des deepfakes

• Les bons réflexes juridiques à avoir pour travailler avec l’IA

• Quand les systèmes d’IA nous dupent : GPT-4 obtient un score de 54% au test de Turing

Interrogations / Perspectives / Prospectives

• L’IA nous rend encore plus dépendants des GAFAM, un entretien avec Ophélie COELHO sur le podcast « IA qu’à m’expliquer »

• Dans l’intelligence artificielle, la course aux modèles les plus performants pour rattraper OpenAI, accès abonnés LeMonde

• Régulation européenne de l’IA : la bataille se poursuit entre créateurs de contenu et entreprises de la tech, accès abonnés LeMonde

Information

• Faire évaluer son IA par un laboratoire

  • Évaluation des systèmes d’intelligence artificielle, la plateforme du Laboratoire National de Métrologie et d’Essais

• IA : comment la technologie intègre peu à peu nos vies personnelles et professionnelles, accès abonnés LeMonde

Enseignement

• Éducation : ChatGPT sème le chaos dans les lycées

• ChatGPT et les autres : recherche d’information et intelligence artificielle

• Au-delà de ChatGPT : recherche d’informations académiques et intelligence artificielle

Recherche, développement et application

• Un ancien chef d’OpenAI part combattre OpenAI

  • Le co-fondateur d’OpenAI, Ilya Sutskever, annonce une nouvelle startup pour s’attaquer à la superintelligence sûre (en)

• Les défis croissants du code généré par l’IA : le code généré par l’IA pourrait augmenter la charge de travail des développeurs et accroître les risques, selon Harness

Entreprise – Économie – Business

• Grâce à l’IA, la réinvention devient la stratégie par défaut des grandes organisations mondiales

• Leadership technologique : le rôle de l’IA dans la prise de décision

Événements – Livres / Rapports / Études …

• Comment accompagner les PME françaises dans l’appropriation de l’intelligence artificielle ?

  • IA et PME. Accompagner les PME françaises dans l’appropriation de l’intelligence artificielle, l’étude de la Chambre du Commerce et de l’Industrie d’Île-de-France

• L’IA ne va pas envahir le monde, le capitalisme de surveillance l’a déjà fait : les PDG de la Tech peinent à justifier leurs dépenses IA, sans gérer la protection des données d’après Privacy International

• BAROMÈTRE IA Générative : quels usages professionnels et personnels en France ?, le communiqué de presse Magellan Partners

23 juin 2024. Une IA pour contrer l’IA et détecter les deepfakes, le ComCyber communique – Des algorithmes pour jailbreaker des IA, ça ne se fait pas ! Pour une IA plus sûre, un ex d’OpenAI crée sa boîte…

IA au service de la sécurité … ou pas

• Les défis croissants du code généré par l’IA : le code généré par l’IA pourrait augmenter la charge de travail des développeurs et accroître les risques

• Désinformation : l’intelligence artificielle au service de la détection de deepfake, une IA pour contrer l’IA, le communiqué de presse du ComCyber

• LLM : comment les attaquants s’y prennent pour empoisonner et manipuler les données au sein des modèles d’IA générative ?

• Cybersécurité : l’IA, un vecteur de menaces de plus en plus sophistiquées et un outil indispensable pour se protéger

• IA : les professionnels de l’IT s’interrogent sur la qualité des données, la confidentialité et la sécurité

• Coût des données erronées : L’arbre qui cache la forêt de l’IA

• « Les drones vont tous attaquer » : Thales dévoile une plateforme pour automatiser les combats. Des plans d’attaques générés par IA

• Le Canada déploie dans les services gouvernementaux un robot « espion » qui rôde dans les bureaux et met mal à l’aise les fonctionnaires, ils dénoncent une forme de surveillance critique pour la vie privée

• Haize Labs utilise des algorithmes pour jailbreaker les principaux modèles d’IA (en)

• Controversé, l’index de transparence LLM de Stanford passe en v2

Interrogations / Perspectives / Prospectives

• 10 Bits : La liste critique de l’actualité des données du 15 au 21 juin (en)

• IA : « Des humains sont essentiels pour entraîner les systèmes », accès abonnés LeMonde

Information

• L’IA n’existe pas… son histoire, son présent, son éthique ! Un « billet d’humeur » de Françoise HALPER

• La France en tête du classement des pays d’Europe où les startups d’IA générative ont levé le plus de fonds avec 2,29 milliards de dollars, tandis que Londres compte le plus grand nombre de startups d’IA

Santé

• Le nouveau LLM médical, PathChat 2, peut parler aux pathologistes des tumeurs et proposer des diagnostics (en)

• Soins infirmiers basés sur l’IA : redéfinir les soins de santé à l’ère moderne

Enseignement

• Generated Pre-trained Transformer (GPT) : Qu’est-ce que c’est ? Comment ça marche ?

Recherche, développement et application

• Ilya Sutskever, cofondateur d’OpenAI, lance une start-up pour une IA plus sûre

  • Nouvelle aventure pour Ilya Sutskever avec le lancement de « Safe Superintelligence Inc » (voir aussi la lettre de veille du 20 juin)

• IA générative : la LF AI & Data met en garde contre « l’open washing »

• Anthropic lance Claude 3.5 Sonnet et affirme que le nouveau modèle est plus performant que GPT-4 Omni et présente également Artifacts, un espace de travail permettant l’édition des projets générés par l’IA

  • Pourquoi les artefacts d’Anthropic pourraient être la fonctionnalité IA la plus importante de cette année : dévoilement de la bataille d’interface (en)

Entreprise – Économie – Business

• Fiabilité de l’IA en entreprise : quels sont les enjeux ?

• Déficit de compétences : Comment y faire face grâce à l’IA ?

Événements – Livres / Rapports / Études …

• L’IA doit-elle poursuivre des objectifs politiques ou sociaux ? Une conférence d’Isabelle GALY, proposée par l’Institut Fredrik BULL le 25juin en mode mixte