Veille Sécurité IA – N307

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 26 février au 3 mars 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 26 février au 3 mars 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

27 février 2024. MicroSoft et ses 11 commandements éthiques, leur décryptage – MicroSoft toujours, Microsoft publie un outil d’évaluation des risques dans ses IA génératives – Le premier « ChatGPT » à la française est lancé, Mistral lance Le Chat …

IA au service de la sécurité … ou pas

• Comment y voir clair entre les arguments en faveur et contre l’adoption de l’IA : leçons des équipes informatiques pour mieux exploiter l’IA

• L’intelligence artificielle, source de nouvelles cybermenaces ?

• Les 11 commandements d’éthique IA selon Microsoft détaillés

• Microsoft publie son outil interne de test de sécu d’IA générative

• L’impact l’IA et du machine learning sur la gestion de l’information

• Les secteurs bancaire et financier sont les pionniers de l’adoption de l’IA et du ML dans la lutte contre la fraude

• L’hallucination est inévitable et serait une limitation innée des grands modèles de langage en intelligence artificielle selon une étude sur la possibilité d’éliminer les hallucinations des LLM

• Le délire soudain de ChatGPT enfin diagnostiqué (voir aussi les lettres de veille du 22 et du 25 février)

• Comment reconnaître les images et vidéos générées par l’intelligence artificielle (en)

• Les 5 meilleurs outils et techniques de détection de Deepfake (février 2024) (en)

Interrogations / Perspectives / Prospectives

• L’éthique au cœur de l’intelligence artificielle : un impératif pour notre société en évolution

• Pourquoi l’intelligence artificielle générale va au-delà du deep learning (en)

Enseignement

• Qu’est-ce que l’apprentissage profond ? Voici tout ce qu’il faut en savoir

• Maîtriser l’IA sans compétences techniques ? Pourquoi ces systèmes complexes exigent plusieurs formations

Recherche, développement et application

• Mistral lance Le Chat, le premier ChatGPT français

  • Mistral AI dévoile Mistral Large et lance « Le Chat », un assistant conversationnel

  • « Le Chat » : un ChatGPT français « porteur d’une culture européenne », selon Arthur Mensch, co-fondateur de Mistral AI dans « L’invité éco » sur FranceInfo radio

• Pour mieux rivaliser avec OpenAI, Mistral s’associe à…Microsoft

  • Mistral Large, Chat et partenariat avec Microsoft : Mistral AI sur les talons d’OpenAI

• Gemini, Gemma : comment Google a rattrapé son retard dans l’IA générative

• Intel lance « Intel Foundry » pour l’ère de l’IA

  • La stratégie chaotique de Google en matière d’IA laisse les utilisateurs perplexes (en)

Économie – Business – Entreprises

• IA : où en sont les pros du marketing ?

• L’IA séduit de plus en plus les directions financières dont le rôle stratégique s’accentue

• Pourquoi l’IA doit faire partie de votre entreprise (en)

Événements – Livres / Rapports / Études …

• IA générative : comment la vision du CIGREF s’affine

  • L’IA en entreprise : retours d’expérience et bonnes pratiques, la note d’information du CIGREF

• L’IA devrait conduire à des avancées technologiques majeures en 2024, selon une étude de l’IEEE (en)

  • L’impact de la technologie en 2024 et au-delà : une étude mondiale de l’IEEE (en)

• 88 % des professionnels de la cybersécurité estiment que l’IA aura un impact significatif sur leur travail, aujourd’hui ou dans un avenir proche selon une enquête de l’ISC2

  • L’impact réel de l’IA sur les professionnels de la cybersécurité (en)

• Gartner identifie les principales tendances en matière de cybersécurité pour 2024 : Les responsables de la sécurité doivent se préparer à l’évolution rapide de la GenAI

29 février 2024. Des « robots tueurs » équipés d’IA, c’est le futur de la guerre ? Mais, mais … la startup Mistral est-elle bien française ? Les développeurs sont-ils une espèce en voie de disparition ? la réponse est « oui » pour le patron de Nvidia …

IA au service de la sécurité … ou pas

• Des « robots tueurs » équipés d’IA constitueraient l’avenir de la guerre, ces systèmes d’armes étant capables de prendre des décisions de manière autonome, sans supervision humaine

• Le Forum sur l’information et la démocratie propose de taxer l’IA pour financer la sécurité de l’information, accès abonnés Next

  • L’IA comme bien public : garantir un contrôle démocratique de l’IA dans l’espace informationnel, le rapport du Forum

• Cyber-risques, identité et fiabilité : les défis de l’IA

• Deepfakes : 2024, l’année de tous les dangers

• Les pirates informatiques des États-nations déploient l’IA (en)

• Pour Microsoft, l’intelligence artificielle permet de mieux analyser le trafic malveillant

• Même les distributeurs automatiques de confiseries utilisent la reconnaissance faciale désormais !

• Modèles d’IA malveillants sur les machines des utilisateurs de portes dérobées de Hugging Face (en)

  • La plateforme d’IA Hugging Face contient 100 modèles d’exécution de code malveillants (en)

Interrogations / Perspectives / Prospectives

• Tout savoir sur Mistral AI, le petit français qui s’affronte à OpenAI. Français …

  • L’alliance entre Mistral et Microsoft met fin à l’illusion de l’indépendance technologique européenne (voir aussi la lettre de veille du 27 février)

  • Mistral AI est-elle une solution souveraine française ou pas souveraine ? La réponse de Raphaël Richard dans un post LinkedIn

  • L’accord entre Microsoft et Mistral AI scruté par l’UE

Entreprise

• Pourquoi l’IA doit faire partie de votre entreprise (en)

• 5 façons d’exploiter l’IA pour rationaliser les flux de travail de votre entreprise en 2024 (en)

• Collibra applique ses recettes de gouvernance des données à l’IA

• IA générative et supply chain : quatre applications possibles

Recherche, développement et application

• « Apprendre à programmer sera inutile à l’avenir », d’après le PDG de Nvidia selon lequel l’intelligence artificielle fera de tous des programmeurs au travers du langage naturel

• Dell annonce que tous les futurs PC seront équipés d’IA, qu’on le veuille ou non. La prochaine évolution de l’industrie informatique se divisera entre des appareils avec et sans matériel d’IA

• GPT-5 : Tout ce qu’on sait déjà sur cette prochaine mise à jour majeure d’OpenAI

3 mars 2024. Le ver informatique capable de se répandre dans les systèmes d’IA, ça y est, c’est fait – Hugging Face, une plateforme collaborative notamment en … modèles de machine learning malveillants – L’OWASP a publié sa liste de contrôle de sécurité pour le déploiement de l’IA générative …

IA au service de la sécurité … ou pas

• Cyberattaques sur les infrastructures et menaces basées sur l’IA frappent l’Afrique (en)

• L’intelligence artificielle, source de nouvelles cybermenaces ? La réponse est ci-dessous …

• Des chercheurs créent le tout premier ver informatique capable de se répandre dans les systèmes d’IA

• Au moins une centaine de modèles d’IA malveillants seraient hébergés par la plateforme Hugging Face

• Il est 22 heures. Savez-vous où sont vos modèles d’IA ce soir ? Le manque de visibilité et de sécurité des modèles d’IA met le problème de sécurité de la chaîne d’approvisionnement logicielle sous pression … (en)

• Cybersécurité : comment l’IA renforce la protection des données ? Une information MicroSoft sur le site LeMonde

Interrogations / Perspectives / Prospectives

• Data, intelligence artificielle et cybersécurité dans les territoires : tendances 2023 des enseignements au service des élus et décideurs en territoire, une parole d’expert du CyberCercle, celle d’Henri SAILLARD du Groupe La Poste

• Medef : « Bien menée, bien pilotée, bien anticipée, l’IA est une opportunité formidable », vidéo d’une interview de Patrick Martin, président du Medef

• Le Cigref guide les entreprises vers l’IA générative (voir aussi la lettre de veille du 27 février)

• Tout ce qu’il faut savoir sur l’AI Washing, découvrez comment les entreprises exagèrent l’implication de l’IA dans leurs produits et services …

Information

• Elon Musk porte plainte contre OpenAI, le créateur de ChatGPT. Une guerre d’égos

• Voici quels sont les nouveaux métiers de l’IA

• PDG de Nvidia : « Le codage n’est pas une compétence nécessaire… même pour l’IA »

• L’IA menace les emplois en col blanc dans divers secteurs dont celui du développement de logiciels, d’après une enquête qui ravive le débat sur la possible mise au rebut des développeurs humains

Recherche, développement et application

• Mistral Large : le modèle de langage qui comprend enfin les Européens

Économie – Business – Entreprise

• L’IA générative transforme déjà les postes et les besoins en compétences

• Dix questions avant de choisir de la GenAI « sur étagère »

• Arthur Mensch, de Mistral AI : « En intelligence artificielle, nous pouvons rivaliser avec Google ou OpenAI », accès abonnés LeMonde

• Le gratin de l’intelligence artificielle investit dans les robots boostés à l’IA, accès abonnés LesEchos

Événements – Livres / Rapports / Études …

• L’OWASP publie sa liste de contrôle de sécurité pour le déploiement de l’IA générative

  • Liste de contrôle LLM AI Cybersécurité et gouvernance (en)    

• Intelligence artificielle générative : géniale et dangereuse par le Pr Jean-Paul Delahaye lors du prochain Lundi de la cybersécurité du 18 mars. Tous les détails dans la lettre de gérard PELIKS