Veille Sécurité IA – N269

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 5 au 11 juin 2023

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 5 au 11 juin 2023 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

6 juin 2023. Un label « Intelligence artificielle » demandé par l’UE aux signataires de son code de bonne conduite numérique – Un code de conduite en préparation entre l’UE et les États-Unis – Quand l’IA s’inquiète des dérives de l’IA …

IA au service de la sécurité … ou pas

• Non, un drone piloté par IA ne s’est – officiellement – pas retourné contre son contrôleur, (voir aussi la lettre de veille du 4 juin)

• Bruxelles demande aux plateformes d’identifier les contenus générés par l’intelligence artificielle

  • L’UE demande aux signataires de son code de conduite numérique un label « Intelligence artificielle« 

  • Fake news. L’Europe veut imposer un label IA aux géants de la tech

• Règlement IA : l’UE face au problème du « temps législatif »

• L’UE et les Etats-Unis veulent mettre en place un code de conduite commun pour une IA de confiance

• L’impact de l’IA générative sur les équipes de Dev est… compliqué

• OpenAI a trouvé un moyen de rendre les modèles d’IA plus logiques et d’éviter les hallucinations (en)

Interrogations / Perspectives / Prospectives

• VIDEO – Quand même l’IA s’inquiète des dérives de l’IA

• « Pour un récit positif de l’intelligence artificielle« – la chronique de David Lacombled

• Révolution technologique de l’IA : serons-nous assez intelligents pour contrôler ChatGPT ? Extrait du livre de Laurent ALEXANDRE « La guerre des intelligences à l’heure de ChatGPT »

• « Les systèmes d’intelligence artificielle vont amplifier les biais de genre dans tous les domaines », une tribune de Laurence DEVILLERS, accès abonnés LeMonde

• Se préparer à une apocalypse de l’IA est aussi absurde que se préparer à une invasion extraterrestre (en)

• 10 Bits : La liste critique de l’actualité des données du 27 mai au 2 juin (en)

Santé

• L’IA générative dans le secteur de la santé: une révolution imminente

• Greffe du rein : l’IA pour corriger les diagnostics erronés de rejets

• IA et oncologie : l’IUCT-Oncopole et l’IRT Saint Exupéry présentent les résultats de leurs premiers travaux pour lutter contre les tumeurs du cerveau

• Intelligence artificielle dans la santé/ Maroc : cinq questions au Pr. Amal Bourquia

Recherche, développement et application

• ChatGPT, Midjourney, Taplio… Quatre cas concrets d’utilisation d’IA en entreprise

• Deep learning : Neuralangelo, le nouveau modèle d’IA de Nvidia Research pour la reconstruction 3D

Enseignement

• Comment fonctionne ChatGPT ? Décrypter son nom pour comprendre les modèles de langage

Économie – Business

• Les concurrents de ChatGPT se multiplient

Événements – Livres / Rapports / Études …

• Transvalor et CentraleSupélec s’associent pour lancer une chaire de recherche industrielle dédiée à l’IA

8 juin 2023. L’OWASP s’intéresse aussi désormais à l’intelligence artificielle – L’art du prompt, ça s’apprend – Les entreprises américaines ont leurs chabots …

IA au service de la sécurité … ou pas

• L’Europe veut de la transparence face à l’Intelligence artificielle dans la chronique « Géopolitique » de Pierre HASKI sur France inter le 6 juin

• Sécuriser les données personnelles dans le sillage de l’IA, une information de l’ENISA, l’Agence de l’Union européenne pour la cybersécurité

• Une IA sécurisée et fiable est-elle possible ? L’UE ouvre la voie, le communiqué de presse de l’ENISA (en)

• Sécurité des IA génératives : l’OWASP esquisse un Top 10

  • Top 10 OWASP pour les applications de modèles de langage étendu (en)

• Des cybercriminels transforment des selfies en image porno pour faire chanter les victimes. L’IA au service du crime

Interrogations / Perspectives / Prospectives

• Emploi : les craintes et les espoirs des salariés face à l’arrivée de l’intelligence artificielle, dans la chronique « C’est mon boulot » de Philippe DUPORT sur France inter le 8 juin

  • ChatGPT menace-t-il nos emplois? Une interview en visio de Jean-paul Betbeze

• IA : « La bureaucratie doit se caler sur le rythme de l’innovation »

Santé

• Comment l’IA va bouleverser la santé et la médecine ?

• L’IA, meilleure que les médecins pour prédire les complications médicales

• Le programme d’IA peut lire les notes des médecins pour faire des évaluations utiles sur l’état de santé du patient

• La chaîne de soins de santé utilise une IA basée sur GPT-4 pour générer des dossiers médicaux

Enseignement

• Tout savoir sur les prompt : définition, fonctionnement et utilisation

• Les meilleurs prompts à ne pas rater en 2023

• ChatGPT : 6 conseils d’OpenAI pour obtenir de meilleurs résultats

Recherche, développement et application

• Avec Aria, le navigateur Opera adapte l’IA GPT d’OpenAI à la recherche en ligne et c’est gratuit

Économie – Business

• Le Référenciel Client Unique, un préalable à l’utilisation de l’IA

• IA appliquée aux outils comptables et financiers : les cas d’usages

• Aux États-Unis, les « chatbots » désormais intégrés dans la vie des entreprises : « C’est un nouveau membre de l’équipe de direction », accès abonnés LeMonde

Événements – Livres / Rapports / Études …

• Le Royaume-Uni organisera le premier sommet mondial sur l’intelligence artificielle

• Étude Capgemini Research Institute : l’IA générative peut avoir un impact positif selon les enseignants

  • Une éducation prête pour l’avenir : doter les élèves du secondaire de compétences numériques (en)

11 juin 2023. ChatGPT et ses « hallucinations » ouvre des perspectives aux cyberattaquants – Réguler, il faut réguler, oui, mais … – Pas moins de 4 études sur l’IA publiées par L’ENISA, l’Agence de l’Union européenne pour la cybersécurité, de quoi lire ..

IA au service de la sécurité … ou pas

• Cybersécurité des IAs : l’analyse des risques de l’ENISA. (voir aussi la lettre de veille du 8 juin)

• Les hallucinations de ChatGPT ouvrent aux développeurs la voie à des attaques de logiciels malveillants dans la chaîne d’approvisionnement. Les attaquants peuvent exploiter de fausses recommandations

• Gestionnaires de réseaux informatiques, attention : l’IA n’est pas une solution miracle (en)

• Les cybermenaces croissantes de l’IA générative : qui est responsable ? (en)

• Lutte contre la fraude basée sur l’IA : que la bataille des machines commence (en)

Interrogations / Perspectives / Prospectives

• « Il ne faut pas voir l’intelligence artificielle comme un ennemi » : ces travailleurs qui utilisent ChatGPT comme assistant personnel à l’insu de leur employeur

• Intelligence artificielle : ne pas se tromper de régulation

• Intelligence artificielle : la course à la régulation entre grandes puissances, accès abonnés LeMonde

• L’intelligence artificielle est-elle sur le point d’être réglementée ? (en)

• Le Center for Data Innovation a déposé ses commentaires sur la responsabilité de l’IA auprès de la NTIA,  l’Administration nationale des télécommunications et de l’information américaine (en)

• Comment l’IA peut bouleverser le monde de l’information professionnelle et scientifique , accès abonnés LesEchos

• 10 Bits : La liste critique de l’actualité des données du 3 au 9 juin (en)

Santé

• Prédire les naissances prématurées dès la 31ème semaine de grossesse grâce au deep learning

• L’intelligence artificielle prédit mieux les complications médicales que les médecins, selon une étude

Enseignement

• La newsletter IA de Matthieu CORTHESY …

Économie – Business

• OpenAI n’est pas pressé de sortir GPT-5

  • « On a encore beaucoup de travail »: une nouvelle version de ChatGPT n’est pas pour tout de suite

• Les concurrents de ChatGPT se multiplient, accès abonnés LeMonde

• Microsoft dévoile Azure OpenAI Service pour les gouvernements et les engagements des clients IA (en)

  • ChatGPT d’OpenAI entre dans la sphère gouvernementale : Azure de Microsoft fournira des modèles d’IA aux utilisateurs fédéraux (en)

• Comment l’intelligence artificielle gère votre épargne, accès abonnés LeMonde

• Risques et atouts de l’intelligence artificielle générative pour les services client

Événements – Livres / Rapports / Études …

• Meetup : Enjeux et cas d’usage de l’IA Éthique proposé par le Groupe de travail Éthique du Hub France IA le 13 juin, un rappel

• L’ENISA, l’Agence de l’Union européenne pour la cybersécurité, publie simultanément 4 rapport sur l’intelligence artificielle …

  • Recherche sur l’intelligence artificielle et la cybersécurité (en)

  • Cybersécurité et vie privée en IA – Diagnostic d’imagerie médicale (en)

  • Cadre multicouche pour les bonnes pratiques de cybersécurité pour l’IA (en)

  • Cybersécurité et vie privée dans l’IA – Prévision de la demande sur les réseaux électriques (en)

• Étude Tagaday : la couverture médiatique de l’IA boostée par l’effet ChatGPT