Veille Sécurité IA – N319

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 20 au 26 mai 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 20 au 26 mai 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

21 mai 2024. Les États-Unis et la Chine débattent de la sécurité de l’IA – Le PDG d’OpenAI appelle de ses vœux une agence internationale de surveillance de l’IA – Un premier traité international juridiquement contraignant visant à garantir le respect des normes juridiques pour le recours à l’intelligence artificielle, c’est le Conseil de l’Europe qui l’a adopté …

IA au service de la sécurité … ou pas

• Avant d’appliquer l’IA à la guerre, réfléchissons à ses limites (en)

• Un nouvelle enquête sur la confidentialité désigne l’IA comme une menace équivalente à la cybercriminalité

• Des experts américains en IA ciblés par du cyberespionnage

• Le géant multinational Arup révèle avoir été victime d’une escroquerie « deepfake » de 25 millions de dollars. Un employé du département finance a été dupé en participant à un appel vidéo deepfake

• Les deepfakes sont désormais le deuxième incident de sécurité le plus fréquent, les attaquants utilisent la technologie d’IA pour inciter les victimes à effectuer des transferts de fonds, d’après ISMS.online, une étude ISMS

  • Rapport sur l’état de la sécurité de l’Information 2024, le rapport de ISMS (en) [pdf]

Interrogations / Perspectives / Prospectives

• L’AI Act est voté : mais ça change quoi au fait ? C’est quoi la suite ?

• Menaces numériques et amplification de l’IA : l’Europe est-elle toujours dans la course ?

• Rencontre à Genève : les États-Unis et la Chine débattent de la sécurité de l’IA et des abus technologiques

• Qu’est-ce que la GenAI ? L’IA générative qui crée

• Les IA les plus puissantes sont-elles un risque si elles ne sont pas surveillées ?

  • Perdre le contrôle des IA : une menace sérieuse pour les humains ?

  • Sam Altman, PDG d’OpenAI, estime qu’une agence internationale devrait surveiller les IA « les plus puissantes » pour garantir une « sécurité raisonnable » car ces systèmes peuvent « causer d’importants dommages »

• OpenAI : dissolution de l’équipe chargée de la sécurité d’une potentielle superintelligence artificielle (voir aussi la lettre de veille du 19 mai)

  • Greg Brockman et Sam Altman répondent aux critiques de Jan Leike. Après avoir quitté son poste de chef de l’équipe de superalignement. Il a révélé que « mon équipe a navigué à contre-courant »

• 10 Bits : La liste critique de l’actualité des données du 11 au 17 mai (en)

Information

• Le Conseil de l’Europe adopte le tout premier traité international juridiquement contraignant visant à garantir le respect des normes juridiques pour le recours à l’intelligence artificielle (IA)

  • Un premier traité international sur l’IA adopté par le Conseil de l’Europe

  • Le Conseil de l’Europe adopte le premier traité international sur l’intelligence artificielle, le communiqué de presse du Conseil

  • Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit. Rapport explicatif, le texte adopté

• Emmanuel Macron peaufine ses mesures pour faire de la france « une puissance de l’IA«  sur BFM TV avec la vidéo d’un sujet Tech & débat

  • Intelligence artificielle : Macron lance une importante séquence pour la France

  • Comment la France affiche ses ambitions dans l’Intelligence artificielle

  • Emmanuel Macron veut faire de la France une place forte de l’intelligence artificielle

• Microsoft x Mistral AI : l’Autorité britannique de la concurrence renonce à enquêter

Enseignement

• 99% des étudiants utilisent les IA génératives pour diminuer leur temps de travail, et 51% constatent qu’ils auraient du mal à se passer de ChatGPT, mais est-ce une bonne chose ?

  • Étude : les outils IA les plus utilisés par les étudiants en 2024 (voir aussi la lettre de veille du 19 mai)

Recherche, développement et application

• Des distrib Linux commencent à interdire le code généré par l’IA

  •  » … du côté des distributions UNIX open source … », le message de Thomas Hurreau sur LinkedIn

Économie – Business

• Les dirigeants ont cédé à l’engouement pour l’IA, mais les entreprises ne sont pas en mesure de répondre aux attentes sur le plan opérationnel et s’arrêtent parfois au stade de projet pilote, selon IFS

• GenAI : les salariés européens partagés entre inquiétude et enthousiasme

  • Plus de la moitié des salariés français intègrent des outils d’IA dans leur travail, une étude de l’éditeur AIPRIM

Événements – Livres / Rapports / Études …

• Appel à projets « Accélérer l’usage de l’intelligence artificielle générative dans l’économie » lancé par la BPI jusqu’au 2 juillet à 12h.

• Dialogue Vocal Humains-Machines dans les applications industrielles : une IA française originale, une conférence proposée le 28 mai par le Groupe « Humanité et Intelligence Artificielle » de l’Institut Fredrik BULL. Pour participer vous avez le choix … sur place au Pôle Léonard de Vinci ou à distance

23 mai 2024. Un « rassemblement des plus grands talents français de l’IA », communiqué de presse, discours et vidéo de l’évènement – Sécurité de développement en intelligence artificielle, les leaders du domaine s’engagent … L’IA au service de la sécurité mondiale, un appel à communication pour une conférence prévue à la rentrée …

IA au service de la sécurité … ou pas

• « Tous surveillés ! La révolution IA » : revoir l’enquête de BFMTV

• Le cruel dilemme des données de santé à l’ère de l’IA : vie privée ou équité ?

• Une menace pour la vie privée? Inquiétude autour des derniers outils d’IA générative dévoilés par Microsoft

• Un nouvelle enquête sur la confidentialité désigne l’IA comme une menace équivalente à la cybercriminalité

• Le secteur de la santé est le plus exposé aux menaces de l’IA, selon une nouvelle analyse du Swiss Re Institute

  • Comment l’IA pourrait changer le paysage des risques, la présentation de l’étude

Interrogations / Perspectives / Prospectives

• Accusé par Scarlett Johansson d’avoir copié sa voix, OpenAI suspend l’utilisation d’une tonalité de ChatGPT

Informations

• IA : la recherche française dans la course à l’excellence mondiale

• Macron annonce un nouveau fonds d’investissement dans l’IA

  • Emmanuel Macron veut faire de la France « un des pays champions de l’IA », accès abonnés LeMonde

• Rassemblement des plus grands talents français de l’IA le 21 mai, le communiqué de presse de l’Élysée

  • Rassemblement des plus grands talents français de l’IA, la vidéo de l’évènement

  • Rassemblement des plus grands talents français de l’IA , la prise de parole du président de la République le 21 mai [pdf]

  • Intervention du président de la République en visioconférence à l’occasion du Sommet sur l’intelligence artificielle de Séoul [pdf]

  • Le message du président sur X/Twitter

  • Retour sur les mesures dévoilées par Emmanuel Macron pour asseoir la stratégie française en IA

• Une première historique. Des entreprises d’Amérique du Nord, d’Asie, d’Europe et du Moyen-Orient conviennent d’engagements en matière de sécurité pour le développement de l’IA, une info du gouvernement britannique (en)

  • Les leaders de l’IA s’engagent à mettre fin aux modèles qui présentent un risque intolérable (en)

  • Intelligence artificielle : ces engagements pris par les géants de la tech

• Au salon VivaTech, la Région Occitanie annonce un plan intelligence artificielle régional

  • À Vivatech, la Région Occitanie annonce un grand plan pour accélérer sur l’IA

Santé

• L’intelligence artificielle au chevet de la relation patient-médecin

• Une IA éthique en santé est-elle possible ?

• 5 bonnes raisons d’oser l’IA régénérative pour un médecin

Recherche, développement et application

• Les bases de données vectorielles incontournables pour exploiter les LLM

Événements – Livres / Rapports / Études …

• L’IA au service de la sécurité mondiale : lancement d’un appel à communications pour la conférence AI4GS-2024 qui se tiendra au Campus Cyber à Paris le 16 novembre prochain. Les dépôts sont possibles jusqu’au 15 juin

• L’intelligence artificielle règne sur la 8e édition de VivaTech

26 mai 2024. L’intelligence artificielle investit le champ de bataille, une interview du directeur de l’Agence ministérielle pour l’IA de défense et du major général des Armées – Une nouvelle charte éthique data et IA pour La Poste – Un hackathon GenAI pour évaluer la robustesse des LLM proposé par le commandement du ministère de l’intérieur dans le cyberespace et l’ISEP …

IA au service de la sécurité … ou pas

• 7 façons d’utiliser l’IA pour améliorer la reprise après incident

• Pérennisez votre stratégie d’IA de cybersécurité (en)

• L’intelligence artificielle investit le champ de bataille, un nouvel épisode du podcast du ministère des armées « Pensez stratégique »

• Superalignment : quel est ce projet OpenAI abandonné par ses managers ?

• La Chine teste des chiens-robots équipés de mitrailleuses

• Facebook et Instagram vont bientôt utiliser vos données personnelles pour alimenter leur IA

  • Comment empêcher Facebook d’utiliser vos données pour entraîner son intelligence artificielle

  • « S’entraîner à parler comme un humain… » Facebook et Instagram vont utiliser vos données pour développer son intelligence artificielle

Interrogations / Perspectives / Prospectives

• Illusions et régulation de l’IA, une tribune de Solange GHERNAOUTI

• Le groupe La Poste met en place une nouvelle charte data IA

  • Principes éthiques et intelligence artificielle, la charte de La Poste

  • La Poste détaille le mode d’emploi de sa nouvelle charte éthique Data et IA

Information

• La France se rêve en championne d’Europe de l’Intelligence artificielle dans « Le décryptage éco » sur France Info radio le 22 mai

• Les ingénieurs logiciels spécialisés en IA gagnent jusqu’à 100 000 $ de plus que leurs homologues non spécialisés en IA, et certaines entreprises sont prêtes à les rémunérer à hauteur d’un million de dollars

Santé

• IA dans le secteur de la santé : les 5 avantages clés

• IA et santé : mieux vaut prédire que guérir

Enseignement

• Une université suspend des étudiants pour avoir créé un outil d’étude basé sur l’IA, alors qu’elle leur a attribué un prix de 10 000 $ pour le développer. Le dilemme des universités face aux nouvelles technos

Entreprise – Économie – Business

• Le manque de visibilité sur l’avenir de l’IA générative inquiète les entreprises

Événements – Livres / Rapports / Études …

• Hackathon GenAI du 31 mai au 2 juin proposé par ComCyber-Mi et l’ISEP pour évaluer la robustesse des LLM

  • Le COMCYBER-MI et l’ISEP lance HACK GEN-AI, un hackathon dédié aux larges modèles de langage, le communiqué de presse

  • Dans le cadre des travaux de la chaire « IA et Sécurité » … le message du commandement du ministère de l’intérieur dans le cyberespace sur LinkedIn

• Suisse. Le Cyber-Defence Campus lance le Cyber Startup Challenge 2024, un cyber Startup Challenge sous le slogan « Sécurité de l’intelligence artificielle ». Le communiqué de presse du Conseil fédéral