Veille Sécurité IA – N279

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 14 au 20 août 2023

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 14 au 20 août 2023 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

15 août 2023. Un allié ou une menace pour la cybersécurité, l’éternelle question – Les États-Unis lance un concours pour casser les modèles d’IA générative – Les salariés sont demandeurs d’IA, les entreprise, non …

IA au service de la sécurité … ou pas

• L’intelligence artificielle est-elle un allié ou une menace pour la cybersécurité ?, un interview du Dr Brian Anderson du MITRE (en)

• « 9 + 10 = 21 » : des pirates obligent l’IA à générer de faux calculs

• Comment aider à gérer les risques de l’IA générative dans l’entreprise (en)

• Comment FraudGPT présage l’avenir de l’IA militarisée (en)

• Comment l’IA peut sauver des vies : Révolutionner la santé, la prévention et la sécurité

• Cette année à la DEF CON, les hackers ont une mission : cracker les modèles d’IA générative (voir aussi la lettre de veille du 13 août)

• Les entreprises face au défi du « Shadow GPT »

• Informations sur Black Hat : l’IA générative commence à s’infiltrer dans les plates-formes de sécurité qui nous permettront d’aller de l’avant (en)

• Après la fronde, Zoom n’utilisera plus les appels pour entraîner ses modèles d’IA

• États-unis : Le ministère de la Défense lance un concours pour renforcer la cybersécurité avec l’aide des fleurons américains de l’IA

  • Le chef de l’IA du DoD américain sur les LLM : « J’ai besoin de pirates pour nous dire comment ce truc se casse » (voir aussi la lettre de veille du du 10 août) (en)

Interrogations / Perspectives / Prospectives

• Comment concilier l’enthousiasme des salariés avec la prudence des DSI pour l’IA générative ?

  • 75 % des entreprises prêtes à interdire ChatGPT selon une enquête BlackBerry (voir aussi la lettre de veille du 10 août)

• Oubliez le référencement : pourquoi l’« optimisation du moteur d’IA » pourrait être l’avenir (en)

Enseignement

• Intelligence artificielle : son histoire et ses enjeux

  • L’Intelligence artificielle générative

• Des cours gratuits proposés par l’Université de Lund (Suède)

Recherche, développement et application

• ChatGPT vaincu ? Le grand rival d’OpenAI lance une IA plus rapide et moins chère

  • Claude fait de l’ombre à ChatGPT, ses progrès sont fulgurants

• ChatGPT : Coup de mou en juillet ou fin de la hype ?

• Les leçons à retenir de l’entraînement de Llama 2

• Lookout Sail, le compagnon IA qui combine éducation et cyberdéfense

• Tenable lance sa propre IA Générative dédiée à la cybersécurité : ExposureAI

  • De l’IA générative pour prévenir les risques cybersécurité chez Tenable

• Dialpad lance une IA générative formée sur 5 ans de données conversationnelles propriétaires (en)

• Microsoft lance Azure ChatGPT : ChatGPT privé et sécurisé pour une utilisation interne à l’entreprise avec garanties intégrées autour de la confidentialité de vos données

Événements – Livres / Rapports / Études …

• Black Hat USA 2023 : cinq leçons d’intelligence artificielle (en)

• 6 conférences TED gratuites sur l’intelligence artificielle que vous pouvez regarder dès maintenant

17 août 2023. Comment découvrir la puissance de l’IA dans la cybersécurité, des questions pour les RSSI – IA-t-il qui pilote dans l’avion ? La réponse est oui ! Une lettre ouverte des médias, des garanties pour préserver la confiance du public …

IA au service de la sécurité … ou pas

• La cybersécurité à l’ère de l’IA

• Découvrir la puissance de l’IA dans la cybersécurité : 3 questions que les RSSI devraient se poser (en)

• Comment l’IA générative améliorera la réponse aux incidents (en)

• Découvrez « Pibot », le robot humanoïde capable de piloter un avion en toute sécurité mieux qu’un humain

Interrogations / Perspectives / Prospectives

• Des médias adoptent des directives pour l’utilisation de l’intelligence artificielle

  • L’Associated Press établit des lignes directrices sur l’IA pour les journalistes (en)

  • Normes pour l’IA générative de l’Associated Press (en)

• Dix organismes de presse demandent des garanties en matière d’IA générative

  • Préserver la confiance du public dans les médias grâce à une réglementation et des pratiques unifiées en matière d’IA, la lettre ouverte des entreprises (en)

• Le New York Times pourrait poursuivre OpenAI en justice pour protéger sa propriété intellectuelle

  • Le New York Times interdit l’utilisation de son contenu pour former des IA, accès abonnés SiecleDigital

• Combattre les préjugés pour un juste équilibre : lutter contre la menace des préjugés sexistes dans l’Intelligence Artificielle (IA)

• McKinsey embauche Lilli, le consultant qui menace les consultants ?

  • Le géant du conseil McKinsey dévoile son propre outil d’IA générative pour les employés : Lilli (en)

Santé

• DoctorGPT : Un grand modèle de langage qui peut réussir l’examen de l’ordre des médecins aux États-Unis

Enseignement

• Intelligence artificielle en enseignement supérieur: les profs veulent de la formation

Recherche, développement et application

• Sysdig lance également une IA générative pour la cybersécurité

• LightOn dévoile Alfred-40B-0723, un LLM open source destiné aux entreprises construit sur Falcon-40B

• Adobe Express avec Firefly : la nouvelle interface « IA d’abord » est disponible, et c’est gratuit

• La recherche IA de Google peut désormais résumer n’importe quelle page web au stade expérimental pour l’instant

  • L’IA de Google va résumer les longs articles

  • Google resserre les liens entre la navigation web et l’IA générative

  • Nouveautés SGE : SGE while browsing, Définitions & Code

  • Apprenez pendant que vous recherchez (et naviguez) à l’aide de l’IA générative, sur le blog de Google (en)

  • … Comment déjà accéder à Google SGE (Search Generative Experience) et ainsi expérimenter le futur de la recherche sur le web ? Une information datée de début juin

Événements – Livres / Rapports / Études …

• Le Forum InCyber 2024 se tiendra du 26 au 28 mars à Lille sur le thème : « Ready for AI? », le communiqué de presse d’InCyber

• Cartographie des tendances technologiques : l’IA au centre de l’attention

  • Le Hype Cycle de Gartner place l’IA générative au « sommet des attentes exagérées » (en)

• Le gouvernement canadien sollicite des commentaires sur un code de pratique volontaire pour l’IA générative (en)

  • Le gouvernement fédéral consulte sur le code de conduite de l’IA générative, révèle une publication accidentelle (en)

• Vous êtes à la recherche d’un apprentissage en intelligence artificielle. Vous entrez en deuxième année du cycle ingénieur ou êtes de formation bac +4 en IA ? La gendarmerie vous propose … un message de Patrick PERROT sur LinkedIn

• L’IA générative, un outil du quotidien pour 51% de salariés français, mais aussi …

  • … 44 % des utilisateurs français de ChatGPT craignent un remplacement d’emplois

  • Quels sont les risques de l’intelligence artificielle générative que les entreprises doivent connaître ? l’enquête GetApp à l’origine des articles précédents

• Lors de la prochaine conférence mWISE de la communauté Mandiant, du 18 au 20 septembre à Washington, DC, discours d’ouverture sur l’IA et les normes de sécurité … (en)

20 août 2023. Un appel à projets IA de la CNIL pour les services publics – Un challenge de la DARPA pour renforcer la cybersécurité des infrastructures critiques américaines – Les malveillants s’intéressent à l’IA ? Pas tant que ça répond un éditeur …

IA au service de la sécurité … ou pas

• « Bac à sable » données personnelles : la CNIL lance un appel à projets sur l’intelligence artificielle dans les services publics

• La course aux cyborgs monte en puissance

• Robotique terrestre : perspectives tactiques

• La DARPA lance le challenge « AIxCC » pour renforcer la cybersécurité des infrastructures critiques américaines grâce à l’IA

  • DARPA AI Cyber ​​Challenge vise à sécuriser les logiciels les plus critiques du pays, le communiqué de presse de la DARPA (en)

  • Les conditions et le calendrier d’inscription ici … (en)

• L’adoption de l’IA peut exposer les entreprises à des risques de cybersécurité

• Les acteurs de la menace s’intéressent à l’IA générative, mais son utilisation reste limitée selon Mandiant

  • Les cyber-défenseurs mènent la course aux armements de l’IA pour l’instant (en)

  • Les acteurs de la menace s’intéressent à l’IA générative, mais son utilisation reste limitée sur le site de la Société (en)

• Ajoutez « l’écriture de logiciels malveillants » à la liste des choses que l’IA générative n’est pas très douée pour faire (en)

Interrogations / Perspectives / Prospectives

• Pourquoi la fiction imagine-t-elle toujours le pire de l’IA, dans les livres et au cinéma ? On a demandé à un expert

• Sur l’IA, les dirigeants français gardent les yeux ouverts

• L’ancien patron de Google Eric Schmidt lance un projet mêlant sciences dures et IA

• Contenus générés par l’IA : cette nouvelle réglementation instaurée en Chine

• ChatGPT : les coulisses d’une technologie gigantesque, article accessible sur simple inscription

• Sam Altman, pompier pyromane de l’intelligence artificielle, accès abonnés LeMonde

• 10 Bits : La liste critique de l’actualité des données du 12 au 18 août (en)

Recherche, développement et application

• Claude Instinct 1,2 : Anthropic dévoile un modèle d’IA pour les entreprises encore plus performant, axé sur la sécurité

• Comment les LLM pourraient bénéficier d’un projet d’IA symbolique de plusieurs dizaines d’années (en)

• Plugins ChatGPT : voici comment booster l’IA avec plus de 800 extensions

Santé

• L’OMS à l’ère de l’IA : La vision de son scientifique en chef et contributeur du FEM (Forum Economique Mondial) Jérémy Farrar

Enseignement

• 600 spécialistes Data & IA formés par Mercedes-Benz en 2023

Économie – Business – Service

• La puce d’IA Nvidia H100 à 40 000 dollars est devenue le matériel informatique le plus convoité au monde

• La fonction publique teste l’IA pour améliorer la qualité de service aux usagers

• 5 façons dont les chefs d’entreprise peuvent utiliser de grands modèles de langage pour débloquer de nouvelles possibilités (en)

• Comment les entreprises peuvent mesurer le succès des applications d’IA (en)

Événements – Livres / Rapports / Études …

• L’IA générative à l’honneur lors de Black Hat USA 2023

  • Des chercheurs mettent à l’épreuve les LLMs dans une expérience de phishing

  • Conception et détection de l’hameçonnage des grands modèles linguistiques (GPT3, GPT4) contre les modèles humains (V-Triad, courriels génériques), le document technique de Fredrick Heiding, Bruce Schneier, Arun Vishwanath et Jeremy Bernstein (en)