Veille Sécurité IA – N303

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 29 janvier au 4 février 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 29 janvier au 4 février 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

30 janvier 2024. L’IA sur le darkweb, l’étude d’un éditeur de sécurité – ChatGPT de nouveau visé par le régulateur italien pour non respect du RGPD – Et si les deepfakes de la chanteuse Taylor Swift était un mal pour un bien …

IA au service de la sécurité … ou pas

• Des conseils sur l’utilisation sécurisé des systèmes d’intelligence artificielle du Centre canadien pour la cybersécurité en association avec différents partenaires internationaux (en)

• Protection des données – une prise de conscience nécessaire sur les usages de l’IA

• Vie privée en ligne : l’IA est-elle un danger ou une opportunité ?

• ChatGPT pourrait à nouveau être bloqué en Italie

• OpenAI, propriétaire de ChatGPT, accusée par l’Italie d’enfreindre les règles européennes relatives à la protection des données

• L’enjeu de la protection des entreprises à l’ère de la création de code avec l’IA

• Expérimentations IA sur le darkweb : zoom sur la nouvelle étude Kaspersky

  • Les hackers friand de l’IA

  • Vente de comptes, jailbreaks… Sur le dark web, l’IA fait aussi les affaires des cybercriminels

  • Innovation dans l’ombre : comment les cybercriminels expérimentent l’IA sur le dark web (en)

• Comment les start-up d’IA de défense veulent conquérir le champ de bataille

• Emmener les robots et l’IA dans la guerre en mer (en)

• X (Twitter) tente de neutraliser les trucages pornos par IA de Taylor Swift

  • Les deepfakes explicites de Taylor Swift par IA mobilisent les fans et les législateurs (en)

  • Des images pornographiques « dégoûtantes » de Taylor Swift générées par l’IA circulent sur X : « Je n’en croyais pas mes yeux » (en)

• Adoption de l’IA : le risque existentiel négligé (en)

Incidents de sécurité

• Des clients d’Anthropic confrontés à une fuite de données suite à une erreur d’un sous-traitant

Interrogations / Perspectives / Prospectives

• Intelligence artificielle et ia génératives : un nouveau business pour les avocats ?

• Intelligence artificielle : malgré les critiques, la France maintient la pression sur l’AI Act, accès abonnés LeMonde

• Les femmes et les hommes sont-ils égaux face à l’avènement de l’intelligence artificielle dans les entreprises ? Accès abonnés LeMonde

• Après Davos 2024 : du battage médiatique sur l’IA à la réalité (en)

• La Federal Trade Commission enquête sur Amazon, Alphabet, Microsoft, OpenAI, Anthropic et leurs investissements massifs sur l’IA générative (en)

• 10 Bits : La liste critique de l’actualité des données du 20 au 26 janvier (en)

Recherche, développement et application

• ChatGPT était devenu trop paresseux, OpenAI l’a secoué. Allez, bosse un peu !

  • OpenAI dévoile un GPT-4 Turbo moins « paresseux » et une API moins chère

  • Open AI annonce un GPT-4 turbo moins paresseux et des réductions de prix pour GPT-3,5 turbo

• Développeurs et IA : les générateurs de code sont-ils fiables ?

  • Codage sur Copilot : les données de 2023 suggèrent une baisse de la qualité du code (en)

• Pourquoi les LLM sont vulnérables à « l’effet papillon » (en)

• Google Lumiere : la génération de vidéos par IA est étonnante. Voyez par vous-même

Économie – Business

• Croissance exponentielle de l’utilisation de l’IA conversationnelle dans l’e-commerce en 2023

• La technologie transforme le secteur financier, l’IA générative plus que toutes les autres

• L’IA amorce l’ère de l’expérience client (CX) intelligente et accélère la transformation de l’industrie

Événements – Livres / Rapports / Études …

• 90 % des DSI trouvent difficile d’intégrer l’IA à d’autres systèmes selon un rapport MuleSoft

1^er février 2024. Le NIST publie la « bible » des attaques d’IA – A-t-on besoin d’une autorité française de l’IA ? Une note d’un cercle de réflexion étudie la question – Un manuel et un MOOC pour les enseignants …

IA au service de la sécurité … ou pas

• Robots tueurs, des armes aux mains de l’IA, un documentaire publié par Arte

• Une étude OpenAI révèle le rôle surprenant de l’IA dans la création future de menaces biologiques (en)

• MLSecOps : les meilleures pratiques pour sécuriser l’IA

• Comment protéger les systèmes d’IA des attaques malveillantes ?

• Conduite du changement : l’impact de l’IA sur la résilience des réseaux

• Le NIST vient de sortir la « bible » de l’attaque des IA ! Découvrez les différentes méthodes recensées … le post de Gérôme BILLOIS sur LinkedIn (voir aussi la lettre de veille du 25 janvier)

• Spear phishing : comment les solutions basées sur l’IA peuvent-elles renforcer la sécurité des e-mails ?

• OpenAI pourrait-il être contraint de supprimer ses données?

Interrogations / Perspectives / Prospectives

• La France a-t-elle besoin d’une Autorité de l’IA ?

  • Pour une Autorité française de l’IA, la Note d’action de l’Institut Montaigne

• Le risque d’une interdiction de ChatGPT en Europe ressurgit

• Eurovues. La loi européenne sur l’IA peut-elle répondre aux besoins des citoyens tout en redéfinissant les algorithmes ?

• La Federal Trade Commission (FTC) enquête sur les investissements et les partenariats dans le domaine de l’IA générative

• Comment le New York Times compte mettre de l’IA générative dans sa rédaction

Santé

• Santé : Et si l’IA Générative tombait entre de mauvaises mains ?

Recherche, développement et application

• L’IA générative ne remplacera pas les développeurs de sitôt, d’après des chercheurs qui concluent que le développement de logiciels va bien au-delà des tâches de complétion de code

Enseignement

• A quoi correspond l’explicabilité des IA en cybersécurité ?

• La 2ème édition du manuel ouvert “Intelligence Artificielle pour les Enseignants” est sortie !

  • IA pour les enseignants : un manuel ouvert à lire et à télécharger avec un MOOC à la clé …

  • Formation des enseignants proposés par AI4T, AI for teachers

Événements – Livres / Rapports / Études …

• Le Comité national pilote d’éthique du numérique (CNPEN) publie son avis sur les enjeux d’éthique des technologies de reconnaissance faciale, posturale et comportementale

  • JO 2024 : la vidéosurveillance algorithmique, un danger ?

4 février 2024. Ça y est, c’est fait, la réglementation européenne sur l’IA est approuvée – Des milliers de chercheurs se pronocent sur le futur de l’IA …

IA au service de la sécurité … ou pas

• OpenAI : copier, voler, coller

• Cybersécurité en 2024 : l’année IA de tous les dangers !

• Corée du Sud : les deepfakes sont dans le viseur à l’approche des élections législatives dans « Bientôt chez vous » sur FranceInfo radio

• La montée des menaces des deepfakes signifie que les mesures de sécurité biométriques ne suffiront pas (en)

• Mastercard utilise l’IA générative pour détecter les fraudes financières

Interrogations / Perspectives / Prospectives

• Les pays européens approuvent une première loi pour réguler l’intelligence artificielle

  • IA Act : les Etats de l’UE donnent leur feu vert

  • AI Act : les ambassadeurs des États membres de l’UE donnent leur feu vert

  • Intelligence artificielle : la France accepte de valider l’AI Act après sept mois d’opposition, accès abonnés LeMonde

  • L’AI Act européen : une avancée cruciale qui pose la nécessité d’une gestion intelligente des données

• GenAI : la Chine multiplie l’adoption des LLMs

• 10 Bits : La liste critique de l’actualité des données du 27/01 au 2/02 (en)

• L’IA perturbera d’innombrables emplois dans l’animation au cours des trois prochaines années, selon un rapport soulignant à quel point l’impact de l’IA générative sera dévastateur pour les artistes

Santé

• IA en Diagnostic Médical : Révolutionner la Médecine Moderne

Événements – Livres / Rapports / Études …

• « Des milliers de chercheurs sur le futur de l’AI », un sondage auprès de 2 778 chercheurs … (en)

  • Le bref d’Albert MEIGE sur LinkedIn