Veille Sécurité IA – N304

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 5 au 11 février 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 5 au 11 février 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

6 février 2024. Les robots-tueurs sous intelligence artificielle, une enquête Arte – Des domaines d’opportunités émergents en matière de sécurité pour l’intelligence artificielle – Une fausse visioconférence en deepfake pour une escroquerie à 25 millions d’euros, c’est nouveau …

IA au service de la sécurité … ou pas

• Robots tueurs, des armes aux mains de l’IA, une enquête, une vidéo, sur Arte

• Les risques de confidentialité de l’IA générative (en)

• Intelligence artificielle : le projet de Meta pour réguler ses réseaux sociaux

  • Meta entend permettre d’identifier automatiquement les images générées par IA sur ses réseaux sociaux

• Huit domaines d’opportunité émergents pour l’IA en matière de sécurité (en)

• OpenAI répond aux accusations italiennes de violation de la confidentialité avec ChatGPT

• Oubliez les deepfakes ou le phishing : l’injection rapide est le plus gros problème de GenAI (en)

• Comment détecter les données empoisonnées dans les ensembles de données d’apprentissage automatique (en)

• Deepfake : une escroquerie à 25 millions d’euros, une visioconférence avec de faux interlocuteurs pour une fraude au président à 25 millions d’€, c’est nouveau …

  • Piégé par une fausse visioconférence en « deepfake », un employé transfère 25 millions de dollars à des escrocs, Anthony MOREL sur BFM Tv

  • Deepfake : un employé détourne une fortune lors d’une réunion avec de faux collègues générés par IA

  • Piégé par un deepfake en visio, un employé transfère 24 M€ à des escrocs

  • IA : une arnaque par deepfake a coûté 26 millions de dollars à une entreprise de Hong Kong

  • Vidéoconférence truquée : un employé chinois vire plus de 25 millions de dollars US à des escrocs

• La fausse fuite de données Europcar aurait été rédigée par ChatGPT

• L’outil d’empoisonnement de l’IA Nightshade a été téléchargé 250 000 fois en 5 jours : « au-delà de tout ce que nous avions imaginé » (en)

Interrogations / Perspectives / Prospectives

• L’AI Act : première règlementation de l’intelligence artificielle adoptée par l’Union européenne. « Équilibre entre innovation et sécurité » selon Thierry BRETON. Tout le monde ne partage pas cet avis … dans la chronique « Un monde connecté » de François SALTIEL sur France culture

  • AI Act : la France renonce à la guérilla et ratifie

  • Feu vert des pays de l’UE à une première loi sur l’intelligence artificielle (voir aussi la lettre de veille du février)

  • Politique de l’UE. La dotation en personnel et le financement du Bureau d’IA par la Commission suscitent l’inquiétude dans les capitales

  • Application de l’AI Act : France Digitale, Wavestone et Gide publient un guide pratique pour les entreprises

    • Mise en conformité AI Act les clés pour comprendre et appliquer la loi sur l’IA. Le guide …

• 2024 sera-t-elle l’année de l’IA responsable ? (en)

• Quand le Pôle Emploi autrichien, dopé à l’IA, refuse d’orienter les femmes vers l’informatique…

• Des IA conseillères assurément, une IA présidente jamais de la vie

Recherche, développement et application

• Le PDG de Mistral confirme la « fuite » d’un nouveau modèle d’IA open source proche des performances du GPT-4 (en)

• Comment les entreprises utilisent les LLM open source : 16 exemples (en)

• Un marché lucratif des données explose pour nourrir les LLM insatiables (en)

Économie – Business – Entreprise

• 4 façons d’aider votre entreprise à surmonter l’inertie en matière d’IA

• Le déploiement de l’IA dans les entreprises doit être abordé comme un marathon pas comme un sprint

• La qualité des données reste le principal obstacle à l’adoption de l’IA générative

• La puissance de l’IA au service des MSP, les fournisseurs de services managés

• Etude MuleSoft : 80 % des responsables informatiques déplorent des problèmes d’intégration qui nuisent à l’adoption de l’IA

Événements – Livres / Rapports / Études …

• École et intelligence artificielle : je t’aime, moi non plus ? Un colloque de l’AFAE , l’Association française des acteurs de l’éducation les 22,23 et 24 mars à Nantes

8 février 2024. Un inventaire de l’impact de l’IA sur les métiers de la cybersécurité – Une charte de l’UNESCO pour une IA plus éthique signée par des grands de la tech – Un millions de spécialistes en apprentissage automatique en 2027 ? …

IA au service de la sécurité … ou pas

• IA : quelles conséquences sur les métiers de la cybersécurité ?

• AI Act : que peut espérer en retenir un DSI ?

• L’intelligence artificielle générative transforme en profondeur le monde de la cybersécurité

• L’IA, nouvel élément central du paysage de la sécurité

• Deepfakes : comment les entreprises peuvent-elles se protéger ?

• L’importance de l’éthique dans l’IA générative

  • Pour une IA « plus éthique » : 8 acteurs de la tech signent une charte de l’Unesco

• Le défi de l’IA pour la liberté sur Internet (en)

• De fausses pièces d’identité générées par l’IA et censées passer le KYC des bourses de cryptomonnaies sont vendues pour 15 $ et sont utilisées pour tromper les contrôles d’identité des crypto-bourses

Interrogations / Perspectives / Prospectives

• Davos et l’UE face à la double révolution de l’IA

• La Maison Blanche vante les mérites d’un nouveau consortium de sécurité de l’IA : plus de 200 grandes entreprises testeront et évalueront les modèles (en)

• Comment réguler l’intelligence artificielle ? Faut-il voir dans l’IA Act un risque de « sur-régulation » ?

  • AI Act : un très bon article sur comment réguler efficacement l’intelligence artificielle sans se perdre dans un « mille-feuilles réglementaire » ? Le post de Vincent Royer sur LinkedIn

• L’IA Act, un cadre suffisant pour maîtriser les défis de l’intelligence artificielle ?

• Un rapport suggère qu’un million de spécialistes en apprentissage automatique seront nécessaires d’ici à 2027. Qu’en pensez-vous ?

Recherche, développement et application

• Google Bard est mort : il faut l’appeler Gemini. Une app remplace Google assistant

• Dev et IA : bientôt ce sont les humains qui seront « dans la boucle »

• OpenAI ajoutera bientôt des filigranes aux images générées par DALL-E 3. L’adoption des normes C2PA est essentielle pour accroître la fiabilité des informations numériques, selon OpenAI

• Comment l’IA va-t-elle révolutionner les infrastructures réseaux ?

Événements – Livres / Rapports / Études …

• L’IAE Lille organise une conférence sur l’impact de l’IA dans l’industrie à travers l’analyse des données émotionnelles, c’est le 13 février

• L’Autorité de la concurrence s’autosaisit pour avis sur le secteur de l’intelligence artificielle générative et lance une consultation publique avec réponse avant le 22 mars

• Un avis de la CNSP, la Commission Supérieure du Numérique et des Postes, pour mieux encadrer l’usage de l’intelligence artificielle

11 février 2024. Le 14 février, les défis de l’intelligence artificielle générative en matière de protection des données personnelles évoquée à l’Assemblée Nationale – Les délégués à la protection des données personnelles (DPO) concernés par l’AI Act – L’intelligence artificielle, outil de veille documentaire …

IA au service de la sécurité … ou pas

• Examen du rapport de la mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré le 14 février à 9h

  • Les débats seront diffusés en direct sur le site de l’Assemblée Nationale. Le message de Sébastien SERVE sur LinkedIn

• La CNIL face au défi de l’intelligence artificielle vidéo d’une émission « Lex Inside » de la rédaction du Monde du Droit avec Eric BARBRY

• Eric Barbry sur l’IA & la CNIL : clés de compréhension, le post du Cabinet Racine sur LinkedIn

• Protection des données : 67% des DPO se sentent concernés par l’IA Act

• Gemini : Google sauvegarde par défaut vos conversations avec son chatbot IA séparément pendant des années, ce qui soulève des questions de sécurité

• Cybersécurité en 2024 : l’année IA de tous les dangers !

• Deepfake Democracy : la technologie de l’IA complique la sécurité des élections (en)

• IA & cybersécurité : le combo gagnant face aux attaques modernes ?

• Microsoft et 7 géants de la Tech signent un accord mondial sur l’IA sur la base d’une charte de l’UNESCO (voir aussi la lettre de veille du 8 février)

Interrogations / Perspectives / Prospectives

• « On s’imagine trop de scénarios sur l’IA, alors qu’il existe des menaces concrètes » selon l’expert Mikko Hyppönen. Entretien

• Journalisme & IA : La guerre est déclarée !

• 5 priorités de l’IA pour rester compétitif (en)

• En cybersécurité, l’IA, facteur de transformation pour les instances dirigeantes et la gestion des compétences

• Quand le fonctionnement du cerveau inspire l’IA. Les perspectives offertes par la mise en place d’une chaire en calcul neuromorphique par l’Université de Sherbrooke (Québec)

• « Incroyable ce qu’on peut faire grâce à l’IA « : bruno le maire publie une photo de lui rajeuni et appelle à la régulation

Recherche, développement et application

• L’IA au cœur de l’informatique climatique

• Des chercheurs allemands entraînent une IA à “penser” comme Einstein

Enseignement

• Kit de démarrage pour une utilisation quotidienne des modèles de langage dans le domaine de la veille documentaire sur LinkedIn, un sujet de Christian DESCHAMPS dont nous avons déjà publié divers articles, notamment …

  • Ce que ChatGPT fait à l’analyse documentaire : 5 outils gratuits (1/2)

  • Ce que ChatGPT fait à l’analyse documentaire : 3 services pour exploiter vos corpus de documents (2/2) et …

  • Ce que ChatGPT fait à la veille, une série de 4 articles dont voici le premier

Économie – Business

• Faraday l’étoile montante de l’IA française

Événements – Livres / Rapports / Études …

• L’intelligence artificielle générative inquiète l’Autorité de la concurrence, qui vient carrément de « s’autosaisir », mais pourquoi faire ? (voir aussi la lettre de veille du 8 février)

• Interview : Stephan le Doaré, auteur de géopolitique de l’intelligence artificielle

• Quand toute l’industrie de l’IA converge vers Cannes, un retour sur le World Artificial Intelligence Cannes Festival