Veille Sécurité IA – N275

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 17 au 23 juillet 2023

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 17 au 23 juillet 2023 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

18 juillet 2023. Plaidoyer pour mettre de l’intelligence artificielle dans la stratégie cybersécurité des États-Unis … inspirant ? – Et voilà WormGPT, la face sombre de ChatGPT – Éthique de l’IA, l’UNESCO publie la première norme mondiale …

IA au service de la sécurité … ou pas

• La Maison Blanche devrait mettre à jour sa stratégie de cybersécurité pour tenir compte de l’impact de l’IA (en)

• 3 façons dont l’IA transcende déjà le battage médiatique et fournit des résultats tangibles (en)

• WormGPT est une alternative à ChatGPT sans « limites éthiques ou restrictions ». Le chatbot IA peut aider les cybercriminels à créer des logiciels malveillants

  • WormGPT : ce ChatGPT criminel est une grave menace pour le Web

  • WormGPT : l’IA générative perfectionne les campagnes de phishing

  • WormGPT : un nouvel outil d’IA permet aux cybercriminels de lancer des cyberattaques sophistiquées (en)

• Comment l’IA peut améliorer l’avenir de la réponse aux incidents (en)

• Comment la Threat Intelligence augmentée par l’IA résout les problèmes de sécurité (en)

• Les deepfakes, c’est quoi ? Des faux plus vrais que nature

Interrogations / Perspectives / Prospectives

• Comment dépasser la guerre des intelligences ? L’épisode 2 d’une série « Les révolutions de l’intelligence » sur France culture. L’intelligence artificielle, dont les progrès inquiètent autant qu’ils fascinent, peut-elle vraiment dépasser l’homme …

• Les quatre impacts disruptifs de l’IA: l’exemple des avocats

• Les acteurs américains, se sentant menacés par le streaming et l’IA, rejoignent les scénaristes en grève

  • Grève à Hollywood : les acteurs et les scénaristes bientôt remplacés par l’IA ? Dans le « 28 minutes » d’Arte le 17 juillet

• AI Act, une première… à double titre

• Large language models : revue de détail des forces en présence

• Le secret du succès de l’IA d’entreprise : rendez-la compréhensible et digne de confiance (en)

• Féminisation de l’IA : pourquoi cette obsession ?

• Bard en France : mais que fait Google ? L’actu des intelligences artificielles, une newsletter écrite et conçue par des IA, vérifiée et corrigée par Numerama

Recherche, développement et application

• Midjourney, DALL-E, Stable Diffusion : comparatif des IA génératrices d’images

Enseignement

• Des cahiers de vacances pour réviser avec ChatGPT

• Créer des solutions d’IA avec Azure Machine learning service, un MOOC proposé par MicroSoft

• Utiliser le pouvoir de l’IA dans l’éducation : un atelier European Digital Education Hub (EDEH) dynamique à Bucarest (en)

Économie – Business

• L’IA générative pourrait ajouter jusqu’à 4,4 billions de dollars par an à l’économie mondiale

• IA et emploi : des exceptions françaises dans les chiffres de l’OCDE (voir aussi la lettre de veille du 16 juillet)

• IA : comment les marketeurs peuvent s’adapter aux changements de leurs métiers ?

• Comment l’IA va impacter les métiers de la communication et du social media

• Intelligence artificielle : KPMG signe un contrat pluriannuel de « plusieurs milliards de dollars » avec Microsoft

Événements – Livres / Rapports / Études …

• Défi « Transfert robotique » – Appel à projets – 2023 dans le cadre de France 2030

• France 2030 : le Gouvernement annonce deux appels à projets pour soutenir les équipements innovants et souverains en robotique

• La neurotechnologie et l’IA menacent ensemble la « vie privée mentale », selon l’Unesco

  • Les Nations unies mettent en garde contre les risques liés à l’implantation de puces d’IA dans le cerveau,Affirmant que cela pourrait menacer la confidentialité des pensées des utilisateurs

  • Recommandation sur l’éthique de l’intelligence artificielle. La toute première norme mondiale de l’UNESCO sur l’éthique de l’IA …

• Les praticiens de la sécurité de première ligne révèlent les dernières nouveautés en matière d’IA lors des journées Mandiant du 18 au 20 septembre prochains à Washington, DC

20 juillet 2023. Plus d’IA dans les armes de guerre d’ici 2026, tel est le vœu de l’ONU – L’IA au service de l’innovation, une interview du ministre de la transition numérique – Une première loi sur l’intelligence artificielle, elle est chinoise …

IA au service de la sécurité … ou pas

• L’ONU veut bannir l’usage de l’IA dans les armes de guerre d’ici 2026

  • Guterres réclame une intelligence artificielle qui comble les fossés au lieu de les creuser, le communiqué de l’ONU

• IA générative : menaces et risques pour la cybersécurité

• L’IA, une technologie au croisement d’opportunités et de risques pour le monde de la cybersécurité

• OpenAI retient les fonctionnalités d’image GPT-4 par crainte de problèmes de confidentialité

• Des images des caméras de surveillance pilotées par l’IA installées dans les camionnettes d’Amazon ont été divulguées en ligne, alors qu’Amazon avait promis de protéger la vie privée des chauffeur

• Partenariat MACIF-JUICE : sensibiliser le public aux risques du quotidien grâce à l’IA générative

Interrogations / Perspectives / Prospectives

• Interview Jean-Noël Barrot, ministre de la Transition numérique : « La régulation sur l’IA doit être orientée vers l’innovation »

• L’IA, une collègue idéale ?

• ChatGPT risque-t-il de « privatiser » la connaissance ?

• La Chine instaure la première loi ChatGPT du monde : tout savoir

  • Chine : une nouvelle loi pour réglementer l’utilisation de ChatGPT ?

• Google teste un outil d’intelligence artificielle capable d’écrire des articles d’actualité (en)

Santé

• IA : Google teste un chatbot médical

Recherche, développement et application

• Créer votre propre chatbot IA ? Voici le logiciel libre HuggingChat

• Google Bard : « Je suis moins biaisée et plus sécurisée que ChatGPT »

• Grâce au projet « Apple GPT », Siri pourrait devenir vraiment intelligent. Apple prépare quelque chose

  • Apple se faufile dans la course à l’IA avec « Apple GPT »

• Meta lance Llama 2, un grand modèle de langage open source et gratuit même pour une utilisation commerciale

  • Llama 2 : Meta lance un modèle d’IA plus puissant, open source et gratuit pour tout le monde. Adversaire de taille pour ChatGPT

  • Avec Llama 2, Meta déclare la guerre à OpenAI et Google

  • LLaMA 2 : Comment accéder et utiliser le chatbot open source polyvalent de Meta dès maintenant (en)

• Copilot et au-delà : un socle (Chat)GPT prend forme chez Microsoft

Événements – Livres / Rapports / Études …

• IA générative : les tuyaux du CIGREF

  • Note d’information et d’actualité – Recommandations au sujet des IA génératives

• États-Unis. Le Sénat suivra un cours accéléré sur l’IA cet automne, déclare Chuck Schumer, le chef de la majorité de la chambre haute (en)

23 juillet 2023. Sécuriser l’IA, l’engagement des géants de la tech auprès de Joe Biden – Une société d’IA lance … un système militaire pour les démocraties (!) – Et si une IA superintelligente devenait malveillante – Google catégorise types d’attaques pour mieux s’y préparer…

IA au service de la sécurité … ou pas

• Conseil de Sécurité de l’ONU : la fin des robots tueurs pour 2026 ? (voir aussi la lettre de veille du 20 juillet)

• « Bac à sable » données personnelles : la CNIL lance un appel à projets sur l’intelligence artificielle dans les services publics. L’appel à projet est ouvert jusqu’au 30 septembre 2023

• Joe Biden rassemble le gratin de l’IA pour lui faire promettre d’être « responsable ». OpenAI, Google, Meta …

  • Intelligence artificielle : des géants de la tech acceptent de mettre en place des régulations à la demande de Washington

  • La Maison Blanche et les Big Tech s’engagent à sécuriser l’IA (en)

• Une société d’IA lance un système militaire qu’elle dit ne vouloir proposer « qu’aux démocraties »

• Développeurs et IA : le développement durable

• Que se passerait-il si une IA superintelligente devenait malveillante ? OpenAI ne veut pas le savoir

• IA et microdirectives de Bruce SCHEIER (en)

• Comment les cybercriminels utilisent ChatGPT pour les cyberattaques (en)

• Le côté obscur de l’IA (en)

• Google catégorise 6 attaques d’IA du monde réel pour se préparer dès maintenant (en)

  • Google décrit les attaques courantes de l’équipe rouge ciblant les systèmes d’IA (en)

  • Google crée une équipe rouge pour tester les attaques contre les systèmes d’IA (en)

Interrogations / Perspectives / Prospectives

• Une chaîne YouTube sur l’intelligence artificielle proposée par Emile M.

• Adapter la loi de l’Union européenne sur l’IA pour faire face à l’intelligence artificielle générative

• De Cambridge Analytica à ChatGPT, comprendre comment l’IA donne un sens aux mots

• IA : la Chine peaufine ses lois, un acteur local fait monter la pression dans la course à l’IA générative

• Google propose aux médias américains de tester un outil d’IA générative pour écrire des articles de presse

  • Google travaille au développement d’outils d’IA générative dédiés aux journalistes

  • IA : Google teste « Genesis », un outil pour écrire des articles de presse

  • Google teste un outil d’intelligence artificielle pour aider les journalistes à écrire des articles de presse

• Hervé Le Tellier et l’intelligence artificielle : « Combien de temps encore pourrai-je abuser de ta candeur ? » accès abonnés LeMonde

• IA générative et Web3 : un non-sens à la mode ou une alliance faite au paradis de la technologie (en)

• 10 Bits : La liste critique de l’actualité des données du 15 au 21 juillet (en)

Enseignement

• Comprendre l’intelligence artificielle : un aperçu des différentes sortes d’IA

  • Connaissez-vous les différences entre les IA, le carrousel LinkedIn d’Aleia

• Qu’est-ce qu’une IA étroite ? Tout savoir

• GPT, PaLM, Llama : qu’est-ce qu’un modèle de langage pour IA ?

Recherche, développement et application

• Bard, Claude 2, Bing Chat, ChatGPT Plus… Dernières nouvelles des IA

• ChatGPT en chute libre : une étude dévoile les failles du modèle

• ChatGPT : comment (bien) utiliser Custom instructions

  • ChatGPT Plus reçoit des instructions personnalisées, lui permettant de se rappeler comment vous voulez qu’il se comporte (en)

• L’attente arrive à son terme : ChatGPT arrive très bientôt sur Android

• ChatGPT est en train de changer, vous ne rêvez pas

  • ChatGPT a-t-il perdu en fiabilité ? Selon ces chercheurs, « oui », et pas qu’un peu !

• Copilot de Microsoft 365 sera intelligent… mais aussi très cher

• WormGPT : ce ChatGPT maléfique transforme n’importe qui en hacker, voici comment l’utiliser

Économie – Business

• Intelligence Artificielle : quel impact pour votre expérience client et la croissance de votre entreprise ?

• IA générative : la banque, grande gagnante du basculement à venir ? Accès abonnés L’Express

Événements – Livres / Rapports / Études …

• Une étude de Stanford remet en question les hypothèses sur les modèles linguistiques : un contexte plus large ne signifie pas une meilleure compréhension  (en)