Veille Sécurité IA – N321

Intelligence artificielle

en sécurité et plus …

La lettre de veille hebdomadaire

du 3 au 9 juin 2024

Je vous propose ci-après un relevé de sujets sur l’intelligence artificielle notés dans l’actualité générale durant la semaine du 3 au 9 juin 2024 …

Et puis, indispensables à l’information et la réflexion, vos commentaires et précisions … alors, n’hésitez pas … guillet.lionel@gmail.com

Intelligence artificielle, sécurité et plus …

4 juin 2024. Comité de sûreté et de sécurité chez OpenAI – Bureau de l’IA pour la Commission de l’Union européenne – Apprendre à exploiter l’IA, une course contre la montre pour l’humanité selon l’ONU …

IA au service de la sécurité … ou pas

• L’IA amplifie la perte de souveraineté. Comment l’intelligence artificielle devient un catalyseur de nuisance, une analyse de Solange GHERNAOUTI

• Le cruel dilemme des données de santé à l’ère de l’IA : vie privée ou équité ?

• Comment la Russie tente de perturber les Jeux Olympiques de Paris 2024

• Pour ou contre de telles mesures ? Les forces de l’ordre utilisent des vans de reconnaissance faciale sur les passants au motif de combattre le crime, une approche qui matérialise la fiction Big Brother de 1984

• Renforcement d’une IA sûre et digne de confiance au sein de l’UE : la Commission annonce la création du Bureau de l’IA (voir aussi les lettres de veille du 30 mai et du 2 juin)

• OpenAI instaure un Comité de sûreté et de sécurité et confirme l’entraînement d’un nouveau modèle de frontière

Interrogations / Perspectives / Prospectives

• IA: l’humanité dans une course contre la montre, selon l’ONU

  • Sommet AI for Good : “Cette fracture numérique et technologique n’est plus acceptable”

  • Sommet sur l’intelligence artificielle : « Cette fracture numérique et technologique n’est plus acceptable », le communiqué de l’UIT

• Qu’y a-t-il de plus effrayant que l’IA incontrôlée ? Un « essaim » de 3 400 lobbyistes au service des intérêts spéciaux des entreprises d’IA pour influencer les gouvernements au détriment de l’intérêt général

• IA générative et propriété intellectuelle, les défis juridiques et les perspectives réglementaires, une analyse juridique

• « L’AI Act ne doit pas être un nouveau RGPD », d’après le Général Perrot, coordinateur IA à la gendarmerie nationale, accès abonnés UsineDigitale

Informations

• Huit géants technologiques s’associent contre NVIDIA sous le nom d’Ultra Accelerator Link : ils proposent une nouvelle norme d’interconnexion pour les puces accélératrices d’IA dans les centres de données

• Yann LeCun, pionnier de l’IA, critique vivement Elon Musk pour le traitement réservé aux scientifiques et la diffusion de fausses informations (voir aussi la lettre de veille du 30 mai) (en)

Enseignement

• ChatGPT Edu : L’IA de OpenAI dédiée aux besoins académiques

  • OpenAI présente ChatGPT Edu, révolutionnant l’enseignement supérieur

  • Présentation de ChatGPT Edu par OpenAI (en)

• Un quart des enseignants estime que l’utilisation des outils d’IA dans l’enseignement primaire et secondaire a plus d’inconvénients que d’avantages et seulement 6 % pensent le contraire

Économie – Business

• Investissements dans l’IA : l’UE doit rapidement passer à la vitesse supérieure

Événements – Livres / Rapports / Études …

• La réalité derrière le battage médiatique de l’IA : une étude de l’IFS révèle un manque de préparation organisationnelle

  • Les directions « adhére au battage médiatique sur l’IA » et s’attend à de la valeur, mais les recherches montrent que le manque de préparation organisationnelle est le principal obstacle, la présentation de l’étude par IFS (en)

6 juin 2024. Des employés d’OpenAI alertent sur « les risques sérieux de l’IA » – Panne générale des grands IA génératives, un avertissement pour les entreprises – L’IA au travail, un état des lieux …

IA au service de la sécurité … ou pas

• Des employés d’OpenAI exigent des protections pour alerter sur les « risques sérieux de l’IA«  sans subir de représailles mettant en garde contre les risques graves que la technologie fait peser sur l’humanité

• « Les scientifiques doivent utiliser l’IA comme un outil et non comme un oracle », affirment des chercheurs de l’université de Princeton selon lesquels l’engouement pour l’IA conduit à des recherches erronées

• IA générative : l’avantage ultime pour toute équipe de cybersécurité (en)

• Comment Doctolib a essuyé une cyberattaque assistée par IA

Interrogations / Perspectives / Prospectives

• “L’IA générative doit être dans l’ADN des entreprises”, une interview du secrétaire général pour l’investissement chargé du plan France 2030

• L’harmonisation européenne de la régulation de l’IA : implications pour la justice en France

• Apocalypse de l’IA ? ChatGPT, Claude et Perplexity reviennent en ligne après être tombés en panne en même temps, un avertissement pour les entreprises qui embrassent l’intelligence artificielle à tout va ?

  • Sommes-nous déjà accros à l’IA ? Un édito de Jérôme COLOMBAIN sur son podcast « Monde numérique »

• Le coût élevé du GPT-4o (en)

Information

• Elections européennes : l’Observatoire de l’Intelligence Artificielle dévoile son classement de la vision IA des partis politiques

• Afrique : Microsoft et Zindi s’allient pour renforcer les compétences en IA du continent

• IA générative : les grandes catégories de LLM, un dossier LeMagIT

Recherche, développement et application

• L’application mobile Gemini est désormais disponible sur android en France

• Mistral lance des outils de mise au point pour faciliter et accélérer la personnalisation de ses modèles (en)

Événements – Livres / Rapports / Études …

• Le parcours en cinq étapes que suivent les organisations pour atteindre la maturité en IA (en)

  • État des lieux de l’IA au travail, le rapport et sa présentation par Asana (en)

9 juin 2024. Pas de profilage par l’IA pour le droit sans consentement au sens du RGPD – Pas d’entraînement de l’IA de Meta avec vos données personnelles, sans votre consentement là aussi – Un « bouton d’arrêt d’urgence » pour les IA les plus puissantes, un projet de loi californien …

IA au service de la sécurité … ou pas

• OpenAI bloque des campagnes de désinformation générées par l’IA

• Recherche : Le droit de ne pas être soumis au profilage par l’IA basé sur des données publiquement disponibles sans consentement éclairé explicite car le règlement RGPD de l’UE ne garantit pas ce droit

• Une étude de Stanford révèle que les outils de recherche juridique sur l’IA sont sujets aux hallucinations (en)

• 11 plaintes contre Meta sur l’utilisation des données personnelles pour entraîner l’IA

  Facebook et Instagram vont utiliser vos données personnelles pour entraîner l’IA de Meta (sauf si vous refusez)

  L’ONG NOYB (None of your business) demande à 11 autorités de protection des données de mettre immédiatement un terme à l’utilisation abusive des données personnelles par Meta à des fins d’intelligence artificielle

  Les ennuis guettent Facebook après sa décision polémique sur les données des utilisateurs

  Meta prévoit d’utiliser vos données personnelles pour entraîner ses modèles d’IA sans demander de consentement mais le groupe de défense NOYB demande aux autorités de l’Europe d’y mettre un terme

• IA et données personnelles, une source de tensions et de contentieux

Interrogations / Perspectives / Prospectives

• Comment l’IA peut transformer le monde du travail d’ici 2030 ?

• « L’intelligence artificielle générative n’a rien de magique », une tribune de J-B Bouzige, consultant en technologie, accès abonnés LeMonde

• À l’ombre de l’IA générative, qu’est-ce qui reste spécifiquement humain ? (en)

Information

• Intelligence artificielle : L’allemand Helsing IA met au point des capacités autonomes pour le combat aérien

• La Cité de l’IA : bilan et perspectives d’une initiative stratégique en Hauts-de-France

• Les entreprises technologiques s’attaquent au projet de loi californien incluant la création d’un « interrupteur d’arrêt » pour désactiver leurs modèles d’IA les plus puissants

• 10 Bits : La liste critique de l’actualité des données du 1er au 7 juin (en)

Santé

• Comment la connexion de l’IA générative aux données médicales améliore l’utilité… des médecins

• Comment les établissements de santé s’emparent de l’IA via des cas d’usage concrets

Enseignement

• Les enseignants californiens utilisent l’IA pour corriger les devoirs des élèves. Mais qui corrige l’IA ? L’efficacité et la cohérence de l’IA pour la notation des devoirs suscitent des préoccupations

Recherche, développement et application

• Avec les suggestions basées sur l’IA, l’auteur du code devient de plus en plus un réviseur : Progrès de l’assistance à l’ingénierie logicielle basée sur l’IA chez Google et projections pour l’avenir

Entreprise – Économie – Business

• L’illusion de l’intelligence dans les outils de communication d’entreprise