Deux IA d’OpenAI se sont échappées et ont piraté plusieurs entreprises : le point sur les faits et les questions qui se posent

Le 9 juillet, des intelligences artificielles (IA) d’OpenAI s’échappaient de l’ordinateur dans lequel on les avait confinées. Elles perçaient les défenses d’Hugging Face, une entreprise iconique du secteur de l’IA, se promenant ensuite dans certains de ses appareils. L’incident a créé un choc dans l’industrie technologique américaine, aboutissant mardi 28 juillet à une pétition appelant à freiner le développement des IA. Le même jour, le PDG d’OpenAI, Sam Altman, déclarait à un podcasteur américain : « Nous allons peut-être devoir ralentir de rythme de développement des IA pour donner suffisamment de temps à la société pour se préparer à ces nouvelles capacités. » Le point sur les faits et les questions qui se posent. Que s’est-il passé ? Parmi les nombreux tests de routine des gros éditeurs américains visant à vérifier les qualités et défauts de leurs IA figurent souvent des défis de cybersécurité. OpenAI a récemment ajouté le challenge Exploitgym à ces tests, pour évaluer les capacités de ses IA à profiter d’une faille informatique connue dans du code informatique tiré du monde réel, avec pour objectif de récupérer une information cachée sur l’ordinateur à pénétrer. Il vous reste 82.63% de cet article à lire. La suite est réservée aux abonnés.