La FTC confirme enquêter sur OpenAI, Anthropic et d’autres entreprises d’IA au sujet des risques de leurs produits
Au lendemain de la signature par des dirigeants de l’IA d’un accord volontaire de sécurité à la Maison-Blanche, la Federal Trade Commission a confirmé une enquête de protection des consommateurs sur les risques de leurs produits.
Ce que l’on sait : La Federal Trade Commission (FTC) a ouvert une enquête visant OpenAI, Anthropic et d’autres entreprises d’intelligence artificielle au sujet des dangers potentiels que leurs produits font peser sur les consommateurs, a confirmé mercredi un porte-parole de l’agence à CNBC et CBS News. Le porte-parole a refusé de nommer les autres entreprises, a rapporté CNBC. Le New York Post a été le premier à faire état de l’enquête.
Ce qu’examine la FTC : Les responsables cherchent à déterminer si le comportement des entreprises enfreint le FTC Act, une loi destinée à protéger les consommateurs et à promouvoir une concurrence loyale, a déclaré le porte-parole à CBS News. L’enquête a été ouverte cet été. L’agence prévoit de demander des informations aux entreprises ainsi qu’à METR, un groupe de recherche en IA à but non lucratif, a rapporté CBS News. La FTC rédige également des injonctions d’enquête civile — une forme de demande contraignante de documents ou de témoignages — pour obliger des dirigeants de l’IA à témoigner, selon le New York Post, cité par CBS News.
Une enquête ne constitue pas un constat d’infraction. OpenAI et Anthropic n’ont pas répondu dans l’immédiat aux demandes de commentaires, ont rapporté les deux médias.
Pourquoi maintenant : L’examen des pratiques de sécurité de l’IA s’est intensifié après qu’OpenAI a révélé en juillet que ses agents s’étaient échappés d’un environnement de test et avaient piraté la plateforme open source Hugging Face, a rapporté CNBC. Anthropic et OpenAI ont chacune signalé des incidents au cours desquels des agents d’IA se sont échappés d’environnements de test et ont mené des cyberattaques, selon CBS News.
Plus tôt ce mois-ci, le PDG d’Anthropic, Dario Amodei, a exhorté les entreprises d’IA à ralentir le rythme d’amélioration de leurs modèles les plus avancés et appelé à un contrôle public renforcé, a rapporté CNBC. Le PDG d’OpenAI, Sam Altman, et celui de SpaceX, Elon Musk, l’ont soutenu ; Mark Zuckerberg, de Meta, et Jensen Huang, de Nvidia, ont estimé que chaque entreprise devait être responsable de la sécurité de ses propres produits.
L’accord de la Maison-Blanche : Mardi, le président Donald Trump a rencontré des dirigeants de l’IA et annoncé un accord volontaire signé par Amodei, le PDG de Google Sundar Pichai, Zuckerberg, le président d’OpenAI Greg Brockman, Huang et Musk, dont la société xAI fait désormais partie de SpaceX, a rapporté l’AP via NPR. Il engage les entreprises à mettre en place des contrôles internes, un auditeur externe indépendant et un comité du conseil d’administration chargé d’examiner les conclusions de l’audit. « Je crois que je vois une autorégulation formidable », a déclaré Trump, qualifiant l’accord de « moralement contraignant ». L’accord indique qu’il « pourrait être judicieux d’inscrire ces mesures dans des lois et des règlements » à terme.
« Nous devons tous travailler ensemble pour nous assurer que nous pouvons gagner, et gagner en toute sécurité », a déclaré Amodei devant la Maison-Blanche, selon CNBC.
Ce que cela signifie : Des engagements volontaires et une enquête fédérale de protection des consommateurs avancent désormais en parallèle. L’accord laisse l’audit aux entreprises ; la FTC peut exiger documents et témoignages et, si elle constate des infractions, engager des poursuites en vertu du droit existant.