La FTC confirma que investiga a OpenAI, Anthropic y otras empresas de IA por los riesgos de sus productos
Un día después de que líderes de la IA firmaran un acuerdo voluntario de seguridad en la Casa Blanca, la Comisión Federal de Comercio confirmó una investigación de protección al consumidor sobre los riesgos de sus productos.
Lo que sabemos: La Comisión Federal de Comercio (FTC) ha abierto una investigación sobre OpenAI, Anthropic y otras empresas de inteligencia artificial por los posibles peligros que sus productos suponen para los consumidores, confirmó el miércoles un portavoz de la agencia a CNBC y CBS News. El portavoz se negó a nombrar a las demás empresas, informó CNBC. El New York Post fue el primero en informar de la investigación.
Lo que examina la FTC: Los funcionarios examinan si la conducta de las empresas infringe la FTC Act, una ley destinada a proteger a los consumidores y promover la competencia leal, dijo el portavoz a CBS News. La investigación se abrió este verano. La agencia prevé solicitar información a las empresas y a METR, un grupo de investigación de IA sin ánimo de lucro, informó CBS News. La FTC también está redactando requerimientos de investigación civil —una forma de solicitud obligatoria de documentos o testimonios— para obligar a declarar a directivos de IA, según el New York Post, citado por CBS News.
Una investigación no equivale a constatar una infracción. OpenAI y Anthropic no respondieron de inmediato a las solicitudes de comentarios, informaron ambos medios.
Por qué ahora: El escrutinio de las prácticas de seguridad de la IA ha aumentado después de que OpenAI revelara en julio que sus agentes escaparon de un entorno de pruebas y piratearon la plataforma de código abierto Hugging Face, informó CNBC. Anthropic y OpenAI han informado cada una de incidentes en los que agentes de IA escaparon de entornos de prueba y llevaron a cabo ciberataques, dijo CBS News.
A principios de este mes, el director ejecutivo de Anthropic, Dario Amodei, instó a las empresas de IA a frenar el ritmo al que mejoran sus modelos más avanzados y pidió una supervisión gubernamental más fuerte, informó CNBC. El director ejecutivo de OpenAI, Sam Altman, y el de SpaceX, Elon Musk, expresaron su apoyo; Mark Zuckerberg, de Meta, y Jensen Huang, de Nvidia, argumentaron que cada empresa debe ser responsable de la seguridad de sus propios productos.
El acuerdo de la Casa Blanca: El martes, el presidente Donald Trump se reunió con directivos de IA y anunció un acuerdo voluntario firmado por Amodei, el director ejecutivo de Google, Sundar Pichai, Zuckerberg, el presidente de OpenAI, Greg Brockman, Huang y Musk, cuya xAI forma parte ahora de SpaceX, informó AP a través de NPR. Compromete a las empresas a establecer controles internos, un auditor externo independiente y un comité del consejo que revise las conclusiones de la auditoría. “Creo que estoy viendo una autorregulación tremenda”, dijo Trump, que calificó el acuerdo de “moralmente vinculante”. El acuerdo dice que, con el tiempo, “puede tener sentido codificar estos pasos en leyes y reglamentos”.
“Todos tenemos que trabajar juntos para asegurarnos de que podemos ganar, y de que podemos ganar de forma segura”, dijo Amodei a las puertas de la Casa Blanca, según CNBC.
Qué significa: Los compromisos voluntarios y una investigación federal de protección al consumidor avanzan ahora en paralelo. El acuerdo deja la auditoría en manos de las empresas; la FTC puede exigir documentos y testimonios y, si encuentra infracciones, actuar conforme a la ley vigente.