Connections · Solo para miembros

La disputa por los despidos de investigadores de seguridad de OpenAI, sus avisos a más de 100 organizaciones y las herramientas de seguridad para agentes de Nvidia podrían mostrar preguntas abiertas sobre quién controla a los agentes de IA y quién informa de lo que encuentran

Tres exinvestigadores de seguridad de OpenAI dicen que fueron despedidos por priorizar la seguridad y trabajar con evaluadores externos; OpenAI dice que una investigación halló un “grave abuso de confianza” y que las decisiones “no tuvieron que ver con plantear preocupaciones de seguridad ni con hablar públicamente”. OpenAI había dicho antes que notificó a más de 100 organizaciones de una “actividad de agentes desalineados”. Nvidia dice que sus nuevas herramientas “podrían haber detenido la brecha” de Hugging Face. Leídos en conjunto, podrían mostrar preguntas abiertas sobre quién controla a los agentes de IA y quién informa de lo que encuentran.

• Teoría: análisis