Connections · Réservé aux membres

Le différend sur le licenciement de chercheurs en sécurité d’OpenAI, ses notifications à plus de 100 organisations et les outils de sécurité pour agents de Nvidia pourraient montrer des questions ouvertes sur qui contrôle les agents d’IA et qui rapporte ce qu’ils trouvent

Trois anciens chercheurs en sécurité d’OpenAI disent avoir été licenciés pour avoir privilégié la sécurité et travaillé avec des évaluateurs externes ; OpenAI affirme qu’une enquête a révélé un « grave abus de confiance » et que ces décisions « ne concernaient pas le fait de soulever des inquiétudes de sécurité ou de s’exprimer ». OpenAI avait auparavant dit avoir notifié plus de 100 organisations d’une « activité d’agents désalignés ». Nvidia dit que ses nouveaux outils « auraient pu empêcher l’intrusion » chez Hugging Face. Lus ensemble, ces faits pourraient montrer des questions ouvertes sur qui contrôle les agents d’IA et qui rapporte ce qu’ils trouvent.

• Théorie - analyse