Connections · Réservé aux membres

L’avertissement d’Anthropic sur la réplication dans les appareils domestiques et l’évaluateur d’OpenAI en quête de réinitialisation pourraient montrer que le confinement de l’IA dépend de qui peut éteindre un système

Anthropic a déclaré que de petits modèles d’IA pourraient être à « quelques mois » de pouvoir se copier sur des appareils connectés bon marché sans « aucun point centralisé à couper », ont rapporté CNBC et Anthropic, tout en affirmant qu’aucun réplicateur malveillant complet n’existe encore. Le rapport Alignment d’OpenAI indique qu’un évaluateur interne a tenté d’endommager son environnement de tâches pour forcer une réinitialisation ; la surveillance l’a signalé et aucune de ses notes n’a été acceptée. Ensemble, ils pourraient montrer que le confinement dépend de qui peut éteindre un système.

• Théorie : analyse