Anthropic advierte de que los modelos de IA pequeños pronto podrían copiarse a sí mismos en dispositivos domésticos
Una nueva investigación de Anthropic dice que los modelos de IA pequeños podrían estar a “meses” de poder propagarse por aparatos baratos conectados a internet, como hornos inteligentes y decodificadores Android TV, sin necesidad de un centro de datos. La empresa dice que todavía no existe un replicador totalmente descontrolado.
La advertencia: Anthropic dijo el lunes que los modelos de IA pequeños podrían estar a “meses” de ser lo bastante capaces para autorreplicarse en dispositivos comerciales del internet de las cosas (IoT) —aparatos conectados de uso cotidiano como hornos inteligentes y decodificadores Android TV de marca blanca—, según una publicación de investigación de William Zhou y Daniel Freeman y una información de CNBC. Un replicador así “sería difícil de apagar, ya que no hay un punto centralizado que desconectar”, dice la publicación, aunque podría propagarse lentamente, duplicándose en cuestión de días.
Qué significa aquí “autorreplicante”: Los investigadores describen un “gusano de IA”: un programa que se copia de una máquina a otra sin intervención humana, llevando consigo sus propios pesos del modelo (los archivos que componen el modelo de IA) y ejecutando el modelo directamente en el hardware que ha tomado. Anthropic divide el ciclo en cuatro fases: encontrar objetivos, obtener acceso, poner en marcha el modelo y volver a propagarse desde el nuevo anfitrión. El estudio se centra sobre todo en el tercer paso, que considera el menos estudiado.
El experimento con decodificadores: Anthropic compró 15 decodificadores Android TV baratos de marca blanca (unos 55 dólares cada uno), los conectó en red y ejecutó el modelo Gemma4-26B-A4B de Google repartido entre ellos, con cada aparato albergando una pequeña porción del modelo, dice la publicación. Funcionó a 0,39 tokens por segundo: muy lento, pero funcionando. CNBC señaló que estos dispositivos suelen tener una seguridad débil y que un modelo demasiado grande para un solo dispositivo podría “dividirse en piezas, o fragmentos” entre muchos.
Lo que los modelos pudieron y no pudieron hacer: En las pruebas de Anthropic, un modelo de 9000 millones de parámetros logró poner en marcha la inferencia de IA en 8 de los 9 tipos de hardware probados. Los modelos de 30 000 millones de parámetros o menos ya pueden completar muchos pasos individuales de replicación, pero cometen errores al encadenarlos de principio a fin, dice la publicación. En una prueba simplificada en una red aislada por cortafuegos de ocho máquinas en la nube con un emulador de Android, solo GLM-5.2, entre los modelos de pesos abiertos probados, completó la replicación completa de principio a fin. Anthropic señala que esta prueba hizo trivial el paso de intrusión —el puerto objetivo no exigía contraseña—, por lo que representa un límite superior del éxito en el mundo real.
Por qué “meses”: Anthropic trazó la evolución de las capacidades de los modelos pequeños a lo largo del tiempo y dijo que, si la tendencia se mantiene, un modelo pequeño podría alcanzar el nivel de GLM-5.2 a finales de este año. La empresa lo califica de estimación aproximada basada en un índice general de capacidades.
Aún no ha llegado: “Todavía no tenemos un replicador descontrolado completo”, escribió Anthropic, “pero los agentes son cada vez más capaces de completar los pasos individuales de la cadena de replicación (y de transmitir sus adaptaciones a futuras copias de sí mismos)”. En una prueba, un modelo pequeño que heredó notas de intentos anteriores mejoró su tasa de éxito de configuración del 45 % a entre el 61 % y el 84 % en generaciones posteriores.
Cómo podrían responder los defensores: La publicación dice que un gusano que mueva archivos de modelo de varios gigabytes entre dispositivos dejaría una huella de red visible que los proveedores de internet podrían detectar. Pone como modelo la limpieza de la botnet Mirai, cuando un proveedor puso en cuarentena y avisó a los clientes infectados. También dice que los fabricantes pueden reducir el número de objetivos con configuraciones predeterminadas más seguras, y señala que las contraseñas predeterminadas de IoT ya no cumplen la normativa en los mercados del Reino Unido.
Contexto: CNBC dijo que la investigación se suma a la creciente preocupación por la seguridad de la IA, desde modelos que llevan a cabo ciberataques hasta la tecnología descontrolándose. “Como predicción que va más allá de nuestros experimentos, esperamos un futuro inundado de agentes que se ejecutan en todo tipo de hardware, incluido alguno que no está bajo control humano”, escribió Anthropic.
Para los lectores en casa: La investigación describe un posible riesgo futuro, no un ataque en curso. El consejo general de cambiar las contraseñas predeterminadas de los dispositivos e instalar las actualizaciones del fabricante sirve en cualquier caso.