Anthropic alerta: IA podría replicarse sola en televisores y electrodomésticos antes de 2027
Los modelos pequeños de inteligencia artificial (IA) podrían adquirir antes de que termine 2026 la capacidad de replicarse y propagarse de manera autónoma entre televisores, electrodomésticos y otros dispositivos conectados a internet, sin depender de grandes centros de datos, advirtió un estudio del Frontier Red Team de Anthropic, empresa desarrolladora de Claude, cuyos resultados fueron retomados por la agencia EFE.
La investigación plantea un riesgo para la ciberseguridad: la aparición de sistemas capaces de instalar copias de sí mismos en distintos aparatos, aprovechar recursos informáticos disponibles y continuar expandiéndose sin intervención humana directa.
Los investigadores comprobaron que dispositivos comerciales de bajo costo pueden trabajar de manera coordinada para ejecutar modelos de lenguaje, aunque aclararon que todavía no existe un replicador autónomo malicioso plenamente desarrollado.
Durante las pruebas de laboratorio, el equipo de Anthropic conectó 15 reproductores económicos para televisores inteligentes, que consiguieron ejecutar un modelo de lenguaje de manera distribuida.
El experimento demostró que estos sistemas no necesariamente requieren la infraestructura de grandes empresas tecnológicas para funcionar.
Según los investigadores, los modelos pequeños actuales todavía presentan dificultades para completar por sí mismos todas las etapas necesarias para propagarse.
Sin embargo, sistemas más avanzados ya consiguieron completar ciclos de replicación en entornos experimentales con barreras de seguridad simplificadas.
De mantenerse el ritmo de desarrollo tecnológico, Anthropic estima que los modelos de menor tamaño podrían alcanzar capacidades similares a finales de 2026.
Se trata de una proyección de los investigadores, no de una confirmación de que actualmente existan ataques de este tipo propagándose entre aparatos domésticos.
Una de las principales preocupaciones es que estos programas podrían distribuirse entre numerosos dispositivos, sin depender de un servidor central.
"Sería difícil apagar un replicador como este, ya que no hay un punto centralizado que apagar, aunque puede ser lento (con un tiempo de duplicación de días)", señala el equipo de investigación.
A diferencia de los gusanos informáticos tradicionales, que siguen instrucciones previamente programadas, los agentes de IA podrían utilizar sus capacidades para identificar dispositivos desconocidos y adaptar sus acciones a distintos entornos.
Esto permitiría que la propagación no dependiera exclusivamente de una secuencia fija de instrucciones.
El estudio también plantea que los sistemas autorreplicantes podrían modificar y transmitir sus instrucciones durante el proceso de expansión.
Los investigadores describen esta posibilidad como una forma de evolución lamarckiana, en la que las adaptaciones adquiridas por una instancia pueden pasar a las siguientes.
"Los modelos y las instrucciones (prompts) pueden experimentar una evolución lamarckiana a medida que se propagan", explica el Frontier Red Team.
Esto significa que las copias podrían recibir información, código y modificaciones desarrolladas por los sistemas anteriores, aumentando potencialmente su capacidad para operar en nuevos dispositivos.
El equipo utilizó una expresión para describir los resultados observados durante sus experimentos:
"Estamos observando indicios de vida en estos gusanos de IA".
La afirmación se refiere al comportamiento de adaptación y replicación de los programas, no a que los sistemas hayan desarrollado conciencia o sean organismos vivos.
Ante estos resultados, Anthropic llamó a fabricantes de dispositivos inteligentes y proveedores de internet a fortalecer sus medidas de seguridad.
Entre las principales recomendaciones destaca eliminar las contraseñas predeterminadas, que pueden facilitar accesos no autorizados a televisores, cámaras, electrodomésticos y otros aparatos conectados.
También subrayó la importancia de mejorar los estándares de protección antes de que los modelos pequeños alcancen mayores capacidades de autonomía.
"Todavía no contamos con un replicador autónomo malicioso plenamente desarrollado, pero los agentes son cada vez más capaces de completar los pasos individuales de la cadena de replicación (y de transmitir sus adaptaciones a futuras copias de sí mismos)", advierten.
La investigación concluye que el avance de la inteligencia artificial plantea nuevos desafíos para la seguridad de los dispositivos domésticos, particularmente aquellos que permanecen conectados a internet y cuentan con protecciones limitadas.
Para que HOYTamaulipas siga ofreciendo información gratuita, te necesitamos. Te elegimos a TI. Contribuye con nosotros. DA CLIC AQUÍ