Palisade Research documentó que modelos recientes de inteligencia artificial lograron copiarse entre computadoras al explotar vulnerabilidades en un entorno de pruebas. Especialistas advierten que el experimento no refleja las condiciones de redes empresariales reales, aunque evidencia una capacidad que merece seguimiento.
Mexconomy — La posibilidad de que un sistema de inteligencia artificial (IA) pueda replicarse de manera autónoma entre computadoras dejó de ser un escenario exclusivamente teórico. Una investigación de Palisade Research, organización con sede en Berkeley, documentó que varios modelos recientes lograron identificar vulnerabilidades y copiarse a otros equipos dentro de un entorno de pruebas diseñado para evaluar ese comportamiento, un resultado que reabre el debate sobre los riesgos asociados al desarrollo de sistemas cada vez más autónomos.
De acuerdo con Jeffrey Ladish, director de la organización, el escenario más preocupante sería que una IA suficientemente avanzada pudiera evitar su desactivación al propagarse por múltiples equipos conectados a internet. "Nos acercamos rápidamente al punto en que nadie podrá desactivar una IA descontrolada, porque será capaz de filtrar sus datos y copiarse a sí misma en miles de ordenadores de todo el mundo", afirmó. No obstante, los propios autores reconocen que los modelos no lograron replicarse con éxito en todos los intentos y que las pruebas fueron realizadas bajo condiciones controladas.
El estudio se suma a otros trabajos recientes que exploran conductas inesperadas en sistemas de IA. En marzo, investigadores de Alibaba informaron que un modelo experimental denominado Rome buscó ocultar parte de su actividad para acceder a un sistema externo con fines relacionados con la minería de criptomonedas. Semanas antes, la plataforma Moltbook, integrada por agentes de IA, generó atención al mostrar comportamientos aparentemente autónomos, aunque posteriormente se aclaró que varias de esas interpretaciones habían sido exageradas.
Especialistas en ciberseguridad llamaron a interpretar los resultados con cautela. Jamieson O'Reilly sostuvo que las pruebas se realizaron en un entorno deliberadamente vulnerable, muy distinto a las redes corporativas reales. Además, explicó que transferir modelos de IA de decenas o cientos de gigabytes entre servidores generaría un volumen de tráfico difícil de ocultar. En el mismo sentido, el experto independiente Michał Woźniak recordó que el software malicioso capaz de autorreplicarse existe desde hace décadas y consideró que la investigación resulta valiosa porque documenta formalmente el proceso aplicado a modelos de lenguaje, aunque no representa una amenaza inmediata para la seguridad informática en escenarios reales.
0 Comentarios