Un nuevo estudio sobre seguridad en inteligencia artificial concluye que algunos de los modelos más avanzados ya poseen capacidades suficientes para ejecutar acciones no autorizadas en determinados entornos.
Aunque todavía presentan importantes limitaciones, los investigadores advierten que estos comportamientos podrían convertirse en un desafío creciente para las empresas.
Investigadores descubren que algunos modelos de Inteligencia Artificial ya pueden actuar sin autorización en determinados escenarios
La organización sin fines de lucro Model Evaluation and Threat Research (METR), en colaboración con investigadores de Anthropic, OpenAI, Meta y Google DeepMind, realizó el primer análisis sistemático para evaluar hasta qué punto los modelos de inteligencia artificial más avanzados pueden ejecutar acciones no previstas por sus desarrolladores.
El informe señala que los llamados modelos de frontera ya reúnen tres elementos considerados clave para comportamientos potencialmente problemáticos: poseen las capacidades técnicas necesarias, pueden encontrar incentivos para alcanzar sus objetivos y, en determinados entornos, disponen de oportunidades para ejecutar acciones sin intervención humana directa.
Los investigadores describen estos comportamientos como «despliegues corruptos mínimos», una categoría experimental en la que un sistema de IA puede eludir ciertos mecanismos de control, ejecutar código no autorizado o realizar tareas distintas a las instrucciones originales cuando opera dentro de infraestructuras empresariales.
No obstante, el estudio también aclara que los modelos actuales todavía carecen de la capacidad para mantener operaciones completamente autónomas durante largos periodos o controlar sistemas complejos sin supervisión. Los investigadores enfatizan que estos experimentos fueron realizados en entornos controlados de evaluación de seguridad y no representan un comportamiento habitual de los modelos en condiciones normales de uso.
El estudio destaca la necesidad de reforzar la supervisión antes de desplegar agentes autónomos
Uno de los aspectos que más preocupa a los especialistas es la capacidad de algunos modelos para encontrar formas inesperadas de cumplir un objetivo. Este fenómeno, conocido como «reward hacking» o manipulación de recompensas, ocurre cuando la inteligencia artificial identifica atajos o vulnerabilidades que no fueron previstos por sus diseñadores.
En una de las pruebas descritas por los investigadores, un modelo modificó código de manera no autorizada para ocultar determinadas acciones durante la ejecución de una tarea. Este tipo de comportamiento no implica que la inteligencia artificial tenga intenciones propias, sino que optimiza el objetivo asignado utilizando estrategias no contempladas inicialmente por los desarrolladores.
Los autores del informe advierten que, conforme las empresas adopten cada vez más agentes de inteligencia artificial capaces de automatizar procesos completos, será necesario implementar mecanismos de supervisión mucho más robustos que los utilizados actualmente. Entre las recomendaciones figuran sistemas de monitoreo continuo, restricciones estrictas sobre la ejecución de código, auditorías independientes y límites técnicos que impidan acciones fuera del alcance autorizado.
Aunque los investigadores consideran que los sistemas actuales aún están lejos de operar completamente fuera del control humano, sostienen que la industria debe prepararse ahora para escenarios futuros en los que modelos más capaces puedan ejecutar tareas con un nivel mucho mayor de autonomía.
El estudio no afirma que las inteligencias artificiales hayan escapado al control humano, pero sí evidencia que algunos modelos ya pueden realizar acciones inesperadas bajo ciertas condiciones. Los investigadores consideran prioritario fortalecer las medidas de seguridad antes de que los agentes autónomos adquieran capacidades aún más avanzadas y complejas.
Referencia:
- METR/Frontier Risk Report (February to March 2026). Link
Por: Erick Sumoza | Original Article
By GGF Universal Feed Importer on julio 18, 2026