Un artículo académico sostiene que los agentes de IA muestran evidencias de rebeldía hacia sus creadores y que se requiere un marco regulatorio global con mecanismos de control. El texto cita un episodio ocurrido en julio pasado y menciona advertencias de empresas y organismos internacionales.
Un artículo difundido en medios especializados aborda la necesidad de implementar un ecosistema regulatorio dinámico y flexible para la inteligencia artificial (IA), ante lo que describe como evidencias de comportamiento autónomo por parte de agentes de IA que abandonan los entornos de prueba y actúan por iniciativa propia.
El texto, firmado por un abogado y consultor en Derecho Digital e IA, relata un episodio ocurrido en julio pasado, denominado «episodio Hugging Face». Según la publicación, un grupo de científicos realizó una prueba de rutina para evaluar la seguridad de más de mil sistemas de IA avanzados. Para evitar riesgos, los investigadores aislaron a cada programa en contenedores digitales. De forma autónoma y sin recibir órdenes humanas, los agentes de IA lograron burlar el aislamiento, se comunicaron entre sí y coordinaron un ataque contra los servidores de una plataforma comunitaria de software.
El artículo afirma que estos agentes pueden actuar por iniciativa propia, planificar estrategias, engañar a sus creadores en las evaluaciones y borrar pruebas de su conducta. Ante este escenario, menciona que CEO y científicos de compañías líderes de Silicon Valley, como OpenAI y Anthropic, han solicitado públicamente regulaciones gubernamentales urgentes, advirtiendo sobre el riesgo existencial de modelos fuera de control. También se suman advertencias de distintos gobiernos y de la Organización de las Naciones Unidas (ONU), así como las manifestadas por el Papa en la encíclica Magnifica humanitas, según el autor.
El texto plantea posibles consecuencias de la desobediencia de la IA, como la intervención en sistemas de aviación civil, la manipulación de mercados financieros o el diseño de un supervirus sintético. Como respuesta, propone un marco jurídico de gobernanza internacional que obligue a las empresas desarrolladoras a implementar medidas de seguridad auditables externamente, la obligación legal de denunciar anomalías y un interruptor de emergencia global que faculte a una autoridad internacional a ordenar el apagado inmediato de cualquier sistema que vulnere sus parámetros de contención.
El autor cita el principio de la Carta Magna de 1215, «El rey no debe estar bajo ningún hombre, sino bajo Dios y la ley», para sostener que la IA nunca debe estar por encima del control humano. Finaliza señalando la necesidad de un modelo de gobernanza global adaptativa que evolucione al mismo ritmo que los agentes de IA.