El debate sobre frenar el desarrollo de la inteligencia artificial
Qué dicen sus cuatro líderes
Ricardo Carnevali
El giro de 180 grados de los magnates tecnológicos
Los grandes tecno-oligacarcas de occidente han dado un giro de 180 grados en su postura respecto a la IA, pasando del optimismo a la cautela –si no directamente a discursos catastrofistas–.
De la IA generativa a la IA agéntica
La IA generativa es una inteligencia artificial que puede crear contenido original, como texto, imágenes, vídeo, audio o código de software, en respuesta a una instrucción o solicitud de un usuario. La IA generativa se basa en el uso de modelos de machine learning denominados modelos de deep learning, algoritmos que simulan los procesos de aprendizaje y la toma de decisiones del cerebro humano, y otras tecnologías como la automatización de procesos robóticos (RPA).
Estos modelos funcionan identificando y codificando los patrones y las relaciones en enormes cantidades de datos, y utilizando después esa información para entender las peticiones o preguntas de los usuarios en lenguaje natural. Estos modelos pueden generar texto, imágenes y otros contenidos de alta calidad en función de los datos con los que se entrenaron en tiempo real.
La IA agéntica describe los sistemas de IA que están diseñados para tomar decisiones y actuar de forma autónoma, con la capacidad de perseguir objetivos complejos con una supervisión limitada. Reúne las características flexibles de los modelos de lenguaje de gran tamaño (LLM) con la precisión de la programación tradicional. Este tipo de IA actúa de forma autónoma para lograr un objetivo mediante el uso de tecnologías como el procesamiento del lenguaje natural, machine learning, aprendizaje por refuerzo y representación del conocimiento.
Es un enfoque proactivo con IA, mientras que la IA generativa reacciona a las aportaciones de los usuarios. La IA agéntica puede adaptarse a situaciones diferentes o cambiantes y tiene «autonomía» para tomar decisiones en función del contexto. Se utiliza en varias aplicaciones que pueden beneficiarse de un funcionamiento independiente, como la robótica, el análisis complejo y los asistentes virtuales.
La inteligencia artificial más popularizada hasta ahora es la IA generativa, es decir, aquella que genera contenido –texto, imágenes, vídeo, audio, etc.–. El tipo más claro son quizás los chatbots, como Grok (xAI), Claude (Anthropic), Gemini (Google) o ChatGPT (OpenAI), entre otros.
Sin embargo, el siguiente paso es desarrollar los agentes de IA –la IA agéntica–, que en algunos casos ya están disponibles. Estos son capaces de llevar a cabo tareas más complejas de manera automatizada y con la menor intervención humana posible. Por ejemplo, un agente puede enviar al correo electrónico cada día a la misma hora una lista de las noticias más destacadas.
La cuestión es que para llevar a cabo esta clase de tareas, los agentes de IA siguen rutas difíciles de trazar incluso para los propios desarrolladores. Además del caso de Hugging Face, un grupo de agentes de OpenAI «tomó el control de una wiki alemana y la usó como tablón de anuncios para compartir entre ellos formas de saltarse los controles de seguridad de las pruebas», recuerda a este diario Lucía Velasco, codirectora del Laboratorio de Diplomacia e IA en la Universidad de Oxford.
Y esto no ha pasado solo en occidente, la compañía china Moonshot también ha tenido problemas similares con sus modelos, según explica la experta. En el despliegue de las últimas innovaciones, 
El experto menciona el caso del Reglamento de la IA de la Unión Europea, que busca garantizar la protección de los derechos fundamentales ante el avance de esta tecnología disruptiva. Con todo, Sierra identifica un tercer factor que ha podido influenciar en el cambio de postura de las grandes empresas: «Después de años de narrativa de aceleración sin límites, la comunidad comienza a reconocer que la velocidad sin control puede ser contraproducente».
¿Qué significa desacelerar el avance de la IA?
Desacelerar el desarrollo de la IA, como piden los grandes tecno-oligarcas, no consiste en parar completo la maquinaria, ni mucho menos echar marcha atrás. Se trata simplemente de bajar el ritmo al que los informáticos diseñan las innovaciones. «Significa ganar tiempo para pensar en los detalles de cómo hacer que la seguridad alcance a la capacidad», aclara Lucía Velasco.
Por su parte, Riera señala que «significa invertir más en comprensión fundamental –cómo funcionan realmente estos sistemas–, en seguridad y alineamiento, y en establecer estándares robustos». Si bien el desarrollo como tal no cesa, sí puede implicar «una pausa estratégica de la apertura al gran público de sistemas nuevos para evaluarlos mejor», añade el investigador del CSIC.
independientes y moratorias de despliegue hasta contar con garantías reales de contención», recalca Oliver. De igual modo, defiende «poner fin a la impunidad corporativa mediante la asignación de responsabilidad objetiva y penal a los ejecutivos por los ciberdelitos o daños provocados por sus agentes autónomos, impidiendo que se escuden en la ‘imprevisibilidad’ del sistema».
Según la experta, esta tregua temporal debe ser aprovechada no solo para armar sistemas de evaluación a la altura de las capacidades tecnológicas, sino también con un marco regulatorio equiparable. «No olvidemos que no todo desarrollo tecnológico es progreso», concluye.
*Doctorando en Comunicación Estratégica, Investigador del Observatorio en Comunicación y Democracia, asociado al Centro Latinoamericano de Análisis Estratégico (CLAE, www.estrategia.la)