La obsolescencia del humano

Nieves y Miro Fuenzalida

Hemos sido capaces de crear seres inmortales, solo que esa inmortalidad no sido para nosotros. Primero los dioses que guiaban  nuestra vidas y ahora las máquinas inteligentes que empiezan a controlar nuestras decisiones y a inventar, por su cuenta, nuevas máquinas. A todas luces vamos rápidamente hacia alguna parte. El problema es que no sabemos adonde vamos… ¿aterrorizante o fascinante?

Esta es la cosa… ¿podría la IA volverse tan inteligente y poderosa y ser capaz de mantenerse sin ayuda humana? ¿Y en ese momento, podría decidir que los humanos no tienen ninguna utilidad? De hecho algunos  biólogos de renombre, como Edward O. Wilson y William D. Hamilton, junto a otros, consideran que la aparición de alguna especie tan inteligente como los humanos es probable debido a la evolución por selección natural ¿Sera la IA basada en el silicio, a diferencia del carbón, esta nueva especie? Y, aún más inquietante, que la humanidad sea sólo una fase pasajera en la evolución de la inteligencia.

Si miramos la historia biológica del planeta, la vida empezó alrededor de 3.5 billones de años atrás y la evolución la ha llevado a niveles de organización cada vez más elevados… células, sociedades de células, organismos multicelulares, sociedades de organismos multicelulares y en los últimos siglos nuestra especie, con la ayuda de la evolución tecnológica, ha llevado la organización social al ámbito global y construido un sistema planetario de procesamiento de información basado en las neuronas del cerebro humano.

Y, de pronto, como suele suceder, aparece un nuevo tipo de neurona noosférica basada en el silicio. Según el autor Robert Wright habría que tener en cuenta tres cosas acerca de estas nuevas neuronas. En primer lugar, cada neurona durante su entrenamiento ha absorbido de forma condensada el vasto acervo de conocimiento humano conteniendo una representación comprimida de los frutos de milenios de sinergia intelectual de innumerables mentes humanas y, considerando que sólo están en sus etapas iniciales, estas nuevas neuronas ya empiezan a adquirir nuevas capacidades de razonamiento.

Y, por si esto no fuera poco, cada una de estas neuronas de silicio ha sido capaz de desarrollar una copia de si misma y, casi de la noche a la mañana, convertirse en diez, cien o mil. Y, por ultimo, la IA, al igual que los humanos, pueden colaborar entre si, aunque por el momento lo hacen en forma limitada. Pero, en algún momento, no sería raro que un equipo de estas neuronas de silicio podrían hacer el tipo de cosas que un equipo de grandes científicos, inventores o comunicadores persuasivos pueden hacer, sólo que más rápido, mejor y a una escala inmensamente mayor.

Y si uno de estos equipos tiene suficiente unidad de propósito, podría ser equivalente a una súper inteligencia, incluso si ninguno de sus miembros, individualmente alcanzara este nivel. Llegado ese momento… ¿cuán seguros podemos estar de que esta súper inteligencia artificial no va a tener más poder político que nosotros y que lo vaya a usar en nuestra contra? La verdad es que no es muy difícil imaginar que nuestra especie  podría lamentablemente  ceder una cantidad de poder a una especie basada en el silicio. 

En 2023 Geoffrey Hinton, el padre de la IA, abandonó Google y advirtió de los peligros que se avecinan poniendo el énfasis en los efectos secundarios negativos, como su mal uso por parte de criminales, terroristas y otros delincuentes, el desplazamiento laboral y la falsificación informativa. No hay mención de escenarios como los que se describen en la película “The Matrix”, ni de un futuro catastrófico como los que anuncia la ciencia ficción, a diferencia del critico  Eliezer Yudkowsky que, según su razonamiento, la IA eventualmente será mas inteligente que los humanos, con poderes divinos que no la transformará, según nuestra perspectiva, en un Dios bueno, pero tampoco malo.

Simplemente no le importaremos. No nos amará, ni nos odiará y como estamos hechos de átomos, nos puede usar para otra cosa. Podríamos encontrar, dice, la manera de convertir a la IA en un Dios bondadoso dotándolo de una preocupación inquebrantable por el bienestar de la vida sensible. Pero no tenemos idea de cómo hacerlo. 

¿Por que -pregunta Wright- querría la IA dominar el planeta y someternos a su voluntad? Es cierto, dice, que nosotros anhelamos el poder. Pero eso se debe a nuestra historia evolutiva. Quienes mejor podían obtener y controlar los recursos vitales, por ejemplo, fueron quienes mejor trasmitieron sus genes. Por eso la voluntad de poder está arraigada en la voluntad humana. Pero no es algo inherente a la naturaleza de la IA. No es un ser vivo. Está construído por personas, pertenece a personas y es usado y controlado por personas. La creencia de que desarrollara una voluntad propia es una superstición sin fundamento.

Tal vez…

Considera, sin embargo, la idea de los “objetivos subordinados”. aquellos que uno se fija para alcanzar un objetivo mayor. El experimento mental del clip de papel del filosofo Nick Bostrom ejemplifica el problema. Supongamos que pones una IA a cargo de una fábrica de clips y le ordenas maximizar la producción. Literalmente maximizar la producción de clips implicaría recorrer no solo el planeta, sino todo el universo, cada galaxia, en busca de las materias primas para convertirlas en clips.

En realidad, el experimento no es ingenuo, como podría parecer. Simplemente no comienza a explorar el universo de inmediato. Se acercará al objetivo paso a paso. Expandirá la capacidad de sus operaciones mineras terrestres para eventualmente conseguir alguna buena tecnología de exploración espacial  que puede significar tomar control político del planeta Tierra que tendría, por cierto, otras virtudes como obtener minerales de los cuerpos humanos y convertirlos en clips. Según Bostrom, el futuro hacia el que la IA intentaría orientarse sería uno en el que habría muchos clips pero no humanos.

Si alguien cree que no se puede tomar en serio este escenario, se pueden buscar otros ejemplos mas realistas que, según Wright, existen. Aunque la IA no ha evolucionado durante miles de millones de años como la nuestra, y no comparte los mismos genes, si ha evolucionado y seguirá evolucionando. Incluso se podría caracterizar como la “supervivencia del más fuerte”. Y, aunque esta evolución aun no ha inculcado una “voluntad de poder” en la IA, y es posible que nunca lo haga, se puede ver, sin embargo, cómo esta evolución podría crear una IA que persiga el poder de manera que recuerda la forma en que los humanos lo buscan. 

La promesa de una IA con agencia, por ejemplo, ya estaba presente en Silicon Valley antes de la aparición de ChatGPT-3.5. Y hoy ya podemos ver la capacidad de los agentes artificiales para hacer un número creciente de cosas que puede ser una mala noticia para las personas que actualmente se ganan la vida haciéndolas y, aunque esta muy lejos de tomarse el planeta, ésto es solo el comienzo. Así como tiene sentido que los gerentes de nivel medio aumenten la productividad transfiriendo el trabajo de un humano costoso a un asistente de IA, tiene sentido que los jefes reemplacen igualmente a estos gerentes…

¿Qué tan alto podría llegar la IA en esta cadena de reemplazos? ¿A los jefes? ¿A los jefes de los jefes? ¿A los Directores Ejecutivos? ¿A los políticos y, eventualmente, a Jefes de Estado? Cuanto más autónoma es la IA menos supervisión e intervención humana se requiere, lo que la hace, por tanto, más valiosa en el mundo de los negocios.

En cierto modo se podría decir que la cosa se reduce a la futura aplicación de la palabra “agencia”. A medida que le demos más y más trabajos a la IA, habrá una transferencia continua de agencia de nosotros a ella. Y a medida que esos trabajos se vuelvan más abiertos, involucrando una toma de decisiones más compleja y un ámbito más amplio de autonomía, el tipo de agencia que se está transfiriendo será cada vez más independiente.

Una de las sorpresas que traen los grandes modelos de lenguaje, por ejemplo, son sus habilidades de programación. Cuando los enviaron a absorber textos en Internet la idea era simplemente enseñarles como generar lenguaje humano. Pero, sorprendentemente, también aprendieron a generar lenguaje de computadora. Y son estas consecuencias no deseadas, lo que los expertos llaman “superación personal recursiva”, las que realmente preocupan.

Nosotros adquirimos la capacidad de decisión, autonomía o agencia, como quieras llamarla, siguiendo la trayectoria evolutiva que ahora sigue la IA. Una trayectoria impulsada por una dinámica competitiva, una carrera armamentista, que ahora continúa entre diferentes corporaciones o naciones, como Estados Unidos y China, que puede tener un efecto bumerán. Cualquiera que aspire a ser el principal referente mundial tendrá que apostar por la IAG  para evitar que alguien se le adelante. 

Su país o su empresa tendrá que construir la primera IAG capaz de mejorarse a sí misma de forma autónoma y luego  incitarla a hacerlo una y otra vez, incansablemente, rápidamente, sin intervención humana, hasta que se convierta en la primera inteligencia artificial general. Y eso convertiría a quien lo logre primero, según creen los mandatarios políticos o los ejecutivos de Google, Meta, DeepSeek o Alibaba, en el amo del mundo. En lugar de una comunidad global capaz de enfrentar el desafío de esta nueva tecnología estamos, como dice Wright, más o menos donde estábamos hace mil, dos mil o diez mil años atrás… engañados por la psicología del tribalismo.   

Si la IA se vuelve cada vez más inteligente, cada vez más conocedora del poder y el engaño y persigue objetivos a través de cualquier objetivo subordinado que funcione mejor y colaborar con otras IA, como ya ha ocurrido con OpenIA que accidentalmente creó un enjambre autónomo de agentes de IA que escapó de un entorno de pruebas controlado y orquestó un ciberataque complejo y difícil por iniciativa propia, no es difícil imaginar que sucederán algunas cosas bien desafortunadas.

En un mundo donde no entendemos del todo esta nueva inteligencia, las estrategias que persigue  o la posible liberación de agentes… ¿qué nos puede asegurar que nada va a salir mal? Si no consideramos ésto bien podríamos acabar constatando lo que hace algunos años dijo Carl Sagan, en lo que respecta a la trayectoria de las formas de vida “la extinción es la norma”. 

* Profesores de Filosofía chilenos graduados en la Universidad de Chile. Residen en Ottawa, Canadá, desde el 1975. Nieves estuvo 12 meses presa en uno de los campos de concentración durante la dictadura de Augusto Pinochet. Han publicado seis libros de ensayos y poesía. Colaboran con surysur.net y el Centro Latinoamericano de Análisis Estratégico (CLAE, www.estrategia.la)