La encíclica papal fue escrita en colaboración con la IA

Sin embargo, existen problemas importantes con el documento y la forma en que se publicó, en los que me centraré aquí. Por ejemplo, parece que Magnifica Humanitas fue escrito en parte por IA . El mejor software de detección de IA del mercado, Pangram, identifica párrafos enteros como generados al 100% por IA. 

Cabe destacar que Pangram prioriza evitar falsos positivos: si un pasaje se marca como generado por IA, es muy probable que lo sea . Pangram rara vez confunde la escritura humana con la IA. En cambio, es menos preciso en cuanto a falsos negativos, lo que significa que un texto determinado como escrito por humanos podría no serlo. Esto permite tener mucha confianza en que algo fue escrito por IA si Pangram lo señala como tal .

Según Pangram, los párrafos etiquetados como “7” y “8” en Magnifica Humanitas fueron generados íntegramente por IA. Otras secciones se identifican como escritas en un 11 % y un 60 % por IA. (Para más detalles, consulte aquí ).

Resulta bastante irónico, porque el pasado febrero el Papa imploró a los sacerdotes que resistieran «la tentación de preparar homilías con inteligencia artificial». Dijo: «Como todos los músculos del cuerpo, si no los usamos, si no los ejercitamos, se atrofian. El cerebro necesita usarse, así que nuestra inteligencia también debe ejercitarse un poco para no perder esta capacidad», y añadió que «dar una verdadera homilía es compartir la fe», y la IA «nunca podrá compartir la fe».

Sin embargo, el Papa elaboró ​​una contribución oficial a la doctrina de la Iglesia utilizando chatbots de IA. ¡Imagínense a un líder religioso diciendo una cosa y haciendo otra!) Esto es sumamente problemático por numerosas razones. En resumen, Anthropic es una empresa profundamente antiética . La considero incluso más problemática que OpenAI y DeepMind, en parte porque se presenta deshonestamente como más responsable que las demás empresas de IA . No lo es.

El Papa se alía con una secta utópica atea.

Pero esa no es la peor parte del asunto de la encíclica. Lo peor es que el Vaticano invitó a un cofundador de Anthropic, Christopher Olah , al evento en el que se anunció la encíclica .Esto es sumamente problemático por numerosas razones. En resumen, Anthropic es una empresa profundamente antiética . La considero incluso más problemática que OpenAI y DeepMind, en parte porque se presenta deshonestamente como más responsable que las demás empresas de IA . No lo es. Por ejemplo:

 

Por ejemplo:

• En 2025, Anthropic optó por buscar inversión en los Emiratos Árabes Unidos y Qatar, según un mensaje de Slack que el director ejecutivo, Dario Amodei, envió al personal. En el memorando, Amodei admitió que dicha inversión probablemente enriquecería a dictadores, y escribió que esto representa una desventaja importante y que no le entusiasma. Sin embargo, siguió adelante con el proyecto.
• Este año, Anthropic estableció una asociación con Elon Musk para utilizar toda la capacidad de procesamiento del centro de datos Colossus 1 de xAI en Memphis, Tennessee. Musk es una de las personas más malvadas del mundo . A través de DOGE, recortó USAID, lo que resultó en aproximadamente 14 millones de muertes evitables en todo el mundo. Musk es un asesino en masa mucho peor que Ted Bundy , y no menos indiferente a los profundos daños que ha causado que Bundy.
• Además, Musk ha apoyado a Donald Trump, quien impulsó el Reloj del Juicio Final—dos veces— debido a su retórica imprudente sobre la proliferación nuclear y su negacionismo climático . No puedo enfatizar lo suficiente lo terrible que ha sido Musk para el mundo, y Anthropic eligió voluntariamente asociarse con él .
• Es más, los centros de datos Colossus han estado operando ilegalmente “ decenas de turbinas de gas metano ” del tamaño de camiones, emitiendo “emisiones tóxicas” en “la ciudad con mayor población negra”. En un momento dado, hasta 35 de estos generadores alimentaban Colossus 1.
• ¿Le importa a Musk el medio ambiente? ¿El cambio climático? ¿Desencadenar el asma en los niños que viven cerca de sus centros de datos? No. Como bromeó una vez : “¡Que se joda la Tierra! ¿A quién le importa la Tierra?”. En otra ocasión: “¡ Daremos un golpe de estado a quien queramos !”, expresando su actitud profundamente arrogante de que la ley no se aplica a él . Anthropic, la empresa “ética”, está dispuesta a pasar por alto esto para aumentar su capacidad de procesamiento.
• Los modelos de Anthropic se basan en el robo masivo de propiedad intelectual . Para entrenarlos, piratearon —de bibliotecas clandestinas como LibGen— un enorme catálogo de material protegido por derechos de autor sin el consentimiento de los autores y sin ofrecer compensación económica . El año pasado, Anthropic pagó 1.500 millones de dólares a los autores para resolver una demanda interpuesta en su contra. Una práctica vergonzosa.
• A pesar de haber tenido discrepancias con Pete Hegseth sobre si Estados Unidos puede usar a Claude para vigilar a sus ciudadanos y desplegar armas autónomas en el campo de batalla, Anthropic no tiene reparos en permitir que el gobierno estadounidense utilice sus modelos . 
• Al parecer, Claude se usó en el secuestro del presidente venezolano Nicolás Maduro, que violó tanto el derecho internacional como la Constitución , y ha seleccionado objetivos para bombardear en Irán . Incluso podría ser responsable del ataque estadounidense que mató a unos 120 niños en una escuela iraní ; no lo sabemos con certeza, pero es plausible. Esto es espantoso y demuestra una profunda falta moral por parte de la dirección de Anthropic .
• Amodei justifica la colaboración de su empresa con el ejército estadounidense afirmando que la IA debería apuntalar las democracias del mundo frente a la creciente ola de autoritarismo y autocracia . Sin embargo, sus propias palabras contradicen su postura, ya que , en privado, compara a Trump con un dictador .  Por lo tanto, está permitiendo que un gobierno dirigido por un aspirante a dictador utilice los modelos de IA que su empresa está desarrollando . Y, como ya hemos señalado, ha demostrado que no le importa enriquecer a dictadores en Oriente Medio al aceptar sus inversiones .
• Casi nada me irrita más de Amodei que sus frecuentes declaraciones a favor de la democracia . Se presenta como defensor de los estados democráticos, pero basta con reflexionar sobre cómo ha desarrollado la IA avanzada. ¿Acaso ha preguntado alguna vez a la gente si realmente queremos IA? Advierte que «la IA podría eliminar la mitad de los empleos de oficina de nivel básico» en los próximos años.

Si le importara la democracia, consultaría a la ciudadanía sobre su postura . No lo hace porque la mayoría lo vetaría, lo que impediría que su empresa avanzara con sus planes para crear una superinteligencia casi divina. A Amodei, en realidad, le importa un bledo la democracia, a pesar de su retórica. Es un tirano que decide unilateralmente seguir adelante con la IA sin el consentimiento ni el permiso de la humanidad .

*Filósofo, historiador intelectual , activista y presentador de podcasts estadounidense. Su investigación se centra en la escatología , el riesgo existencial y la extinción humana . Junto con el científico informático Timnit Gebru , Torres acuñó el neologismo ” TESCREAL ” para criticar lo que considera un conjunto de filosofías relacionadas: transhumanismo , extropianismo , singularitarismo , cosmismo , racionalismo , altruismo eficaz y longevismo .