Inteligencia Artificial: o la controlamos o tomará el control de nuestras vidas

La Inteligencia Artificial (IA) se ha convertido en los últimos años en un tema muy importante para los humanos, no sólo en la conversación cotidiana. Y actualmente todos tenemos alguna idea, más o menos profunda, sobre el significado de esa combinación llamativa de dos palabras que para nuestros abuelos resultaría incomprensible, pues la “inteligencia” siempre fue patrimonio de los humanos y nunca (salvo en alguna película de ciencia ficción) se imaginó que una máquina pudiera tener la capacidad de mantener una conversación con un ser humano, como si ella fuera otro ser humano.

Pero esa ficción se ha convertido en realidad y tiene aspectos muy positivos, como señala el Director Médico Hospital Universitari Vall d’Hebron de Barcelona:

La IA ayuda a detectar pólipos, mediante la observación de su superficie, establecer de qué tipo es. ¿Cómo se ha desarrollado? Entrenándola con miles de vídeos y enseñando al software qué es y qué no es un pólipo. De esa forma se ha construido un patrón de reconocimiento. Este sistema no sustituye al médico, pero es de gran ayuda porque le alerta.
Una de la ventajas de la IA con respecto a la inteligencia humana en el ámbito médico es su capacidad de manejar el big data. Ingentes cantidades de datos que el cerebro humano necesitaría años para poder ordenar. Es una grandísima ayuda en el diagnóstico y la orientación terapéutica de los profesionales de la salud.

Pero también tiene aspectos negativos. La tentación de usar la IA para copiar está sacudiendo a las universidades de élite de EE UU. El profesor Roberto Serrano,  español, catedrático Harrison S. Kravis de la Universidad de Brown, (con varios reconocimientos incluyendo el Premio Rey de España de Economía de 2024) ha detectado un fraude masivo en una de sus asignaturas, ECON 1170, un curso avanzado de economía matemática para estudiantes de grado. Tiene pruebas concluyentes de que al menos 50 estudiantes hicieron trampas en el examen parcial de marzo 2026, lo que lo convierte en el mayor escándalo conocido de este tipo en Brown y de toda la llamada Ivy League, que agrupa a los ocho centros privados más selectos de la costa este y que incluye también a Princeton, Harvard, Yale, Columbia, Cornell, Dartmouth y Pensilvania.

Serrano no anuló la validez del examen parcial, pero avisó a los alumnos de que el examen final, que contaba un 50% de la nota, sería presencial. Y que, si la distribución de notas no era similar a la del parcial, entonces solo se tendría en cuenta el final. La nota media cayó en picado, hasta un 48 sobre 100. De los 89 estudiantes que realizaron el parcial, solo 59 se presentaron al final. Y, de los 27 que no se presentaron, 22 habían obtenido un 100 en el parcial.

Serrano coincide en que la IA hace que los estudiantes tengan más incentivos para hacer trampas. Por eso, dice, no se pueden ocultar estos casos (como trató de hacer el Rector). Al revés, deben servir para abrir un debate profundo.

Si ya no defendemos la verdad, la decencia y la honestidad, entonces, ¿qué tipo de credibilidad vamos a tener como académicos?

La tecnología para crear esas “máquinas inteligentes” consiste en que trabajadores humanos las entrenen con miles y miles de documentos (textos, vídeos,…) sobre un temática concreta y le vayan enseñando al software como responder preguntas de humanos manteniendo una conversación para que: 1) a los humanos les sea sencillo obtener el resultado; 2) trasmita impresión de objetividad y 3) simule comunicación humana.

Ese tipo de estrategia está relacionado con lo que se conoce como Test de Turing (v. Alan Turing, matemático e informático teórico, inglés) y que dio origen al Premio Turing, que es el equivalente, en Informática, al Premio Nobel.

A Geoffrey Hinton le fue concedido el Premio Turing en 2018 por los avances conceptuales y de ingeniería que han hecho de las redes neuronales profundas un componente crítico de la computación. En 2024 le fue concedido también el Premio Nobel de Física.
Conocido como el padrino de la IA, profesor en la Universidad de Toronto, trabajó también en Google que decidió abandonar en 2023 por los peligros que reconoce en las nuevas tecnologías  (ver víde0).

En una entrevista en la BBC sobre la IA afirmaba:

En este momento, no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto lo serán. No creo que deban ampliar esto más, hasta que hayan entendido si pueden controlarlo. Mi suposición es que, dentro de 5 o 20 años, habrá una probabilidad del 50% de que tengamos que afrontar el problema de que la inteligencia artificial intente tomar el control de nuestras vidas.

Su preocupación más inmediata es que internet se llenará con fotos, vídeos, textos falsos... Pero su mayor preocupación es que las tecnologías en el futuro amenacen a la humanidad y se desarrollen armas verdaderamente autónomas, como robots asesinos. Su mayor esperanza al ganar el Nobel de Física es que los principales científicos del mundo colaboren para desarrollar formas para controlar esta tecnología.

El Secretario General de la ONU, António Guterres, también ha manifestado su preocupación en diversas reuniones internacionales:

La IA ya no es un horizonte lejano: está aquí, transformando la vida diaria, el espacio informativo y la economía global a una velocidad vertiginosa.

La inteligencia artificial tiene un enorme potencial, pero representa graves riesgos si no se regula.

La pregunta no es si la IA influirá en la paz y seguridad internacionales, sino cómo daremos forma a esa influencia.

O gobernamos la inteligencia artificial o ella nos gobernará a nosotros. Esta advertencia resonó en la Asamblea General de septiembre de 2025 durante el lanzamiento del Diálogo Global sobre Gobernanza de la IA, donde España alertó que esta tecnología podría crear "un futuro de ganadores y perdedores" si no se establecen mecanismos de control global.
El presidente del Gobierno español, Pedro Sánchez, intervino para subrayar que, mientras algunos empleos desaparecerán y otros surgirán, "millones de personas pueden quedar desprotegidas" sin una visión estratégica.

La inteligencia artificial no puede ser patrimonio de unos pocos, sino que debe beneficiar a todos, y en particular a los países en desarrollo, que deben tener una voz real en la gobernanza mundial de esa tecnología.
Superar la brecha digital y aprovechar plenamente el potencial de la inteligencia artificial la convertirá en un poderoso motor de crecimiento integrador y desarrollo sostenible.

El Papa León XIV en su Enciclica Magnifica Humanitas sobre la custodia de la persona humana en el tiempo de la inteligencia artificial sintoniza en el análisis:

En sí mismas, dichas innovaciones pueden ser una gran ayuda para el desarrollo humano integral y el cuidado de la Casa común.
 

En muchos casos. . . el control de las plataformas, las infraestructuras, los datos y la capacidad de cálculo no es prerrogativa de los estados, sino de grandes actores económicos y tecnológicos que, de hecho, determinan las condiciones de acceso, las reglas de visibilidad y las mismas posibilidades de participación.

Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público, y crece el riesgo de un desarrollo distorsionado que provoca nuevas dependencias, exclusiones, manipulaciones y desigualdades.

La velocidad y la sencillez con la que es posible obtener indicaciones, elaboraciones complejas, contenidos mediáticos y formas de asistencia concreta simplifican nuestras vidas, pero también pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad.

La impresión de objetividad que las respuestas y las propuestas de estos sistemas pueden suscitar, corre el riesgo de hacernos olvidar que estas reflejan los parámetros culturales de quienes las han proyectado y adiestrado, con todas sus virtudes y defectos.

Chat GPT vinculado con Microsoft y Bard vinculado con Google se encuentran actualmente entre los desarrollos más importantes de IA, que está fuertemente relacionada con la gestión de bases de datos con muchísima información y también con la trasmisión y utilización de esa información a través de un hardware potente.

Larry Ellison, director ejecutivo de Oracle (bases de datos) en alianza con OpenAI, creadora de Chat GPT vinculada con Microsoft ha subido en la lista de los 10 más ricos, y Jensen Huang (hardware NVIDIA) se ha incorporado a esa lista en 2025. La IA es un nuevo nicho de negocio en la nube para los milmillonarios con mayor fortuna a nivel mundial (9 de EEUU y relacionados con tecnologías «gratuitas» en la nube).

A modo de ejemplo, según los números anteriores, la «filantropía» de Google le ha proporcionado a Larry Page, en el intervalo temporal indicado, una ganancia media superior a 280 000 $ al día y a Sergey Brin más de la mitad de dicha cantidad.

Como señala Yanis Varoufakis catedrático universitario de economía y exministro de finanzas de Grecia vivimos en un nuevo modelo de sociedad, al que llama Tecno-Feudalismo (por su vínculo con el viejo sistema feudal),  basado en la generación de riquezas por las rentas que reciben los dueños de las empresas de la nube, la nueva clase dominante nubelista.

Empresas como Google, Apple, TikTok o Amazon se transforman en "feudos", que tienen vasallos, que son las ya viejas empresas productoras de mercancías; que tiene proletarios de la nube compuesto por los trabajadores de las empresas vasallas, y tiene siervos, que somos casi todos, los que aportamos nuestros mensajes, fotos, vídeos y otros contenidos que enriquece a los feudos de la nube.

Las grandes tecnológicas se lanzan al negocio de la guerra

• Google eliminó de su código de conducta la restricción a desarrollar armas o herramientas de vigilancia masiva.
• OpenAI, la empresa del ChatGPT, cambió en enero de 2024 su política de uso para suprimir la prohibición que impedía utilizar su tecnología en tareas “militares y de guerra”. Y en junio de 2025 hizo un contrato de 200 millones de dólares por el cual facilitará al Pentágono sus herramientas de IA generativa.
• También Google, Anthropic y xAI (la empresa  IA de Elon Musk) han obtenido contratos hasta de 200 millones de dólares (cada una) para fomentar las capacidades avanzadas de IA en el Departamento de Defensa de los EEUU.
• Microsoft reconoció en mayo de 2025 que, desde que se inició la invasión de Gaza, ha vendido al ejército israelí tecnología avanzada de IA y servicios de computación en la nube. En septiembre de 2025 anunció que dejó de ofrecer el servicio de nube al ejército de Israel.
• Francesca Albanese relatora especial de Naciones Unidas en los territorios palestinos ocupados, sancionada por EEUU por sus denuncias, describe en un informe cómo la tecnología corporativa, los proveedores de servicios en la nube y las empresas armamentísticas están profundamente entrelazados en lo que denomina una “economía del genocidio”.
  De acuerdo con el informe, Microsoft, HP, IBM, Google y Amazon, entre otras, están implicadas en tecnologías de vigilancia allí desplegadas. IBM ha contribuido a la recopilación y uso gubernamental de bases de datos biométricos de palestinos, mientras que tanto Microsoft y Palantir como Google y Amazon dan soporte en la nube a los sistemas del gobierno y el Ejército israelí.
•                          [En la puerta de la Catedral de Cádiz (España)]
  

  Cada día, cedemos voluntariamente información sobre nosotros a las máquinas. Esto sucede cuando aceptamos una cookie en línea o utilizamos un motor de búsqueda. Apenas pensamos en cómo se venden y utilizan nuestros datos antes de pulsar en “aceptar” para llegar a la página que deseamos, vagamente conscientes de que se utilizarán para dirigirnos como consumidores y convencernos de comprar algo que no sabíamos que necesitábamos.
  Pero ¿qué pasaría si las máquinas usaran los datos para decidir a quién atacar como enemigos que deben ser eliminados?
  La ONU y un grupo de organizaciones no gubernamentales temen que este escenario esté cerca de hacerse realidad. Exigen una regulación internacional de las Armas Letales Autónomas para evitar un futuro próximo en el que las máquinas dicten decisiones de vida o muerte.

En relación con estas temáticas el Papa manifiesta en la Encíclica:

Si observamos las dinámicas mundiales, reconocemos cada vez con mayor claridad la expansión de una cultura del poder, hecha de polarizaciones y violencias [...]

La Santa Sede ha señalado recientemente que la creciente facilidad con la que se pueden emplear los sistemas de armas con autonomía operativa hace que la guerra sea más “viable” y menos sujeta al control humano, lo que contradice el principio de que recurrir a la fuerza armada debe ser un último recurso en caso de legítima defensa [...]

Quisiera [...] usar una palabra muy importante para mí: “desarmar”. Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva.
Es la carrera por el algoritmo más eficaz y por el banco de datos más amplio, para consolidar una ventaja geopolítica o comercial sobre todos los demás.
Desarmar quiere decir romper esta equivalencia entre poder tecnológico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedirle el dominio sobre lo humano. Significa sustraerla a los monopolios, hacerla discutible, refutable, y por tanto habitable, restableciendo en ella la pluralidad de las culturas humanas y de las formas de vida. La tarea, hoy, no es sólo ética o técnica; es ecológica en el sentido más radical, porque interpela una nueva dimensión de nuestra Casa común. La IA es ya un ambiente en el que estamos inmersos y un poder que debemos afrontar. Por eso, no basta regularla; es necesario desarmarla y hacerla acogedora.

Y, sin embargo, junto a esta deriva, vislumbramos a gran parte de la humanidad que trata de seguir siendo humana y de esforzarse por construir la ciudad de la convivencia y la paz. De ella, todos somos a menudo artífices inconscientes y arquitectos desunidos, capaces de gestos generosos pero carentes de una visión de conjunto:
es una construcción más lenta, menos visible y menos llamativa, que espera ser mejor comprendida y más coordinada, para convertirse así en el compromiso consciente y articulado de cada comunidad, desde la familia hasta el gobierno de los estados y sus relaciones.
Es a este horizonte de compromiso, a esta obra de esperanza, al que damos el nombre de    “civilización del amor”.
Consiste en traducir la caridad en estructuras de justicia, en dar cuerpo institucional a la fraternidad y en considerar al otro
–ya sea persona o pueblo– como un aliado necesario para la construcción del bien común.

Son muy grandes las dificultades: para combatir las guerras, las injusticias, la enorme concentración de poder que la IA proporciona a unos pocos, y un gran reto conseguir construir la "civilización del amor". Pero como señala en Papa León XIV en la Encíclica:

Sin embargo, nadie está exento de responsabilidad. Cada uno dispone de un ámbito propio de acción, y ahí –no en otro lugar– está llamado a elegir si alimenta la lógica de la fuerza –aunque sea sólo con indiferencia, cinismo, mentira y odio–;
o si promueve la lógica de la paz –con verdad, sobriedad, cercanía y cuidado–.

La IA tiene efectos secundarios importantes sobre el medio ambiente

El consumo importante de electricidad y de agua que la IA requiere aparece reflejado en la Encíclica y también en informes de la UNESCO que, en colaboración con University College London ha realizado una investigación con diferentes modelos de lenguaje LLM (lenguajes de gran tamaño entrenados sobre inmensas cantidades de datos para ser capaces de comprender preguntas y generar respuestas en un lenguaje homologable al humano), de código abierto (a diferencia del de la IA de las grandes tecnológicas) que le han llevado a la conclusión de que  "Los modelos más pequeños son tan inteligentes y precisos como los grandes [y] adaptados a
tareas específicas pueden reducir el consumo de energía hasta en un 90 %."  Una conclusión importante, en términos medioambientales, frente a los grandes centros de IA, privados, que saben de todo.

Según el informe de junio de 2026 de la Universidad de la ONU, para 2030 los centros de datos que alimentan la inteligencia artificial consumirán 945 teravatios-hora de electricidad, casi el triple del consumo anual combinado de Pakistán, Bangladés y Nigeria —países que suman más de 650 millones de personas—. Su huella hídrica equivaldrá a las necesidades básicas de agua de toda la población de África subsahariana (1300 millones de personas), y su ocupación del suelo superará los 14.500 kilómetros cuadrados. El informe completo (en inglés) está disponible en https://unu.edu.

El informe indica que si el consumo energético de IA  correspondiese a un país, en 2025 habría  ocupado el undécimo lugar, por detrás de Francia, décimo lugar,  y antes de Arabia Saudí que ocupó en 2025 el undécimo lugar. 

El debate público se ha centrado en la energía que consume entrenar grandes modelos —GPT-3 requirió 1,3 gigavatios-hora; GPT-4, entre 50 y 70—, pero el informe revela que esta perspectiva está obsoleta. Una vez desplegado un modelo, la inferencia —el procesamiento continuo de las consultas de los usuarios— representa entre el 80% y el 90% del consumo energético total de la IA.

Solo ChatGPT procesa unos 2500 millones de consultas al día, lo que se traduce en unos 383 gigavatios-hora al año. Compensar sus emisiones de carbono requeriría 2,6 millones de plántulas de árboles durante diez años, una superficie del tamaño de Manhattan. Su huella hídrica equivale a las necesidades anuales de agua de medio millón de personas en África subsahariana.

Pero no todas las consultas son iguales. Una conversación típica con un chatbot consume 200 veces más energía que una simple clasificación de texto. Generar una sola imagen consume 1450 veces más. Un vídeo corto generado por IA puede consumir tanta electricidad como 200.000 clasificaciones de spam.

En el anexo existe una "traducción" al español  del informe original que incluye, en particular, el «resumen de los puntos clave».

Todos esos datos son importantes motivos de reflexión para ayudarnos en nuestro ver y juzgar global para actuar localmente, conforme a nuestros referentes éticos y, con alianzas, construir una humanidad más justa y fraternal.