¿La IA podría extinguir a la humanidad o estamos mirando hacia el lugar equivocado?

Cada nuevo avance de la inteligencia artificial parece traer la misma pregunta: ¿estamos construyendo una tecnología que podría acabar con nosotros? Ya no es solo una idea de ciencia ficción. Investigadores, empresarios y personas que trabajan dentro de los principales laboratorios de IA han comenzado a advertir que el riesgo existe y que no deberíamos tomarlo a la ligera.

Geoffrey Hinton, uno de los pioneros de esta tecnología, ha dicho que no le parece irrazonable pensar que haya una probabilidad de 10% de que la inteligencia artificial pueda extinguir a la humanidad en la próxima década. Al mismo tiempo, reconoce que nadie sabe realmente cómo calcular una cifra así. Esa duda es importante. No hay una fórmula que permita saber si una IA llegará a volverse incontrolable, pero sí existen razones para pensar que sistemas cada vez más autónomos podrían ampliar riesgos como los ciberataques, la manipulación de información o el uso militar de la tecnología.

Sin embargo, el debate se vuelve incompleto cuando toda la atención se concentra en una futura máquina todopoderosa. ¿Qué pasa con los problemas que ya están frente a nosotros? ¿Qué pasa si la inteligencia artificial no nos destruye como en una película, pero ayuda a profundizar las crisis que hoy amenazan la vida de millones de personas?

La advertencia de Timnit Gebru

Timnit Gebru, investigadora reconocida por su trabajo sobre sesgos y daños sociales de la IA, lleva años cuestionando la forma en que las grandes tecnológicas cuentan esta historia. En una entrevista con WIRED, Gebru plantea que los discursos sobre “seguridad” y “alineación” pueden servir para desviar la atención de los daños reales que la industria tecnológica ya está produciendo.

No está diciendo que debamos ignorar los riesgos extremos. Su punto es otro: mientras se habla de una eventual extinción humana, se dejan en segundo plano asuntos como las armas autónomas, la vigilancia masiva, el uso injusto de algoritmos, la concentración de poder y la explotación de trabajadores que entrenan o moderan sistemas de IA.

Gebru también cuestiona el modo en que empresas como OpenAI presentan avances en áreas como las matemáticas o la programación. “¿Por qué las empresas tecnológicas invierten tanto en resolver problemas matemáticos?”, pregunta. Según ella, esas disciplinas se han elevado como una forma de decir que, si una máquina resuelve una tarea muy compleja, entonces ya ha “descifrado” la inteligencia.

Pero resolver un problema matemático no significa entender el mundo, tener criterio moral ni saber tomar decisiones justas. Tampoco significa que una empresa deba recibir automáticamente la confianza de gobiernos, escuelas, hospitales o ciudadanos.

Gebru advierte que los legisladores pueden terminar basando decisiones importantes en comunicados de prensa y noticias populares, cuando deberían hablar directamente con especialistas independientes. La diferencia parece pequeña, pero no lo es. Una regulación construida sobre publicidad tecnológica puede terminar protegiendo a quienes ya concentran infraestructura, datos y poder.

La guerra ya existe

Imagen de un video compartido por Palantir el 13 de marzo de 2026, que muestra una imagen de inteligencia común sobre un mapa a través de la plataforma Palantir. (Palantir)

No hace falta esperar a que una inteligencia artificial se vuelva autónoma para hablar de riesgos para la humanidad. La guerra ya es una amenaza real, presente y devastadora.

Naciones Unidas registró más de 36.000 muertes civiles en 14 conflictos armados durante 2024. En 2023, al menos 33.443 civiles murieron en conflictos, una cifra 72% mayor que la de 2022. Detrás de esos datos hay familias desplazadas, hospitales destruidos, niños sin escuela y comunidades que pierden la posibilidad de vivir con seguridad.

La inteligencia artificial puede hacer esos conflictos más rápidos y menos transparentes. Puede analizar grandes cantidades de información, identificar personas, vigilar territorios, crear propaganda, producir imágenes y videos falsos, o apoyar ataques cibernéticos. También puede entrar en sistemas militares que aceleran decisiones que deberían pasar por un control humano riguroso.

El peligro no empieza cuando una máquina “decide” atacar por sí sola. Empieza cuando una institución utiliza una herramienta automatizada para perseguir, vigilar o seleccionar objetivos, y luego intenta ocultarse detrás de la frase “lo decidió el algoritmo”.

Ningún algoritmo debería ser una excusa para borrar la responsabilidad humana.

El trabajo no puede ser el costo

La promesa de la inteligencia artificial suele estar acompañada de otra palabra: productividad. Se nos dice que las máquinas podrán hacer más en menos tiempo, redactar documentos, atender clientes, programar, traducir, organizar datos y apoyar investigaciones.

Eso puede ser útil. Una IA puede liberar tiempo para tareas más creativas, apoyar a docentes, mejorar la accesibilidad y ayudar a pequeñas empresas. Pero una herramienta no llega sola a un lugar de trabajo. Llega a través de decisiones empresariales.

La misma IA que puede reducir tareas repetitivas también puede convertirse en una excusa para despedir personas, bajar salarios, vigilar trabajadores o transformar empleos estables en tareas temporales y mal remuneradas.

La pregunta no debería ser únicamente cuántos empleos desaparecerán. Deberíamos preguntarnos quién se queda con las ganancias cuando aumenta la productividad. Si una empresa ahorra dinero gracias a la automatización, ¿ese beneficio se traduce en mejores salarios, formación y jornadas más humanas? ¿O se concentra en accionistas y compañías que ya controlan la infraestructura tecnológica?

La innovación no debería significar que unas pocas empresas ganan más mientras millones de personas enfrentan mayor incertidumbre. Una transición justa necesita formación, protección laboral y participación de los trabajadores en las decisiones que cambian sus condiciones de vida.

La nube también consume recursos

Marcus Aarsvold - Los residentes de Beaver Dam plantean preocupaciones sobre el agua sobre el centro de datos de inteligencia artificial de Meta después de que comienza la construcción

Avances de la construcción del Data Center de Meta en Beaver Dam, Wisconsin. USA.

La IA parece intangible porque hablamos de ella como algo que vive “en la nube”. Pero la nube no flota en el cielo. Está hecha de edificios, servidores, cables, baterías, sistemas de refrigeración y centros de datos que consumen electricidad y agua.

Según la Agencia Internacional de Energía, los centros de datos usaron cerca de 415 teravatios-hora de electricidad en 2024. Eso equivale a alrededor del 1,5% del consumo eléctrico mundial. Si se mantiene el ritmo de expansión previsto, podrían llegar a consumir unos 945 teravatios-hora en 2030, casi el 3% de la demanda global de electricidad.

No se trata de decir que cada consulta a un chatbot destruye el planeta. Se trata de entender que el crecimiento acelerado de la IA tiene un costo físico y que ese costo no se distribuye por igual.

Un centro de datos necesita energía constante y, en muchos casos, agua para mantener fríos sus equipos. Cuando se construye cerca de comunidades con problemas de acceso al agua, redes eléctricas frágiles o servicios básicos insuficientes, la discusión deja de ser tecnológica.

¿Quién tiene prioridad sobre esos recursos? ¿Un hospital, una escuela, una comunidad agrícola o una infraestructura digital diseñada para alimentar la carrera global por la inteligencia artificial?

Estas decisiones no pueden tomarse a puerta cerrada. Las comunidades deberían saber cuánta energía y agua se consume, de dónde provienen esos recursos, qué impacto ambiental tendrá la infraestructura y qué medidas existen para reducirlo.

Una conversación más honesta

La advertencia de Geoffrey Hinton y la crítica de Timnit Gebru no tienen por qué ser enemigas. Hinton plantea que sería irresponsable ignorar los riesgos extremos de una IA cada vez más poderosa. Gebru recuerda que sería igual de irresponsable usar esos riesgos para olvidarnos de las injusticias presentes.

Podemos prepararnos para escenarios futuros sin dejar de atender los problemas de hoy. Podemos exigir investigación en seguridad de IA y, al mismo tiempo, poner límites a las armas autónomas, proteger datos personales, defender los derechos laborales y exigir responsabilidad ambiental a quienes construyen centros de datos.

La discusión no debería ser si estamos a favor o en contra de la inteligencia artificial. La discusión debería ser qué tipo de futuro estamos dispuestos a aceptar.

Porque la IA no tiene un destino propio. Su impacto dependerá de las empresas que la financian, los gobiernos que la regulan, las instituciones que la implementan y las comunidades que exigen ser escuchadas.