Por Kailash Satyarthi
La pregunta clave de nuestro tiempo ya no es si la inteligencia artificial transformará el mundo, porque ya lo ha hecho. Lo que el mundo necesita ahora es darle a esta tecnología una brújula moral; y por eso en la Cumbre Mundial sobre IA para el Bien celebrada en Ginebra este mes, presenté a los más de 12 000 delegados de 170 países allí presentes el concepto de «IA compasiva».
Si realmente queremos que la IA contribuya al bien común y no sea sólo fuente de ganancias y poder, tenemos que sacar a los ingenieros y desarrolladores de IA de sus laboratorios durante un mes. Hagamos que conozcan a niños que trabajan en minas y fábricas, a familias desplazadas por la guerra y a comunidades vulnerables que sufren pobreza, discriminación y exclusión. Que acompañen a personas cuyas vidas están marcadas mucho más por la incertidumbre, el miedo y la injusticia que por cualquier avance tecnológico. Un mes basta para cambiar la forma de pensar de la gente; y eso influirá en los desarrolladores al momento de crear la tecnología y dar forma al futuro.
La IA ya está transformando la educación, la medicina, el comercio, la gobernanza y el descubrimiento científico. Promete avances notables, desde acelerar la investigación médica y mejorar el aprendizaje hasta desenmascarar redes de trata de personas, predecir las hambrunas antes de que se produzcan y fortalecer la acción humanitaria. Pero toda revolución tecnológica genera una cuestión ética, y la IA no es excepción. La tecnología se ha convertido en la primera línea de un intenso combate global por el poder económico y geopolítico, y en este contexto, se recompensa la rapidez, se celebra la ampliación de escala y se valora el dominio de mercados por encima de todo.
En estas condiciones, corremos riesgo de olvidar la pregunta más importante: ¿al servicio de quién estará esta inteligencia? El mayor fallo actual de la IA es un tema de liderazgo, no de ingeniería. Es verdad que gran parte del debate en los encuentros mundiales ya se centra en conceptos como la «IA ética» y la «IA responsable», que son indispensables. Necesitamos una gobernanza más sólida, rendición de cuentas real y regulación eficaz.
Pero estas salvaguardas no son suficientes. La ética puede mostrarnos lo correcto, y la legislación puede establecer límites; pero ninguna de las dos cambiará por sí sola la mentalidad de quienes están imaginando y diseñando tecnologías que influirán en incontables vidas. Para eso hace falta algo más profundo; en concreto, compasión.
La compasión se suele confundir con la empatía, la amabilidad o la caridad. Pero no es sinónimo de ninguna de ellas, ni es sólo una emoción o un ideal moral abstracto. La compasión comienza por reconocer el sufrimiento ajeno como si fuera propio; lo que nos lleva a tomar medidas para aliviarlo. Implica el coraje para actuar antes de que haya más daños. Nos hace proteger la dignidad humana en vez de sólo optimizar sistemas.
Lejos de poner límites al avance tecnológico, la compasión es el fundamento de una innovación responsable. El concepto de IA compasiva es distinto de todos los demás, porque su punto de partida no es la tecnología, sino la humanidad. Antes de preguntar qué puede hacer un sistema, la IA compasiva pregunta al servicio de quién está. Antes de buscar más eficiencia, contempla las consecuencias para los seres humanos. Antes de celebrar la innovación, pregunta a quién puede dejar rezagado.
Este simple cambio lo transforma todo. Muchos de los fallos actuales de la IA (sesgos, discriminación, exclusión, desinformación, daño ambiental, amenazas al bienestar de los niños) se suelen describir como efectos secundarios no deseados del progreso. Pero no son meros efectos secundarios. Son la prueba de alguien que estuvo ausente, alguien a quien pasaron por alto, alguien a quien se ignoró al concebirse estos sistemas.
La tecnología no es neutral, y tampoco los algoritmos. Cada sistema refleja los supuestos, las prioridades y los valores de quienes lo crearon. La IA se entrenó con el conocimiento acumulado de la humanidad, de modo que absorbió los prejuicios, las desigualdades y las injusticias históricas acumulados de la humanidad.
Los derechos humanos no pueden ser la pintura que se agrega al edificio terminado. Tienen que ser un pilar en el que se apoye toda la estructura. Antes de dejar a la gente cruzar un puente, necesitamos saber que es seguro, porque la seguridad es esencial para su propósito. Es obvio que la IA se tiene que someter al mismo criterio. La compasión no puede ser un agregado al sistema terminado, tiene que guiar el diseño del sistema.
Es urgente cambiar la trayectoria que está siguiendo esta tecnología. Los niños de hoy tal vez pasen más tiempo interactuando con máquinas inteligentes que con sus padres, profesores o vecinos. Ya conocemos algunas de las consecuencias psicológicas negativas de las redes sociales, que se basan en formas de IA relativamente sencillas. Los efectos que sistemas mucho más capaces puedan tener sobre el desarrollo emocional, las relaciones, la imaginación y el bienestar mental de los niños todavía son una incógnita, pero es posible que sean profundos.
En vez de sólo pensar en los posibles efectos transformadores de la IA sobre la economía, debemos preguntarnos qué sucederá si los algoritmos ocupan el lugar de la capacidad exclusivamente humana de sentir el dolor ajeno. ¿Podrán defender la justicia si nunca se diseñaron para reconocer el sufrimiento? ¿Podrán fortalecer la paz si sólo se optimizan para generar interacción, eficiencia y beneficios económicos? Estas cuestiones morales tienen que preceder a las cuestiones técnicas, ya que pueden decidir el futuro de la humanidad.
Es verdad que la IA podría ser uno de los mayores aliados de la humanidad. Podría ayudar a erradicar la esclavitud moderna y la trata de personas, detectar el abuso sexual infantil, ampliar el acceso a educación de alta calidad en el idioma nativo de cada niño, mejorar la atención sanitaria en comunidades desfavorecidas, predecir crisis humanitarias y acelerar el progreso hacia los Objetivos de Desarrollo Sostenible.
Pero la IA no elegirá ese futuro. Lo haremos nosotros. Los principios que consagremos hoy sentarán las bases de los sistemas cada vez más potentes que estamos construyendo. Una vez consolidadas esas bases en normas, instituciones y modelos de negocio, determinarán por muchas generaciones la relación que habrá entre la humanidad y las máquinas inteligentes.
No podemos permitirnos esperar hasta que los daños sean irreversibles. Muchas veces las leyes vienen después del sufrimiento; pero en el caso de la IA, no podemos darnos el lujo de «esperar a ver qué pasa». La era de la inteligencia exige sabiduría. La historia no nos juzgará por el grado de inteligencia alcanzado por nuestras máquinas. Nos juzgará por haber tenido o no la previsión y el coraje necesarios para garantizar que la inteligencia permanezca al servicio de la humanidad.
Kailash Satyarthi es premio nobel de la paz y fundador de Laureates and Leaders for Children.
Copyright: Project Syndicate, 2026.
www.project-syndicate.org