Por Noel Eugenio Breard
Del capitalismo de vigilancia al riesgo de una democracia algorítmica
La primera encíclica de León XIV, Magnifica Humanitas, probablemente quede como uno de los documentos más importantes de comienzos del siglo XXI, no porque condene la tecnología —sería una lectura superficial— sino porque identifica una transformación mucho más profunda: el surgimiento de un nuevo sistema de poder basado en datos, algoritmos, vigilancia y concentración tecnológica.
El documento advierte que la humanidad ingresa en una etapa donde la libertad individual ya no corre peligro únicamente frente a dictaduras visibles o autoritarismos clásicos, sino también frente a mecanismos mucho más sofisticados e invisibles de condicionamiento social. Allí aparece un concepto central para comprender esta época: el “capitalismo de vigilancia”.
La expresión, desarrollada por Shoshana Zuboff, describe un sistema donde la experiencia humana se convierte en materia prima para extracción de datos, predicción de conductas y manipulación económica o política. Ya no se explotan solamente recursos naturales o trabajo humano; ahora también se explotan emociones, hábitos, miedos y comportamientos.
Cada búsqueda, desplazamiento o reacción emocional deja rastros digitales procesados algorítmicamente para construir perfiles psicológicos y modelos predictivos. La mercancía ya no es solamente el producto; la mercancía comienza a ser la propia conducta humana.
Allí la encíclica adquiere enorme potencia filosófica, porque León XIV percibe que la inteligencia artificial no representa únicamente una revolución tecnológica: representa una transformación del poder. Quien controla datos masivos posee capacidad creciente para influir sobre percepciones sociales, consumo cultural, opinión pública y comportamiento político. La concentración tecnológica deja entonces de ser solamente económica; pasa a ser también cognitiva y estratégica.
Uno de los grandes exponentes intelectuales de esa nueva lógica es Peter Thiel. Su empresa, Palantir Technologies, simboliza la convergencia entre inteligencia artificial, análisis masivo de datos, seguridad estatal y vigilancia.
Pero lo más inquietante no son solamente sus negocios, sino las ideas que predica. Thiel sostiene que la verdadera lógica del capitalismo tecnológico no consiste en competir indefinidamente, sino en alcanzar posiciones dominantes capaces de construir monopolios. La innovación tecnológica tendería así hacia una concentración extrema.
Ese concepto tiene consecuencias enormes, porque las plataformas digitales contemporáneas concentran datos, usuarios e infraestructura hasta transformarse en sistemas casi imposibles de desafiar. El problema es que cuando el monopolio ya no controla solamente mercados sino también información, comunicación y percepción pública, el riesgo democrático adquiere una profundidad mucho mayor.
Entonces aparece otra definición todavía más perturbadora atribuida al pensamiento de Thiel: la idea de que libertad y democracia podrían resultar incompatibles. En distintos ensayos cuestionó la capacidad de las democracias modernas para sostener libertades económicas radicales y defendió estructuras mucho más concentradas de decisión tecnológica y financiera.
La nueva corriente tecnocrática parece sugerir que las grandes transformaciones tecnológicas requieren élites capaces de actuar con menor condicionamiento democrático, menos deliberación colectiva y mayor capacidad tecnocrática concentrada.
La encíclica de León XIV parece reaccionar indirectamente frente a esa visión del mundo. El Papa advierte que cuando la técnica, el mercado y los algoritmos quedan desligados de límites éticos y democráticos, el ciudadano corre el riesgo de transformarse en objeto de administración tecnológica. La persona humana deja de ser sujeto; pasa a convertirse en dato.
En ese contexto adquiere relevancia el concepto utilizado recientemente por Jorge García Cuerva durante el Tedeum del 25 de Mayo: el “terrorismo digital”. Parece identificar que las redes y plataformas funcionan muchas veces como espacios de agresión psicológica permanente, amplificación del odio y fragmentación social.
La violencia contemporánea ya no necesita solamente coerción física; puede operar sobre emociones y percepciones colectivas. La desinformación sistemática, los linchamientos digitales y la polarización algorítmica erosionan lentamente la convivencia democrática, porque las plataformas no son neutrales.
Los algoritmos suelen premiar aquello que genera mayor reacción emocional: miedo, indignación, conflicto y agresividad. El odio genera tráfico, la polarización genera atención y la atención genera rentabilidad. Ese es el corazón económico del capitalismo digital contemporáneo.
Por eso León XIV advierte que la inteligencia artificial puede transformarse en un instrumento de subordinación humana cuando queda controlada por estructuras concentradas de poder económico, tecnológico y político. El Papa sostiene además que la IA puede alterar la construcción misma de realidad pública mediante direccionamiento algorítmico y manipulación de información.
Ya no hace falta prohibir pensar; muchas veces basta con administrar qué vemos, cuánto tiempo lo vemos y bajo qué estímulo emocional lo consumimos. La subordinación ya no sería física; sería cognitiva.
Y eso tiene consecuencias enormes para las democracias contemporáneas, porque una ciudadanía emocionalmente agotada, hiperfragmentada y manipulada pierde capacidad racional de deliberación pública. Las instituciones permanecen, pero la autonomía real disminuye.
Allí aparece otra de las imágenes más poderosas planteadas por León XIV: la humanidad corre el riesgo de construir una nueva “Torre de Babel”. Una civilización hiperconectada, saturada de información y tecnología, pero incapaz de comprenderse a sí misma.
El Papa advierte sobre una sociedad donde predominan diálogos de sordos, fragmentación permanente y pérdida del encuentro humano. Todos hablan, nadie escucha. Todos emiten información, pero disminuye la verdadera comunicación. La hiperconectividad puede terminar produciendo incomunicación espiritual y cultural.
Frente a esa lógica, León XIV contrapone otra imagen profundamente simbólica: no construir la Torre de Babel del desencuentro, sino la Jerusalén del encuentro, la comunión y la dignidad compartida.
La referencia no es solamente religiosa. Es civilizatoria.
Porque el gran riesgo del capitalismo algorítmico no consiste únicamente en controlar información, sino en destruir lentamente los vínculos humanos que sostienen la convivencia democrática.
Una sociedad fragmentada emocionalmente resulta mucho más manipulable. Una ciudadanía aislada, agotada y enfrentada pierde capacidad de construir proyectos comunes.
Por eso la encíclica adquiere una dimensión histórica comparable, en términos filosóficos, con Rerum Novarum. Si León XIII enfrentó los excesos del capitalismo industrial del siglo XIX, León XIV parece intentar enfrentar los riesgos del capitalismo algorítmico del siglo XXI.
La cuestión social ya no atraviesa solamente fábricas y salarios. Ahora también atraviesa el control de datos, la vigilancia digital, la manipulación emocional y la capacidad de modelar conductas humanas a escala masiva.
Por eso Magnifica Humanitas no es una encíclica “contra la tecnología”. Es una advertencia frente a una civilización donde la técnica, el mercado y la inteligencia artificial podrían terminar subordinando la dignidad humana a estructuras invisibles de vigilancia, control y concentración del poder.
Y quizás esa sea la gran pregunta de nuestra época: si la inteligencia artificial ampliará la libertad humana o si terminará construyendo el sistema de dominación más sofisticado de la historia.
*Senador Provincial UCR