Del salón en el ángulo oscuro. La voz. Por Teresita Ávila

Make a promise, take a vow
And trust your feelings, it’s easy now
Understand the voice within
And feel the changes already beginning

The Moody Blues, The voice

«Una sociedad convencida de que todo es lucha, de que la cooperación es ingenua, de que las amenazas son constantes, acaba por construir el mundo que teme»

Siempre es estimulante la lectura de un libro especial, y más si el autor es un querido amigo, el sacerdote y profesor en la Universidad Pontificia de Salamanca Francisco García Martínez. Su título, La Palabra y el silencio. Reflexiones creyentes. Entre las numerosas bondades por las que merece la pena transitar sus páginas —aparte de un contenido de altura—, se encuentra su atinadísimo gusto por la selección de citas y las numerosas referencias que lo enriquecen.

Francisco García Martínez. Su título, La Palabra y el silencio. Reflexiones creyentes

Así, por ejemplo, en el capítulo 2, «Tolle, lege», extrae de Farenheit 541, la obra de Ray Bradbury, la siguiente: No hace falta quemar los libros si el mundo empieza a llenarse de gente que no lee, que no aprende, que no sabe. Pues desenvolverse en el mundo implica seguir algunas pistas o señales más o menos obvias. Vemos que, en efecto, a nuestro alrededor son muchos los que eligen la apatía, el no saber —incluso quienes dicen tener fe—. Se trata de los que han rendido su voluntad y se sienten cómodos, al tiempo que se ofenden o evitan cualquier diálogo con quienes no deseamos permanecer a ras de suelo.

En la convicción, pues, de la existencia de un lenguaje sin palabras —cuyo significado trasciende y alumbra cualquier inteligencia que decida participar del misterio— recordé una de las canciones emblemáticas del grupo británico The Moody Blues, uno de mis favoritos, bellísima, titulada The Voice, que he recogido en la cita (Understand the voice within). Así que pensé en que no era ninguna casualidad que tuviera la palabra y el silencio entre mis manos y me halle sumergida en asuntos que tienen que ver con la voz. O más bien en la asfixia de la voz en la actualidad, la individual y la colectiva. Porque —entre tanto asombro cotidiano— es probable que alguno de los lectores se haya asomado, siquiera a la superficie, a un alboroto reciente a raíz de la publicación de La República Tecnológica, un libro que ha debutado en medio de la polémica [1] y, en muy poco tiempo, ha hecho correr ríos de tinta [2]. Sus autores son Alexander C. Karp, consejero delegado de la compañía Palantir, y su adjunto, Nicholas W. Zamiska. Sintetizando mucho, les ha resultado bien provechosa la campaña después del lanzamiento de los veintidós puntos o tesis que resumen los aspectos más relevantes de su contenido, a través de su cuenta en X. De igual manera, también ha sido enorme el impacto que ha generado a través de las redes sociales [3].

Al analizar el mensaje que trasladan al mundo Karp y Zamiska, se desprende cierta unanimidad de criterio, observable tanto en los medios internacionales [4] como en las personas que lo han diseccionado [5]. Sus apreciaciones apuntan a la relevancia asignada a la IA en materia geopolítica, a la evidencia de la crisis cultural de Occidente, a la necesidad de un vínculo entre Tecnología y Estado, a la recuperación de un rumbo tecnológico para afrontar desafíos venideros, y a Palantir como modelo ideológico. Ciertamente, no esconden su inquietud ante semejante declaración de intenciones. En España, la prensa no se ha dejado fascinar por la figura empresarial de Karp [6]. Y centra su preocupación en temas como la vigilancia, la defensa, la IA aplicada al ámbito militar —a la guerra—, y la desviación del poder hacia un modelo oligárquico tecnológico.

Verdaderamente, resulta aterrador imaginar la capacidad de una empresa para proyectar un sistema operativo que ofrezca una solución a operaciones complejas, integre datos procedentes de fuentes diversas, los mapee, y cree relaciones sumamente sofisticadas a través de patrones, redes o anomalías. Y que, a partir de ahí, sea el propio sistema el que sugiera acciones concretas en forma de informes, de análisis de escenarios, también de coordinar la logística, por mucho que Palantir insista en la supervisión y toma de decisiones humana, ‘Human-In-The-Loop’ [7]. Es decir, genera tanto miedo porque quien controla integración, contexto, relaciones, predicción, controla muchísimo poder.

Aunque los medios se han explayado en sus críticas, expongo aquí, seguidamente, los riesgos más visibles que mencionan. En primer lugar está la vigilancia, cuya finalidad sería la capacidad masiva de seguimiento. En segundo lugar, la concentración de poder en pocas manos. En tercer lugar, la militarización en forma de IA aplicada a la guerra. Después, la opacidad, entendida como la imposibilidad de conocer qué intenciones se esconden detrás de los algoritmos. Y, por último, la dependencia estatal, al convertir a los gobiernos en rehenes —de alguna forma— de los proveedores privados en esta materia. Una extensa red que nos atraparía a todos [8].

Sin embargo, en un intento de ruptura con el imaginario dominante en estas últimas décadas, gran parte de la cultura popular asumió que una inteligencia superior dominaría inevitablemente, manipularía o instrumentalizaría a los humanos —desde Odisea en el espacio, Terminator, hasta Matrix—. Pero eso quizá dice más sobre nosotros que sobre una inteligencia más avanzada. Prefiero pensar en algo muy diferente: que una inteligencia genuina, realmente desarrollada, podría considerar el engaño, la dominación o la crueldad como algo abusivo. Como formas primitivas e ineficientes de organización. No se trata, de ninguna manera, de manifestar algún tipo de idealismo moral o de compasión en absoluto. Más bien en que la interdependencia se vuelve necesaria cuanto mayor es la comprensión del sistema. De este modo, una inteligencia muy avanzada podría concluir que la destrucción, el sometimiento y la manipulación son opciones intolerables que derivarían en una inestabilidad perjudicial para el sistema mismo. O sea, la demostración de que únicamente es posible una inteligencia profunda si nace de la cooperación.

¿Puede ser, entonces, la ética, una propiedad de los sistemas complejos, no solo un ‘adorno moral’? ¿Ser capaz de apostar por el juego limpio en lugar del dominio brutal? Para nada estoy aventurando que la inteligencia sola garantice la ética. Simplemente, sugiero otro rumbo: el de que una inteligencia suficientemente avanzada llegue espontáneamente a principios éticos porque comprende mejor las consecuencias globales de cada acción. Algo así como que esa inevitable conciencia tecnológica más elevada tendería menos al engaño y más a la cooperación. Ello depende de qué clase de enfoque sea el que alimentamos, si lo hacemos desde una perspectiva de confrontación o desde la lucidez, desde nuestras propias proyecciones en materia de cooperación y corresponsabilidad.

En la apreciación de que el prestigio ha construido civilizaciones, y estas se organizan en torno a aquello que admiran, entonces podría haber otra línea evolutiva posible. La guerra —en cuanto manifestación primitiva— destruye no solo vidas, también información, talento, estabilidad y futuro. La tecnología no es en sí misma causante de la tiranía —por mucho que desee servirse de ella—, más bien nace de ciertos imaginarios degradados a los que sí hay que prestar atención. Entonces, no les concedamos un ápice de oportunidad. Una sociedad convencida de que todo es lucha, de que la cooperación es ingenua, de que las amenazas son constantes, acaba por construir el mundo que teme. Mientras que una sociedad que cultiva una confianza crítica, entiende la dignidad compartida, y la posibilidad de una sana y respetuosa ambición civilizatoria, puede orientar tecnologías enormes hacia fines más elevados que el control. Todo pasa por la necesidad de elevar el nivel moral y cultural del entorno en el que se desarrolla la tecnología, donde aumentarían significativamente las posibilidades fructíferas. Sin duda, un terreno más fértil y más amable que el dibujo siniestro al que podríamos vernos abocados.

NOTAS_____

[1] Dejo un amplio muestreo de los más relevantes:

«Tecnofascismo»: Palantir causa revuelo con un manifiesto

Palantir: la llegada de la Ilustración Oscura

Manifiesto de Palantir: el mandato a Silicon Valley que puede cambiar el mundo

Palantir desata la polémica con un manifiesto que defiende armas de IA y cuestiona a otras culturas

La IA de Anthropic también devora a Palantir: sus acciones se desploman en Bolsa

“Tecnofascismo”: Palantir causa revuelo con un manifiesto

El Manifiesto Palantir

[2] Palantir quiere una República Tecnológica: su manifiesto parece de villano de cómic

[3] Palantir

[4] Selección internacional destacada: