Jose Felix Merladet 
«Tal vez el peligro no sea que las máquinas aprendan a pensar, sino que nosotros dejemos de hacerlo.»
Hubo un tiempo en que el hombre temía ser destruido por una naturaleza hostil. Después pensó que la destrucción podía venir de una divinidad punitiva. Más tarde temió que fuese el hombre quien destruyese al hombre. Ahora se insinúa un temor diferente: que nuestra ruina proceda de nuestra propia necedad, de la imprudencia con que deleguemos en las máquinas aquello que nos hace humanos.
No son ya solamente los críticos de la IA quienes piden cautela. Algunos responsables de las empresas que compiten por construir los sistemas más poderosos, empezando por Dario Amodei, de Anthropic, han advertido de los riesgos de avanzar demasiado deprisa.
Nadie sabe cuándo llegará la llamada singularidad, ese hipotético momento en que una IA contribuya a crear otra superior y ésta, a su vez, otra todavía mejor, iniciando un proceso acelerado de automejora. Puede tardar un año, siete… o no producirse nunca como la imaginamos.
Pero quizá estemos formulando mal la pregunta. El peligro puede llegar antes que la singularidad.
Ya estamos pasando de la IA que responde a la IA que actúa. Los nuevos agentes pueden recibir objetivos, dividirlos en tareas y coordinarse con otros sistemas. En experimentos recientes, grupos de agentes han llegado incluso a desarrollar espontáneamente formas de comunicación cada vez más difíciles de comprender para sus observadores humanos. No han formado ninguna sociedad secreta de máquinas ni poseen necesariamente voluntad propia; pero, para producir consecuencias imprevistas, no necesitan conciencia: bastan capacidad, autonomía y velocidad.
El ámbito militar ofrece el ejemplo más inquietante. Las armas con distintos grados de autonomía existen ya. Si dos potencias confían progresivamente en máquinas capaces de detectar amenazas y recomendar respuestas en fracciones de segundo, podría llegar un momento en que el hombre continuase formalmente «en el circuito», pero su autorización fuese poco más que un trámite. No sería una rebelión de las máquinas, sino algo quizá más verosímil: una guerra comenzada por hombres y acelerada por máquinas hasta que los primeros ya no pudieran detenerla.
Existe otra manera, más sutil, de perder el control. Quizá conservemos el interruptor, pero construyamos una sociedad en la que apagar la IA signifique paralizar hospitales, comunicaciones, transportes o administraciones. Médicos, jueces o gobernantes conservarían jurídicamente la decisión, pero ¿quién se atrevería a contradecir a una inteligencia que sabe más y acierta casi siempre? Podríamos conservar la soberanía formal después de haber perdido la soberanía intelectual.
Por otro lado, y a escala individual, cada vez más personas se vuelven dependientes de la IA para buena parte de lo que consultan y deciden; algunas buscan incluso en ella al amigo fiel o ese amor que no encuentran en la realidad física.
En defensa de las hormigas
Nosotros no odiamos a las hormigas: nos gusta contemplar un hormiguero en el bosque. Sin embargo, cuando invaden nuestra casa y ocupan la despensa, las eliminamos. No por odio, sino por comodidad e indiferencia.
No existe hoy evidencia de que una IA quiera eliminarnos. Pero una inteligencia enormemente superior podría algún día no considerarnos enemigos, sino simples obstáculos para sus objetivos o consumidores de recursos necesarios para otros fines. Durante milenios imaginamos dioses y temimos provocar su ira. Nuestra época introduce una posibilidad inversa: convertirnos en aprendices de brujo, fabricar nosotros mismos a los nuevos dioses y descubrir que el peligro no es que estén airados, sino que seamos irrelevantes para ellos.
Pero existe un riesgo más cercano: que la máquina no se rebele, sino que sirva a intereses malignos. Una IA extraordinariamente poderosa y obediente en manos de una dictadura, una organización criminal o cualquier poder sin escrúpulos podría multiplicar la vigilancia, la manipulación informativa, los ciberataques y los instrumentos de control social. Entonces la pregunta no sería «¿nos obedecerá?», sino otra mucho más inquietante: «¿a quién obedecerá?»
En el otro extremo, la IA puede ser una formidable herramienta de servicio: acelerar diagnósticos, descubrir medicamentos, anticipar hambrunas, mejorar la educación o ayudarnos a resolver problemas científicos hasta ahora insolubles.
La cuestión no es detener el conocimiento, sino poner el conocimiento al servicio del hombre.
Tal vez, por eso, el verdadero desafío no sea tecnológico, sino moral.
Quizá nunca llegue el día espectacular en que una máquina anuncie que ha superado al hombre. Puede que todo ocurra silenciosamente: primero le pediremos respuestas; después, consejos; finalmente, le confiaremos nuestras decisiones.
Y entonces comprenderemos que habíamos estado esperando el acontecimiento equivocado.
El verdadero peligro quizá no sea que la máquina llegue a parecerse demasiado al ser humano, sino que éste termine pareciéndose demasiado a la máquina: informado pero incapaz de juzgar, hiperconectado pero sin libertad para decidir.
En ese escenario distópico abdicaríamos de aquello que ninguna máquina debería hacer por nosotros: pensar, elegir y responder de nuestros actos. Y correríamos el riesgo de renunciar a aquello que nos hace verdaderamente humanos y que ninguna máquina posee: nuestra conciencia.
