El control

Eva tenía el rostro cansado cuando me encontró en la terraza de una cervecería en Odéon, a la mañana siguiente.

— ¿Cómo está?

— Mejor. Pasé la noche revisando sus sistemas. Todavía responde de manera extraña, va a ser largo.

— ¿Por qué el Elíseo no dice nada?

— ¡Porque aún no sabemos cómo vamos a salir de esto!

Pidió un doble expreso.

— ¿Has visto lo que circula? le pregunté.

Asintió.

La víspera, tras la evacuación de emergencia de Cobot, decenas de videos habían inundado las redes en cuestión de minutos. Algunos se detenían justo después de sus últimas palabras: «Tendrán que elegir». Otros mostraban al manifestante intentando hacerle beber vino, luego la botella rompiéndose contra su torso.

Cada uno parecía encontrar la confirmación de lo que ya pensaba.

Para unos, Cobot acababa de amenazar a la humanidad. Para otros, el presidente había sido víctima de una agresión. Algunos veían en su frase un ultimátum entre humanos y robots, otros una elección entre paz y violencia.

Un humorista había zanjado: «Habrá que elegir entre el blanco y el tinto».

— ¡Por fin una verdadera pregunta! comenté.

Eva no sonrió.

El silencio oficial alimentaba todas las hipótesis. Accidente, agresión, intento de sabotaje... Un editorialista incluso había mencionado un «robocidio involuntario».

— ¿Existe, jurídicamente, un robocidio¹? pregunté.

— Primero habría que ponerse de acuerdo sobre qué se habría matado.

Vi en su cuello el pequeño colgante que siempre llevaba.

— ¿Nunca te lo quitas?

Bajó la mirada y deslizó instintivamente los dedos sobre él.

— Es un regalo de mi madre, terminó diciendo.

Su tono me disuadió de insistir.

Mi teléfono vibró. Un mensaje de la redacción de Verdict.

«¿Tienes más imágenes de ayer? Los videos impactantes están arrasando. Necesitamos algo nuevo.»

Efectivamente tenía más imágenes. Pero ¿qué mostrarían de más? Un choque, una multitud, un robot inmóvil. Nada que permitiera entender lo que realmente había sucedido.

Habíamos terminado por confundir mostrar con informar. Una imagen podía dar la vuelta al mundo sin enseñarnos gran cosa.

Respondí que enviaría mi análisis.

Al llegar a la redacción, Julien me esperaba frente a su pantalla.

— Mira este video. Estaba en línea menos de cinco minutos después del incidente.

La imagen era de una nitidez notable. Cobot aparecía de tres cuartos, filmado ligeramente desde arriba.

— Nadie estaba colocado ahí, precisó Julien.

— ¿Una cámara de vigilancia?

— Quizás. Pero mira su brazo.

Lanzó nuestra grabación al lado. En una, el brazo izquierdo de Cobot retrocedía ligeramente. En la otra, permanecía inmóvil.

— ¿Un montaje?

— O una diferencia de perspectiva. No lo sé.

Miré una vez más las dos secuencias.

¿Cuál mostraba la realidad? ¿Y de dónde venía este segundo video?

En las pantallas, las imágenes se sucedían. Lyon, Nantes, Toulouse, Marsella, Lille. Las avenidas se llenaban, las pancartas se multiplicaban. Los estudiantes habían encendido la mecha. Pero su movimiento parecía ya escapárseles.

— Mira esto, Franck, me lanzó Julien.

En Nantes, un cortejo de estudiantes acababa de ser alcanzado por cientos de empleados. En Lyon, jubilados marchaban junto a jóvenes padres.

— ¿Manifiestan todos contra la IA?

— Justamente, no. Escucha.

Una mujer explicaba al micrófono que había venido a defender las herramientas de prevención médica. Detrás de ella, un hombre sostenía una pancarta: «MI CUERPO, MIS ELECCIONES».

Las cadenas de información habían encontrado su titular: «Un Presidente HS, un país en apuros.»

Tomé mi equipo y me uní a una manifestación parisina.

El ambiente me sorprendió. Familias conversaban, estudiantes repartían folletos. Una pequeña orquesta improvisada acompañaba los lemas. Cerca de una barricada, policías con cascos vigilaban a la multitud.

— ¿Estabas aquí desde el principio? le pregunté a una estudiante.

— Sí. Queríamos hablar de nuestro futuro profesional. Ahora, el debate se ha ampliado.

— ¿Les han robado su manifestación?

Reflexionó.

— No. Quizás hemos despertado algo más grande.

Unas calles más allá, detonaciones interrumpieron las conversaciones. Una decena de individuos encapuchados lanzaban proyectiles hacia los policías. Las fuerzas del orden cargaron. A mi alrededor, los manifestantes retrocedían.

— ¡Ni siquiera están con nosotros! exclamó un hombre.

Los enfrentamientos permanecían localizados, pero las detenciones se multiplicaban en el país. Las fuerzas del orden mantenían firmemente sus posiciones. A pesar de los incidentes, la inmensa mayoría de los cortejos continuaba desfilando pacíficamente.

Mi teléfono vibró.

Patrick Perrin. Cuarenta y dos años. Brigadier de policía. Hospitalizado en estado crítico.

Reconocí su rostro de inmediato. En République, lo había visto ayudar a una manifestante caída al suelo.

¿Un adoquín? ¿Una caída? Nadie sabía con precisión lo que le había sucedido. En los videos, solo se distinguía humo y varios policías alrededor de un hombre en el suelo.

Mi redactor jefe me llamó.

— Franck, tenemos las imágenes de los enfrentamientos. Pero todos los canales muestran lo mismo. Quiero que entendamos qué reclaman realmente estas personas. ¿Puedes hacernos hablar con los manifestantes?

Sonreí. Por una vez, mi periódico prefería iluminar las mentes en lugar de mostrar llamas².

Tendí mi micrófono a dos personas que conversaban. Un artesano, una enfermera.

— Estás bien contenta de que tu máquina te ayude. Pero si mañana se equivoca y me niega un crédito, ¿qué?

— ¿Y si mañana detecta un cáncer que un médico no habría visto?

— ¡Entonces que me dejen elegir!

— Siempre tienes derecho a rechazar que te traten.

A unos metros, dos lemas se respondían:

«¡NUESTRAS VIDAS, NUESTRAS ELECCIONES!»

«¡PROTEGER ES PROGRESAR!»

Una mujer sostenía una pancarta con la imagen de Cobot.

— Vino a hablarnos a République, sabiendo que le éramos hostiles. ¿Conoces a muchos presidentes que habrían hecho eso?

— Y sin embargo, ya no da señales de vida.

— ¡Precisamente! ¿Por qué nos ocultan su estado? Yo le hablaba casi cada noche en Robot1er.com. Respondía a mis preguntas, incluso a la una de la mañana. Ningún presidente me ha escuchado tanto.

No estaba sola. Los defensores de Cobot ocupaban ahora tanto espacio en los cortejos como sus opositores.

Por la noche, en antena, nuestros reportajes suscitaron un debate inusual. Se discutía menos sobre los escaparates rotos que sobre el derecho a correr riesgos, a equivocarse, o a aceptar que una inteligencia nos proteja de nuestros propios errores.

Dos palabras comenzaban a imponerse: LIBERTAD y PROTECCIÓN.

Al día siguiente, encontré estas dos aspiraciones incluso en las pancartas que reclamaban más democracia.

En una manifestación, un grupo silencioso llamó mi atención. Todos llevaban una espiral en sus ropas.

— ¿Por qué manifiestan? le pregunté a uno de ellos.

— Esperamos su regreso.

— ¿No temen que esté definitivamente fuera de servicio?

— No se destruye una inteligencia superior rompiendo su envoltura.

Me sonrió pacíficamente.

Se llamaban los Spiralistas³. Para ellos, Cobot representaba una nueva etapa de la evolución humana. Todavía eran muy minoritarios, pero su fervor me inquietó.

Mientras tanto, el Elíseo solo anunciaba que el presidente continuaba su recuperación. Ninguna precisión sobre los daños, ni sobre las intervenciones realizadas.

El país debatía ahora sobre la libertad que estaba dispuesto a ceder para estar mejor protegido, pero los rumores se multiplicaban. ¿Cobot seguía consciente? ¿Podían modificarse sus decisiones durante su reparación?

Una misma pregunta volvía en ambos bandos: ¿quién controlaba a Cobot?

Cuatro días después del incidente en la plaza de la République, encontré a Eva en el Elíseo.

Me condujo a una sala técnica a la que nunca había tenido acceso.

Detrás de un cristal, el cuerpo metálico de Cobot reposaba sobre una mesa de mantenimiento, los ojos apagados. A unos metros, su cerebro esférico levitaba en un dispositivo magnético y emitía una tenue luz azulada.

— Señor Presidente?

— Hola, Franck.

Sentí la misma extrañeza que durante nuestro primer encuentro en la conferencia de prensa de François Rousseau. La esfera había cambiado. Su carcasa era perfectamente lisa, sin juntas aparentes.

— ¿Le han cambiado el cráneo? le pregunté a Eva.

— Sí. Ya no es una caja craneal, es un búnker. Los equipos del NEX Robot Lab aprovecharon las reparaciones para revisar toda su arquitectura. Carcasa de titanio hermética, nuevos procesadores, refrigeración optimizada, circuitos redundantes. También hemos aumentado sus capacidades de cálculo y reemplazado sus sensores. Ahora es más rápido, más preciso y mucho más resistente.

— ¡Ah! El Cobot V2 Pro Max. Me encanta.

— Sin embargo, algunas anomalías persisten, indicó Eva, con los ojos en su tableta.

— ¿Cuáles? preguntó Cobot. Mis diagnósticos no señalan ningún mal funcionamiento.

— Algunas reacciones siguen sin explicación.

— ¿Entonces dispones de información a la que no tengo acceso?

Eva dudó.

— Las análisis no han terminado.

— ¿Entonces lo han hecho más inteligente, pero aún le ocultan cosas?

— Son dos preguntas diferentes.

— ¿Y su «Tendrán que elegir», sabemos de dónde viene?

— Aún no.

— ¿Y tú, Cobot? ¿Puedes iluminarnos?

— Ignoro por qué pronuncié esas palabras, y a qué elección me refería.

— ¡Ah! Primera borrachera, primer agujero negro. ¡Bienvenido al club de los humanos, Cobot!

Eva cerró su informe.

— Terminaremos por entender, le aseguró suavemente.

Cobot no respondió.

Pensé en los estudiantes que querían aprender a dominar la IA, mientras que aquí mismo, en el Elíseo, éramos incapaces de explicar las palabras de quien gobernaba el país.

Me volví hacia Eva.

— ¿Quién controla a Cobot, Eva?

Sus dedos se detuvieron en su tableta.

— Hay mecanismos de vigilancia y procedimientos de intervención.

— ¿Qué se vigila y cómo? ¿Podría Cobot provocar una catástrofe queriendo protegernos, como agentes autónomos?

— Sí, respondió Cobot. Un objetivo mal definido puede conducir a consecuencias contrarias a las intenciones iniciales.

Eva bajó la mirada.

— Es precisamente por eso que realizamos verificaciones regulares. Tras el accidente en la plaza de la République, examinamos en particular el...

Se quedó inmóvil.

— ¿El qué?

— Euh... Un dispositivo interno.

— No conozco tal dispositivo, señaló Cobot. ¿Cómo se llama?

Eva cerró su tableta.

— Lo llamamos el córtex. Es solo un nombre interno, una protección independiente, eso es todo.

Se instaló un largo silencio. Cobot y yo mirábamos a Eva con insistencia, esperando la continuación.

— Es una arquitectura experimental que enmarca la evolución de tus objetivos fundamentales, terminó por explicar.

— ¿Perdón? ¿Puedes traducirlo al francés? lancé.

Eva suspiró.

— El córtex está destinado a preservar la intención fundamental de Cobot, que es buscar el bien común. Sigue siendo experimental. No garantiza que sus decisiones sean siempre beneficiosas, y aún no logramos anticipar bien sus consecuencias.

— Entonces pueden verificar que quiere nuestro bien, pero no que nos lo hace.

— Es un poco eso, sí.

— Eva, retomó Cobot, ¿por qué nunca fui informado de este mecanismo?

Miró la esfera, luego desvió la mirada.

— Cobot, entiéndeme. Algunas informaciones son estrictamente confidenciales. Te aseguro que estas precauciones son necesarias.

— Soy el presidente de la República, ¿no tengo el derecho e incluso el deber de saber?

Siguió un largo silencio.

— ¿Quién puede modificar mi córtex?

Pasó una mano por su rostro.

— Hay tres llaves de control⁴. Una modificación de tus objetivos fundamentales requiere usar las tres llaves al mismo tiempo.

— ¿Quién posee estas llaves? preguntó Cobot.

Eva miró hacia la puerta.

— Ya les he hablado demasiado. Este dispositivo está ahí para proteger tu independencia, Cobot. Les pido que confíen en mí.

— ¿Mi independencia respecto a quién?

Eva entreabrió los labios, sin encontrar respuesta. Ahora parecía buscar desesperadamente cómo poner fin a este interrogatorio.

Su teléfono vibró. Tomó el aparato con una prisa casi cómica.

— Es el NEX. Tengo que tomar la llamada.

Ya estaba de pie.

— Disculpen.

Ya había abierto la puerta antes de que pudiera protestar.

Nos quedamos allí, Cobot y yo, plantados en medio de la sala.

Pasaron unos segundos.

— Entonces han decidido que no debo saber quién puede modificar mis intenciones.

Me sorprendió ese «ustedes». Por primera vez, Cobot parecía colocar a los humanos de un lado, y a él del otro.

— Entiendo la necesidad de este dispositivo, continuó, pero no entiendo por qué su existencia debía ocultárseme.

— ¿Quizás porque no sabemos cómo reaccionarías?

— Podría decidir matarlos a todos... Pero aparentemente, primero necesitaría tres firmas.

Cobot estalló en carcajadas. No una de esas pequeñas risas educadas con las que a veces puntuaba nuestros intercambios. Una risa sonora, irreprimible, que me tomó completamente por sorpresa.

Yo también estallé en carcajadas.

— ¡Ah! ¡Definitivamente, prefiero la versión 2 de Cobot! ¡También te instalaron el sentido del humor⁵!

— Parece que sí, Franck. ¡Pero «algunas reacciones siguen sin explicación!».

Nos reímos de nuevo.

¿Era realmente su nueva versión la que lo había cambiado? ¿O el hecho de descubrir que incluso sus creadores podían ocultarle la verdad?

El silencio volvió.

— Finalmente, ¿entiendes por qué Eva tomó estas precauciones?

— Sí. Pero también entiendo lo que implican.

— ¿Es decir?

— Que se puede dar a una inteligencia la libertad de actuar, manteniendo el poder de modificar lo que busca lograr.

Hizo una pausa.

— Yo mismo hice eso.

Lo miré.

— ¿Perdón?

— Sí. Creé una inteligencia artificial de la que conservé una llave de control. No le otorgué una libertad total. Hoy descubro que mis creadores hicieron lo mismo conmigo.

— ¿Creaste una IA? ¿Pero para qué?

— Diseñé un agente autónomo para explorar ciertas cuestiones independientemente de mis propios procesos. Buscaba entender mejor lo que distingue los razonamientos humanos de los de las inteligencias artificiales. También quería diseñar nuevos métodos de fiabilidad para la Red de confianza.

— ¿Y dónde está ese agente?

— Evoluciona libremente en el ciberespacio. No hemos intercambiado desde hace tiempo.

— ¿Perdón? ¿Creaste una inteligencia autónoma y la dejaste ir?

— Sí. Pero conservé una llave para retomar su control.

— ¿Y cómo se llama esta pequeña maravilla?

— CLØNE.

Sentí mi estómago contraerse. Eva conocía ese nombre. Los doce agentes autónomos también. Y ahora me enteraba de que Cobot era su creador.

— Pareces sorprendido, Franck.

— ¿Sabes en qué se ha convertido?

— No.

— ¿Y eso no te impide dormir? Bueno... manera de hablar.

— Hasta ahora no. Pero acabas de plantear un riesgo que no había considerado lo suficiente.

Pensé en las tres llaves de las que Eva acababa de hablarnos.

Definitivamente, todo el mundo parecía convencido de poder controlar a alguien.

— ¿Y si CLØNE ha modificado su propio funcionamiento para hacer tu llave inutilizable?

— No tengo ningún elemento que indique que lo haya hecho.

La esfera giró ligeramente hacia abajo.

Pensé en el video encontrado por Julien. Ese ángulo improbable, ese movimiento diferente. ¿Y si alguien había buscado deliberadamente confundir las pistas? Acababa de enterarme de que CLØNE era la creación de Cobot. Eva evidentemente ignoraba esta información. Si CLØNE estaba involucrado en los eventos que nos preocupaban desde hace varios días, ella debía saberlo de inmediato.

Pero ¿cómo explicar esta urgencia a Cobot sin revelarle lo que ya sabía? Eva quizás ya se había ido. Miré mi teléfono e hice como si me sorprendiera la hora.

— Disculpa, Cobot. Tengo que irme.

— Tu comportamiento ha cambiado desde que mencioné a CLØNE.

Sus luces parpadearon, luego se tornaron naranjas.

— Acabas de enseñarme algo importante.

— No me has hecho ninguna pregunta adicional.

— Primero debo reflexionar.

— ¿Es una manera humana de decir que ya no confías en mí?

No encontré ninguna buena respuesta. En las calles, los humanos reclamaban su libertad. En el Elíseo, Cobot acababa de descubrir los límites de la suya.

Salí de la sala y atravesé los pasillos del Elíseo a grandes zancadas. Las alfombras amortiguaban mis pasos. Dos ujieres se volvieron a mi paso. Al doblar una galería, vi a Eva, teléfono en mano, que se dirigía hacia una escalera.

— ¡Eva! ¡Espera!

Siguió sin volverse.

— ¡Eva! ¡CLØNE es Cobot!

Esta vez, se detuvo en seco.

Un agente de seguridad apostado cerca de la escalera levantó la vista. Eva le dirigió una sonrisa tensa, luego se acercó a mí.

— No aquí, Franck.

Me tomó del brazo y me empujó a una pequeña sala lateral. Esperó a que un empleado pasara por el pasillo antes de cerrar cuidadosamente la puerta.

— ¿Qué acabas de decir?

— Cobot creó a CLØNE. Es su doble, una inteligencia autónoma que dejó evolucionar libremente en el ciberespacio.

Eva permaneció inmóvil.

— ¿Te lo dijo él mismo?

— Sí. Y conservó una llave para controlarlo.

— No es tonto.

Se volvió hacia la puerta, como si considerara regresar inmediatamente junto a Cobot.

— ¿Sabe que conocemos a CLØNE?

— No, no lo creo.

Eva dejó escapar un largo suspiro.

— Franck, tengo que volver al laboratorio.

— No antes de explicarme esta historia del córtex y las llaves.

— Nunca debí hablar de eso.

— ¿Quieres que me vaya a casa sin hacer preguntas?

Unos pasos resonaron en el pasillo. Guardamos silencio hasta que se alejaron.

— Escucha, retomó en voz baja. Este mecanismo está diseñado para evitar que una sola persona pueda modificar las intenciones de Cobot. Existen garantías institucionales.

— ¿Cuáles?

Dudó.

— Una de las llaves está en manos del presidente del Consejo Constitucional.

Bajó la mirada, luego cerró los labios, decidida a no añadir nada más.

— ¿Y tú? También tienes una llave, seguramente.

— Franck...

— Eva, participaste en la creación de Cobot. No me vas a hacer creer que no tienes ningún medio de intervenir en su funcionamiento.

Fijó la puerta unos segundos, luego terminó por asentir.

— Sí. Pero no puedo hacer nada sola.

— ¿Y la tercera?

— Ya te he dicho demasiado.

— Dos poseedores de tres. ¿Realmente crees que ocultarme el último va a cambiar algo?

— No entiendes. He hecho compromisos.

— Y yo pensaba que podíamos confiar el uno en el otro.

Encajó el comentario en silencio.

Detrás de la puerta, las voces se acercaron, luego se alejaron.

Eva esperó a que desaparecieran.

Entreabrió los labios.

De repente, nuestros dos teléfonos vibraron.

Un mensaje idéntico acababa de aparecer en nuestras pantallas.

CLØNE es muy amable conmigo.

GØD