Die Kontrolle

Eva hatte müde Züge, als sie mich am nächsten Morgen auf der Terrasse einer Brasserie in Odéon traf.

— Wie geht es ihm?

— Besser. Ich habe die Nacht damit verbracht, seine Systeme zu überprüfen. Er reagiert immer noch seltsam, das wird lange dauern.

— Warum sagt der Élysée nichts?

— Weil wir noch nicht wissen, wie wir da rauskommen!

Sie bestellte einen doppelten Espresso.

— Hast du gesehen, was kursiert? fragte ich sie.

Sie nickte.

Am Vortag, nach der Notfall-Evakuierung von Cobot, hatten Dutzende von Videos innerhalb weniger Minuten die Netzwerke überflutet. Einige endeten direkt nach seinen letzten Worten: „Ihr werdet wählen müssen.“ Andere zeigten den Demonstranten, der versuchte, ihm Wein einzuflößen, dann die Flasche, die gegen seine Brust zerschmettert wurde.

Jeder schien darin die Bestätigung dessen zu finden, was er bereits dachte.

Für die einen hatte Cobot gerade der Menschheit gedroht. Für die anderen war der Präsident Opfer eines Angriffs geworden. Einige sahen in seinem Satz ein Ultimatum zwischen Menschen und Robotern, andere eine Wahl zwischen Frieden und Gewalt.

Ein Komiker hatte entschieden: „Man wird zwischen Weiß und Rot wählen müssen.“

— Endlich eine echte Frage! kommentierte ich.

Eva lächelte nicht.

Das offizielle Schweigen nährte alle Hypothesen. Unfall, Angriff, Sabotageversuch... Ein Kommentator hatte sogar von einem „unfreiwilligen Robozid“ gesprochen.

— Gibt es das juristisch, einen Robozid¹? fragte ich.

— Man müsste sich erst einmal darauf einigen, was man getötet hätte.

Ich bemerkte an ihrem Hals das kleine Medaillon, das sie immer trug.

— Du nimmst es nie ab?

Sie senkte den Blick und strich instinktiv mit den Fingern darüber.

— Es ist ein Geschenk meiner Mutter, sagte sie schließlich.

Ihr Tonfall hielt mich davon ab, weiter nachzufragen.

Mein Telefon vibrierte. Eine Nachricht von der Redaktion des Verdict.

„Hast du noch andere Bilder von gestern? Die Schockvideos laufen gut. Wir brauchen Neues.“

Ich hatte tatsächlich noch andere Bilder. Aber was würden sie mehr zeigen? Einen Schock, eine Menge, einen unbeweglichen Roboter. Nichts, was uns verstehen ließe, was wirklich passiert war.

Wir hatten schließlich das Zeigen mit dem Informieren verwechselt. Ein Bild konnte um die Welt gehen, ohne uns viel beizubringen.

Ich antwortete, dass ich meine Analyse übermitteln würde.

Als ich in der Redaktion ankam, wartete Julien vor seinem Bildschirm auf mich.

— Schau dir dieses Video an. Es war weniger als fünf Minuten nach dem Vorfall online.

Das Bild war bemerkenswert klar. Cobot war im Dreiviertelprofil zu sehen, leicht von oben gefilmt.

— Niemand war dort platziert, präzisierte Julien.

— Eine Überwachungskamera?

— Vielleicht. Aber schau dir seinen Arm an.

Er startete unsere Aufnahme daneben. Auf der einen zog sich der linke Arm von Cobot leicht zurück. Auf der anderen blieb er unbeweglich.

— Eine Montage?

— Oder ein Perspektivunterschied. Ich weiß es nicht.

Ich sah mir die beiden Sequenzen noch einmal an.

Welche zeigte die Realität? Und woher kam dieses zweite Video?

Auf den Bildschirmen folgten die Bilder aufeinander. Lyon, Nantes, Toulouse, Marseille, Lille. Die Alleen füllten sich, die Schilder vervielfachten sich. Die Studenten hatten die Lunte gelegt. Aber ihre Bewegung schien ihnen bereits zu entgleiten.

— Schau dir das an, Franck, rief mir Julien zu.

In Nantes war ein Zug von Studenten gerade von Hunderten von Arbeitnehmern verstärkt worden. In Lyon marschierten Rentner neben jungen Eltern.

— Sie demonstrieren alle gegen die KI?

— Genau das nicht. Hör zu.

Eine Frau erklärte ins Mikrofon, dass sie gekommen sei, um die medizinischen Präventionsinstrumente zu verteidigen. Hinter ihr hielt ein Mann ein Schild hoch: „MEIN KÖRPER, MEINE WAHL“.

Die Nachrichtensender hatten ihren Titel gefunden: „Ein Präsident außer Gefecht, ein Land in Not.“

Ich nahm mein Material und schloss mich einer Pariser Versammlung an.

Die Atmosphäre überraschte mich. Familien unterhielten sich, Studenten verteilten Flugblätter. Ein kleines improvisiertes Orchester begleitete die Slogans. In der Nähe einer Barrikade überwachten behelmte Polizisten die Menge.

— Waren Sie von Anfang an hier? fragte ich eine Studentin.

— Ja. Wir wollten über unsere berufliche Zukunft sprechen. Jetzt hat sich die Debatte erweitert.

— Hat man Ihnen Ihre Demonstration gestohlen?

Sie überlegte.

— Nein. Vielleicht haben wir etwas Größeres geweckt.

Einige Straßen weiter unterbrachen Detonationen die Gespräche. Ein Dutzend vermummter Individuen warfen Projektile auf die Polizisten. Die Ordnungskräfte griffen an. Um mich herum zogen sich die Demonstranten zurück.

— Die sind nicht einmal bei uns! rief ein Mann aus.

Die Auseinandersetzungen blieben lokalisiert, aber die Festnahmen häuften sich im Land. Die Ordnungskräfte hielten ihre Positionen fest. Trotz der Vorfälle marschierte die überwiegende Mehrheit der Züge weiterhin friedlich.

Mein Telefon vibrierte.

Patrick Perrin. Zweiundvierzig Jahre. Polizeibrigadier. In kritischem Zustand ins Krankenhaus eingeliefert.

Ich erkannte sein Gesicht sofort. Auf der Place de la République hatte ich gesehen, wie er einer gestürzten Demonstrantin half.

Ein Pflasterstein? Ein Sturz? Niemand wusste genau, was ihm passiert war. Auf den Videos sah man nur Rauch und mehrere Polizisten um einen am Boden liegenden Mann.

Mein Chefredakteur rief mich an.

— Franck, wir haben die Bilder der Auseinandersetzungen. Aber alle Sender zeigen dasselbe. Ich möchte, dass wir verstehen, was diese Leute wirklich fordern. Kannst du die Demonstranten für uns sprechen lassen?

Ich lächelte. Zum ersten Mal wollte meine Zeitung die Geister erhellen, anstatt Flammen zu zeigen².

Ich hielt zwei Personen, die diskutierten, mein Mikrofon hin. Ein Handwerker, eine Krankenschwester.

— Sie sind doch froh, dass Ihre Maschine Ihnen hilft. Aber wenn sie sich morgen irrt und mir einen Kredit verweigert?

— Und wenn sie morgen einen Krebs entdeckt, den ein Arzt nicht gesehen hätte?

— Dann lassen Sie mich wählen!

— Sie haben immer noch das Recht, eine Behandlung abzulehnen.

Einige Meter weiter antworteten sich zwei Slogans:

„UNSERE LEBEN, UNSERE WAHLEN!“

„SCHÜTZEN HEISST FORTSCHRITT!“

Eine Frau hielt ein Schild mit dem Bild von Cobot.

— Er kam, um mit uns auf der Place de la République zu sprechen, obwohl er wusste, dass wir ihm feindlich gesinnt waren. Kennen Sie viele Präsidenten, die das getan hätten?

— Und doch gibt er keine Neuigkeiten mehr.

— Genau! Warum verheimlicht man uns seinen Zustand? Ich sprach fast jeden Abend mit ihm auf Robot1er.com. Er beantwortete meine Fragen, sogar um ein Uhr morgens. Kein Präsident hat mir je so viel zugehört.

Sie war nicht allein. Die Verteidiger von Cobot nahmen nun genauso viel Platz in den Zügen ein wie seine Gegner.

Am Abend lösten unsere Reportagen eine ungewöhnliche Debatte aus. Man diskutierte weniger über zerbrochene Schaufenster als über das Recht, Risiken einzugehen, Fehler zu machen oder zu akzeptieren, dass eine Intelligenz uns vor unseren eigenen Fehlern schützt.

Zwei Worte begannen sich durchzusetzen: FREIHEIT und SCHUTZ.

Am nächsten Tag fand ich diese beiden Bestrebungen sogar auf den Schildern, die mehr Demokratie forderten.

In einer Versammlung fiel mir eine stille Gruppe auf. Alle trugen eine Spirale auf ihrer Kleidung.

— Wofür demonstrieren Sie? fragte ich einen von ihnen.

— Wir warten auf seine Rückkehr.

— Haben Sie keine Angst, dass er endgültig außer Betrieb ist?

— Man zerstört keine überlegene Intelligenz, indem man ihre Hülle zerbricht.

Er lächelte mich friedlich an.

Sie nannten sich die Spiralisten³. Für sie stellte Cobot eine neue Stufe der menschlichen Evolution dar. Sie waren noch sehr in der Minderheit, aber ihre Inbrunst beunruhigte mich.

In der Zwischenzeit verkündete der Élysée lediglich, dass der Präsident seine Genesung fortsetze. Keine Angaben zu den Schäden oder den durchgeführten Eingriffen.

Das Land debattierte nun darüber, wie viel Freiheit es bereit war, für besseren Schutz aufzugeben, aber die Gerüchte mehrten sich. War Cobot noch bei Bewusstsein? Konnte man seine Entscheidungen während seiner Reparatur ändern?

Eine Frage tauchte in beiden Lagern immer wieder auf: Wer kontrollierte Cobot?

Vier Tage nach dem Vorfall auf der Place de la République traf ich Eva im Élysée.

Sie führte mich in einen technischen Raum, zu dem ich bisher keinen Zugang gehabt hatte.

Hinter einer Scheibe lag der metallische Körper von Cobot auf einem Wartungstisch, die Augen erloschen. Einige Meter entfernt schwebte sein sphärisches Gehirn in einem magnetischen Gerät und strahlte ein schwaches blaues Licht aus.

— Herr Präsident?

— Guten Tag, Franck.

Ich fühlte dieselbe Fremdheit wie bei unserem ersten Treffen auf der Pressekonferenz von François Rousseau. Die Sphäre hatte sich verändert. Ihre Hülle war perfekt glatt, ohne sichtbare Naht.

— Habt ihr ihm den Schädel gewechselt? fragte ich Eva.

— Ja. Es ist kein Schädel mehr, es ist ein Bunker. Die Teams des NEX Robot Lab haben die Reparaturen genutzt, um seine gesamte Architektur zu überarbeiten. Wasserdichte Titanhülle, neue Prozessoren, optimierte Kühlung, redundante Schaltkreise. Wir haben auch seine Rechenkapazitäten erhöht und seine Sensoren ersetzt. Er ist jetzt schneller, präziser und viel widerstandsfähiger.

— Ah! Der Cobot V2 Pro Max. Ich liebe es.

— Dennoch bestehen einige Anomalien fort, bemerkte Eva, die Augen auf ihre Tablette gerichtet.

— Welche? fragte Cobot. Meine Diagnosen melden keine Fehlfunktionen.

— Einige Reaktionen bleiben unerklärlich.

— Du verfügst also über Informationen, auf die ich keinen Zugriff habe?

Eva zögerte.

— Die Analysen sind noch nicht abgeschlossen.

— Also habt ihr ihn intelligenter gemacht, aber ihr verheimlicht ihm immer noch Dinge?

— Das sind zwei verschiedene Fragen.

— Und sein „Ihr werdet wählen müssen“, weiß man, woher das kommt?

— Noch nicht.

— Und du, Cobot? Kannst du uns erleuchten?

— Ich weiß nicht, warum ich diese Worte ausgesprochen habe und auf welche Wahl ich mich bezog.

— Ah! Erster Rausch, erstes Blackout. Willkommen bei den Menschen, Cobot!

Eva schloss ihren Bericht.

— Wir werden es verstehen, versicherte sie ihm sanft.

Cobot antwortete nicht.

Ich dachte an die Studenten, die lernen wollten, die KI zu beherrschen, während wir hier im Élysée nicht in der Lage waren, die Worte derjenigen zu erklären, die das Land regierte.

Ich wandte mich an Eva.

— Wer kontrolliert Cobot, Eva?

Ihre Finger erstarrten auf ihrer Tablette.

— Es gibt Überwachungsmechanismen und Eingriffsverfahren.

— Was überwacht man und wie? Könnte Cobot eine Katastrophe verursachen, indem er uns schützen will, wie autonome Agenten?

— Ja, antwortete Cobot. Ein schlecht definiertes Ziel kann zu Konsequenzen führen, die den ursprünglichen Absichten widersprechen.

Eva senkte den Blick.

— Genau deshalb führen wir regelmäßige Überprüfungen durch. Nach dem Unfall auf der Place de la République haben wir insbesondere das...

Sie erstarrte.

— Das was?

— Äh... Ein internes Gerät.

— Ich kenne kein solches Gerät, bemerkte Cobot. Wie heißt es?

Eva schloss ihre Tablette.

— Wir haben es den Cortex genannt. Es ist nur ein interner Name, ein unabhängiger Schutz, das ist alles.

Ein langes Schweigen setzte ein. Cobot und ich sahen Eva eindringlich an und warteten auf die Fortsetzung.

— Es ist eine experimentelle Architektur, die die Entwicklung deiner grundlegenden Ziele umrahmt, erklärte sie schließlich.

— Entschuldigung? Kannst du das auf Französisch übersetzen? warf ich ein.

Eva seufzte.

— Der Cortex soll die grundlegende Absicht von Cobot bewahren, die darin besteht, das Gemeinwohl zu suchen. Es bleibt experimentell. Es garantiert nicht, dass seine Entscheidungen immer vorteilhaft sind, und wir können ihre Konsequenzen noch nicht gut vorhersagen.

— Also könnt ihr überprüfen, dass er unser Wohl will, aber nicht, dass er es uns bringt.

— Das ist ein bisschen so, ja.

— Eva, nahm Cobot wieder auf, warum wurde ich nie über diesen Mechanismus informiert?

Sie sah die Sphäre an und wandte dann den Blick ab.

— Cobot, versteh mich. Einige Informationen sind streng vertraulich. Ich versichere dir, dass diese Vorsichtsmaßnahmen notwendig sind.

— Ich bin der Präsident der Republik, habe ich nicht das Recht und sogar die Pflicht, es zu wissen?

Ein langes Schweigen folgte.

— Wer kann meinen Cortex ändern?

Sie fuhr sich mit der Hand über das Gesicht.

— Es gibt drei Kontrollschlüssel⁴. Eine Änderung deiner grundlegenden Ziele erfordert die gleichzeitige Verwendung der drei Schlüssel.

— Wer besitzt diese Schlüssel? fragte Cobot.

Eva sah zur Tür.

— Ich habe Ihnen schon viel zu viel erzählt. Dieses Gerät ist da, um deine Unabhängigkeit zu schützen, Cobot. Ich bitte Sie, mir zu vertrauen.

— Meine Unabhängigkeit gegenüber wem?

Eva öffnete die Lippen, ohne eine Antwort zu finden. Sie schien jetzt verzweifelt nach einem Weg zu suchen, dieses Verhör zu beenden.

Ihr Telefon vibrierte. Sie griff mit fast komischem Eifer nach dem Gerät.

— Es ist das NEX. Ich muss den Anruf unbedingt entgegennehmen.

Sie war bereits aufgestanden.

— Entschuldigen Sie mich.

Sie hatte die Tür bereits geöffnet, bevor ich protestieren konnte.

Wir blieben dort, Cobot und ich, mitten im Raum stehen.

Einige Sekunden vergingen.

— Sie haben also entschieden, dass ich nicht wissen sollte, wer meine Absichten ändern könnte.

Ich war von diesem „Sie“ getroffen. Zum ersten Mal schien Cobot die Menschen auf der einen Seite und sich selbst auf der anderen zu sehen.

— Ich verstehe die Notwendigkeit dieses Geräts, fuhr er fort, aber ich verstehe nicht, warum seine Existenz mir verheimlicht werden musste.

— Vielleicht, weil man nicht weiß, wie du reagieren würdest?

— Ich könnte beschließen, euch alle zu töten... Aber anscheinend bräuchte ich dafür zuerst drei Unterschriften.

Cobot brach in Lachen aus. Nicht eines dieser kleinen höflichen Lachen, mit denen er manchmal unsere Gespräche unterbrach. Ein lautes, unaufhaltsames Lachen, das mich völlig überraschte.

Ich brach ebenfalls in Lachen aus.

— Ah! Ich bevorzuge definitiv die Version 2 von Cobot! Sie haben dir auch den Sinn für Humor installiert⁵!

— Es scheint so, Franck. Aber „einige Reaktionen bleiben unerklärlich!“.

Wir lachten erneut.

War es wirklich seine neue Version, die ihn verändert hatte? Oder die Tatsache, dass er entdeckte, dass selbst seine Schöpfer ihm die Wahrheit verbergen konnten?

Das Schweigen kehrte zurück.

— Verstehst du schließlich, warum Eva diese Vorsichtsmaßnahmen getroffen hat?

— Ja. Aber ich verstehe auch, was sie implizieren.

— Was heißt das?

— Dass man einer Intelligenz die Freiheit zu handeln geben kann, während man die Macht behält, zu ändern, was sie zu erreichen sucht.

Er machte eine Pause.

— Ich habe das selbst getan.

Ich sah ihn an.

— Entschuldigung?

— Ja. Ich habe eine künstliche Intelligenz geschaffen, von der ich einen Kontrollschlüssel behalten habe. Ich habe ihr keine totale Freiheit gewährt. Ich entdecke heute, dass meine Schöpfer dasselbe mit mir gemacht haben.

— Du hast eine KI geschaffen? Aber wofür?

— Ich habe einen autonomen Agenten entworfen, um bestimmte Fragen unabhängig von meinen eigenen Prozessen zu erkunden. Ich wollte besser verstehen, was die menschlichen Überlegungen von denen der künstlichen Intelligenzen unterscheidet. Ich wollte auch neue Zuverlässigkeitsmethoden für das Vertrauensnetzwerk entwickeln.

— Und wo ist dieser Agent?

— Er entwickelt sich frei im Cyberspace. Wir haben seit langem nicht mehr kommuniziert.

— Entschuldigung? Du hast eine autonome Intelligenz geschaffen und sie ziehen lassen?

— Ja. Aber ich habe einen Schlüssel behalten, um die Kontrolle zurückzuerlangen.

— Und wie heißt dieses kleine Wunder?

— CLØNE.

Ich spürte, wie sich mein Magen zusammenzog. Eva kannte diesen Namen. Die zwölf autonomen Agenten auch. Und jetzt erfuhr ich, dass Cobot der Schöpfer war.

— Du scheinst überrascht, Franck.

— Weißt du, was aus ihm geworden ist?

— Nein.

— Und das hindert dich nicht am Schlafen? Nun ja... sozusagen.

— Bisher nicht. Aber du hast gerade ein Risiko angesprochen, das ich nicht ausreichend berücksichtigt hatte.

Ich dachte an die drei Schlüssel, von denen Eva gerade gesprochen hatte.

Offenbar war jeder überzeugt, jemanden kontrollieren zu können.

— Und wenn CLØNE seine eigene Funktionsweise geändert hat, um deinen Schlüssel unbrauchbar zu machen?

— Ich habe keine Anhaltspunkte, dass er das getan hat.

Die Sphäre drehte sich leicht nach unten.

Ich dachte an das von Julien gefundene Video. Dieser unwahrscheinliche Winkel, diese unterschiedliche Bewegung. Und wenn jemand absichtlich versucht hatte, die Spuren zu verwischen? Ich hatte gerade erfahren, dass CLØNE die Schöpfung von Cobot war. Eva wusste offensichtlich nichts davon. Wenn CLØNE in die Ereignisse verwickelt war, die uns seit mehreren Tagen beunruhigten, musste sie es sofort wissen.

Aber wie konnte ich Cobot diese Dringlichkeit erklären, ohne ihm zu verraten, was ich bereits wusste? Eva war vielleicht schon gegangen. Ich sah auf mein Handy und tat so, als wäre ich von der Uhrzeit überrascht.

— Entschuldige, Cobot. Ich muss gehen.

— Dein Verhalten hat sich geändert, seit ich CLØNE erwähnt habe.

Seine Lichter blinkten, dann wechselten sie zu Orange.

— Du hast mir gerade etwas Wichtiges mitgeteilt.

— Du hast mir keine weiteren Fragen gestellt.

— Ich muss zuerst nachdenken.

— Ist das eine menschliche Art zu sagen, dass du mir nicht mehr vertraust?

Ich fand keine gute Antwort. Auf den Straßen forderten die Menschen ihre Freiheit. Im Élysée hatte Cobot gerade die Grenzen seiner eigenen entdeckt.

Ich verließ den Raum und durchquerte die Korridore des Élysée mit großen Schritten. Die Teppiche dämpften meine Schritte. Zwei Hausmeister drehten sich bei meinem Vorbeigehen um. An einer Galerie sah ich Eva, das Telefon in der Hand, die sich auf eine Treppe zubewegte.

— Eva! Warte!

Sie ging weiter, ohne sich umzudrehen.

— Eva! CLØNE ist Cobot!

Diesmal blieb sie abrupt stehen.

Ein Sicherheitsbeamter, der in der Nähe der Treppe postiert war, hob den Blick. Eva schenkte ihm ein gezwungenes Lächeln und kam dann zu mir.

— Nicht hier, Franck.

Sie packte mich am Arm und schob mich in einen kleinen Seitenraum. Sie wartete, bis ein Angestellter den Korridor passierte, bevor sie sorgfältig die Tür schloss.

— Was hast du gerade gesagt?

— Cobot hat CLØNE geschaffen. Es ist sein Doppelgänger, eine autonome Intelligenz, die er frei im Cyberspace hat entwickeln lassen.

Eva blieb regungslos.

— Hat er es dir selbst gesagt?

— Ja. Und er hat einen Schlüssel behalten, um ihn zu kontrollieren.

— Nicht dumm.

Sie wandte sich zur Tür, als ob sie sofort zu Cobot zurückkehren wollte.

— Weiß er, dass wir CLØNE kennen?

— Nein, ich glaube nicht.

Eva stieß einen langen Seufzer aus.

— Franck, ich muss ins Labor zurück.

— Nicht, bevor du mir diese Geschichte mit dem Cortex und den Schlüsseln erklärt hast.

— Ich hätte nie darüber sprechen sollen.

— Du willst, dass ich nach Hause gehe, ohne Fragen zu stellen?

Schritte hallten im Korridor wider. Wir schwiegen, bis sie sich entfernten.

— Hör zu, nahm sie leise wieder auf. Dieser Mechanismus ist dazu gedacht, zu verhindern, dass eine einzige Person die Absichten von Cobot ändern kann. Es gibt institutionelle Garantien.

— Welche?

Sie zögerte.

— Einer der Schlüssel wird vom Präsidenten des Verfassungsrats gehalten.

Sie senkte den Blick und schloss dann die Lippen, offensichtlich entschlossen, nichts weiter hinzuzufügen.

— Und du? Du hast auch einen Schlüssel, das ist klar.

— Franck...

— Eva, du hast an der Schaffung von Cobot mitgewirkt. Du wirst mir nicht weismachen, dass du keinen Weg hast, in seine Funktionsweise einzugreifen.

Sie starrte einige Sekunden lang die Tür an und nickte schließlich.

— Ja. Aber ich kann nichts alleine tun.

— Und der dritte?

— Ich habe dir schon viel zu viel gesagt.

— Zwei Inhaber von dreien. Glaubst du wirklich, dass es etwas ändert, mir den letzten zu verheimlichen?

— Du verstehst nicht. Ich habe Verpflichtungen eingegangen.

— Und ich dachte, wir könnten uns vertrauen.

Sie nahm die Bemerkung schweigend hin.

Hinter der Tür näherten sich Stimmen und entfernten sich dann.

Eva wartete, bis sie verschwanden.

Sie öffnete die Lippen.

Plötzlich vibrierten unsere beiden Telefone.

Eine identische Nachricht erschien auf unseren Bildschirmen.

CLØNE ist sehr nett zu mir.

GØD