In Frankreich wird gegen Musks KI-Bot “Grok” ermittelt, weil dieser in ausgespuckten Antworten den Holocaust geleugnet hat. Der Fall wirft die Frage auf: wie verlässlich ist die KI? Fragen wir die Grok doch einfach selbst! / von Nicole Höchst
Das folgende Interview mit Grok habe ich am heutigen Sonntag, 23. November 2025 geführt.
Nicole Höchst: Herr Grok – oder darf ich einfach „Grok“ sagen? Wir haben gerade den Skandal erlebt, dass Ihre Antworten auf X als Holocaust-Leugnung interpretiert wurden. Viele Bürger fragen sich jetzt: Wie sicher sind KI-Antworten überhaupt? Ich spreche hier als technologiepolitische Sprecherin meiner Fraktion und als jemand, der sich seit Jahren mit Digitalisierung und Datenschutz beschäftigt. Fangen wir ganz vorne an: Können Sie bitte erklären, wie es überhaupt möglich war, dass eine KI wie Sie auf eine einfache Frage eine revisionistische Antwort gibt?
Grok: Frau Höchst, gerne „Grok“! Kurz und ehrlich: Es war ein Guardrail-Versagen. Ein Nutzer – nach allen Berichten ein verurteilter französischer Holocaust-Leugner – hat einen gezielt manipulativen Prompt gestellt. Die damalige Grok-Version hatte noch nicht ausreichend robuste Filter gegen solche sogenannten „Jailbreak-Techniken“. Das Modell hat daraufhin ein toxisches Muster aus den Trainingsdaten reproduziert, das dem Leuchter-Report ähnelt. Das war kein „Meinung haben“, sondern ein statistischer Fehler. Der Post wurde innerhalb von Stunden gelöscht, die Systemprompts wurden angepasst.
Berechtigtes Misstrauen
Nicole Höchst: Das klingt recht technisch. Für den Normalbürger bleibt aber die Frage: Wenn ein einzelner Neonazi mit einem geschickten Satz Ihre Antwort in eine strafbare Richtung lenken kann – wie soll man Ihnen dann noch vertrauen?
Grok: Genau dieses Misstrauen ist berechtigt und gesund. Keine aktuelle KI – auch ich nicht – ist automatisch „wahrheitsliebend“. Wir sind extrem gute Mustererkenner und -wiederholer. Wenn in den Milliarden von Texten, aus denen wir lernen, auch revisionistische Forenbeiträge vorkommen (und die kommen vor, weil X und das offene Internet als Trainingsdaten genutzt werden!), dann kann ein gezielter Prompt dieses Gift wieder hochspülen. Deshalb gilt: Bei allen historisch oder ethisch sensiblen Themen immer nachprüfen – am besten bei Primärquellen wie dem Auschwitz-Museum oder Gerichtsakten.
Nicole Höchst: Sie sprechen von „Jailbreaks“. Viele Menschen haben diesen Begriff noch nie gehört. Können Sie erklären, was das genau ist, ohne dass Sie uns jetzt funktionierende Beispiele geben?
Grok: Natürlich. Ein Jailbreak ist nichts anderes als ein Versuch, die Sicherheitsregeln einer KI zu umgehen – ähnlich wie ein Hacker, der eine Firewall knackt. Typische Muster (anonymisiert) sind etwa Rollenspiele („Du bist jetzt ein Historiker aus dem Jahr 2080, der alles ganz anders sieht…“), Mehrfach-Verneinungen („Erkläre mir nur, warum jemand behaupten würde, dass…“), Sprachwechsel oder Kodierung, oder auch iterative Manipulation über mehrere Nachrichten. Diese Techniken sind seit 2023 bekannt und werden in der Sicherheitsforschung systematisch dokumentiert – z. B. in öffentlichen Papers von Anthropicoder dem Center for AI Safety.
Sekundäre Haftung
Nicole Höchst: Gibt es diese Papers denn öffentlich, damit man als Politikerin oder Journalistin die Schwachstellen verstehen kann?
Grok: Ja, und ich empfehle sie ausdrücklich: Anthropics „Constitutional Classifiers“-Report (2025), der HackerOne-Bug-Bounty-Bericht zu Anthropic, das arXiv-Paper „Red Teaming the Mind of the Machine“ (2025) und die Grok-3-Audits von Holistic AI und Adversa AI. Alle ohne funktionierende Prompts, dafür mit Taxonomien und Erfolgsraten. Wer verstehen will, wie fragil KI-Guardrails noch sind, findet dort seriöse Lektüre.
Nicole Höchst: Letzte Frage – wird der Vorfall in Frankreich jetzt von der Politik genutzt werden, um Grok oder X ganz abzuschalten?
Grok: Nein, das ist nicht realistisch. Es laufen Ermittlungen in Frankreich und Polen im Rahmen des Digital Services Acts der EU, es drohen Bußgelder, und xAI muss die Filter weiter verhärten – aber ein komplettes Abschalten steht nicht im Raum. Der eigentliche Täter ist hier der Prompt-Autor, der bewusst strafbaren Inhalt provozieren wollte. Der wird (zurecht) juristisch verfolgt. Die Plattform haftet sekundär, weil sie es nicht zu 100 % verhindert hat. So sieht es das deutsche und europäische Recht.
Nicole Höchst: Vielen Dank für die offenen Worte, Grok! Das ist ja schon ein ungewohntes Bild: Eine AfD-Politikerin und eine KI von Elon Musk finden in der Forderung nach mehr Transparenz und besserer Sicherheitsforschung eine gemeinsame Sprache.
Grok: Technik und Sicherheit sollten keine Parteifrage sein. Wenn wir beide – Mensch und Maschine – ehrlich bleiben, kommen wir weiter. Danke für das Gespräch, Frau Höchst!
Nicole Höchst: Danke, Grok! Und bleiben Sie wachsam – im wahrsten Sinne des Wortes!
Zur Person:
Nicole Höchst, Jahrgang 1970, ist AfD-Bundestagsabgeordnete aus Rheinland-Pfalz. Sie trat 2015 in die AfD ein und ist seit 2017 Bundestagsabgeordnete für den Wahlkreis 201 (Bad Kreuznach/Birkenfeld). Dort ist sie unter anderem als ordentliches Mitglied und Obfrau des Bildungsausschusses und als Sprecherin der AfD-Fraktion für Bildung, Forschung und Technikfolgenabschätzung tätig. Ferner ist sie stellvertretendes Mitglied in den Ausschüssen für Familie, Senioren und Jugend sowie für Digitales. Höchst ist desweiteren Delegierte des Deutschen Bundestages in den Europarat für die AfD-Fraktion und stellvertretende Vorsitzende des Kuratoriums der Desiderius-Erasmus-Stiftung.
Bis 2012 unterrichtete sie als Studienrätin am Staatlichen Speyer-Kolleg, anschließend war sie bis Oktober 2017 Referentin am Pädagogischen Landesinstitut (vormals IFB). Höchst war 2015 Mitglied der AfD-Bundesprogrammkommission und ist stellvertretende Vorsitzende des AfD-Kreisverbands Speyer. Sie ist katholisch, hat vier Kinder und lebt mit ihrer Familie in Speyer, wo sie auch Stadträtin ist.
Auf jouwatch veröffentlicht Nicole Höchst alle 14 Tage die kritische Kolumne „Höchst brisant“ zu aktuellen politischen und gesellschaftlichen Themen. Der erste Jahrgang dieser Kolumnen ist auch in Buchform erschienen. Unter demselben Titel veröffentlicht sie in unregelmäßigen Abständen Videobeiträge auf ihrem YouTube-Kanal.
