Die Frist verschiebt sich immer — bis sie es nicht mehr tut

Ich mache das schon lange genug, um mich daran zu erinnern, als die komplette MiFID-II-Dokumentation noch in einen Aktenkoffer passte. Ich habe erlebt, wie sie verschoben wurde — die Verbände beschwerten sich lautstark, dass die Zeit nicht reiche, und die Regulierung rutschte gerade so weit nach hinten, dass alle durchatmen konnten. Ich war trotzdem früh dran, wurde rechtzeitig fertig, und landete am Ende als der „Superexperte“, der auf einem zweiten Projekt die Nachzügler retten sollte. Nicht weil ich klüger war. Weil alle anderen darauf gewettet hatten, dass sich die Frist noch einmal verschiebt — und das tat sie auch. Bis sie es irgendwann nicht mehr tat.

Die Hochrisiko-Frist des EU AI Act hat gerade genau dasselbe getan: von August 2026 auf Dezember 2027 verschoben. Wenn Sie gerade aufatmen, spielen Sie dieselbe Karte, die jeder MiFID-II-Nachzügler gespielt hat. Manche haben gewonnen. Die meisten haben die zusätzliche Zeit mit Warten verbracht statt mit Bauen — und als die Frist dann wirklich kam, gerieten sie genauso in Panik, als hätte sie sich nie verschoben.

Was damals fast niemand in dieser Position verstanden hat, und was fast niemand versteht, der Ihnen heute KI verkauft: Regulierung ist nicht nur eine Compliance-Kosten, die man überleben muss. Sie ist eine Gelegenheit, anzupassen, was man tatsächlich verkauft — die eigenen Produkte, das eigene Geschäftsmodell —, während die Konkurrenz noch über den Zeitplan jammert. Das will niemand hören. Regulierung kommt immer zur falschen Zeit. Aber „falsche Zeit“ und „kein Vorteil verfügbar“ sind nicht derselbe Satz.

Der Wow-Moment ist das Produkt

Bei KI-Anbietern heute läuft es nach genau demselben Muster. Schauen Sie sich die Stellenausschreibungen an — ein auffällig großer Anteil davon sind Vertriebsrollen, keine Umsetzungs- oder Compliance-Rollen. Die Leute, die Unternehmen einstellen, um KI ins Haus zu holen, sind nicht die, die verstehen, wie sie funktioniert oder wie das rechtliche Risiko aussieht. Es sind die, die den „Wow“-Moment auslösen können. Dafür hatten wir früher einen Satz: Auf PowerPoint funktioniert es hervorragend — wie sieht es in der echten Welt aus?

Es ist dieselbe Dynamik, die ChatGPT vor ein paar Jahren wie ein Wunder wirken ließ: ein Textabsatz, der tatsächlich gut klang, war neu genug, dass es in der Unternehmenswelt niemand für möglich gehalten hatte. Heute weiß jeder, dass er KI nicht vermeiden kann und dabei sein will — und hat keine Ahnung, wie. Genau diese Lücke ist es, die eine Demo füllen soll. „Hier ist Claude Code, hier ist Copilot — schauen Sie, was das mit Ihren Daten macht.“ Niemand fragt, was das eigentliche Ziel sein sollte.

Die Fragen, die wirklich zählen, sind unglamourös — genau deshalb kommen sie in einem Verkaufsgespräch nicht vor. Wenn Ihre Daten das Unternehmen nicht verlassen dürfen, wie funktioniert das dann tatsächlich? Wie halten Sie bestimmte Daten komplett aus dem Modell heraus? Wenn Daten intern verarbeitet werden — wie werden sie aufbereitet, welches Vektorformat, welche Chunk-Größe, welches lokale Modell passt tatsächlich zu Ihrem Fall? Das sind keine Entscheidungen, die so getroffen werden wie die meisten Geschäftsabschlüsse — in einem Raum, in dem in der Regel niemand von außen versteht, wie der Deal tatsächlich zustande kam. Sie brauchen echte Antworten, keine Demo.

Fünf Fragen, die Sie vor der Unterschrift stellen sollten

Stellen Sie diese fünf Fragen, bevor Sie unterschreiben. Achten Sie genau darauf, wie sie beantwortet werden — nicht ob.

1. Ist dieses System nach Anhang III als Hochrisiko eingestuft, und können Sie mir die Konformitätsbewertung zeigen?

Zunehmend ist die Person, die antwortet, nicht einmal diejenige, die das Modell gebaut hat. Vieles von dem, was Ihnen als „unsere KI-Lösung“ verkauft wird, ist ein weiterverkauftes LLM mit einer Oberfläche drumherum — „hier ist Claude Code, hier ist Copilot, ist super.“ Wenn Ihr Anbieter das Modell eines anderen weiterverkauft, fragen Sie ihn, wie er das Risiko eines Systems einstufen kann, das er nicht selbst gebaut hat und dessen Innenleben er nicht vollständig erklären kann.

2. Wo werden unsere Daten verarbeitet, und was passiert mit ihnen, bevor sie dort ankommen?

Ich habe einmal ein Startup, das genau dieses Versprechen anpries — personenbezogene Daten werden geschwärzt, bevor irgendetwas das Haus verlässt —, gefragt, was mit Geschäftsgeheimnissen, geistigem Eigentum und geschäftskritischen Informationen passiert. Ihre Antwort: „Das decken wir auch ab.“ Als ich fragte, wie sie solche Daten überhaupt als sensibel erkennen würden, war die Antwort: Sie würden einen Weg finden. Das ist keine Datenrichtlinie. Das ist ein Plan, irgendwann einen Plan zu haben.

3. Was ist Ihr Prozess, wenn das System ein überzeugt falsches Ergebnis liefert?

Das passiert häufiger, als irgendjemand zugibt. Manchmal spielt es keine Rolle. Manchmal bemerkt es jemand und wird nicht gehört, oder traut sich nicht, es zu sagen. Oft wird es zu spät entdeckt — weil KI Ergebnisse schneller produziert, als irgendein Mensch sie prüfen kann, und keine Organisation alles kontrollieren will; das würde den ganzen Sinn des KI-Einsatzes zunichtemachen. Die meisten Unternehmen sind so darauf fokussiert, die KI zum Laufen zu bringen, dass sie nie den Prozess bauen, der greift, wenn es nicht funktioniert.

4. Können Sie mir die technische Dokumentation dieses Systems zeigen?

Stellen Sie diese Frage und beobachten Sie, wem dabei unwohl wird. Die führenden Anbieter — Anthropic, OpenAI, die Namen, die jeder weiterverkauft — behandeln genau diese Dokumentation als geschütztes geistiges Eigentum und legen sie nicht offen. Open-Source-Modelle wie Qwen dokumentieren, wie man sie installiert und betreibt — nicht, wie sie tatsächlich funktionieren. Niemand veröffentlicht eine echte Dokumentation dessen, wie das Modell erzeugt, was es erzeugt, weil das bedeuten würde, ein hochkomplexes mathematisches Modell offenzulegen, kein Produkthandbuch. Und selbst wenn sie es täten, bräuchte die EU-Kommission selbst spezialisierte Ingenieure und Mathematiker, um es zu prüfen — genau deshalb ist „wir erfüllen Artikel 11“ ein viel leichterer Satz zu sagen als zu beweisen.

5. Welche NIS2-Pflichten haben Sie als unser Zulieferer, und was passiert, wenn trotz Ihrer Zusicherungen Daten abfließen?

Zurück zum Startup aus Frage zwei. Wenn sich „keine Daten verlassen das Haus“ als falsch herausstellt, ist der Schaden erheblich — und praktisch unmöglich nachzuverfolgen. In der Finanzwelt ordnen wir Risiken danach, wie messbar sie sind: Marktrisiko ist am einfachsten, weil die Daten reichlich vorhanden sind. Operationelles Risiko ist am schwersten, weil niemand genau die Daten offengelegt haben will, die man zur Berechnung bräuchte. KI-Risiko ist schlimmer als das. Sobald Informationen vektorisiert sind, lässt sich oft nicht mehr sagen, wohin sie gelangt sind oder wann — man erfährt erst davon, wenn sie irgendwo auftauchen, wo sie nie hätten auftauchen dürfen.

Wenn Sie Ihrem Anbieter diese fünf Fragen heute stellen würden, würden Sie einige der Antworten überraschen — nicht weil Ihr Anbieter unehrlich ist, sondern weil in diesem Markt fast niemand bisher gezwungen war, sie zu beantworten. Das ist kein Grund zur Panik. Es ist ein Grund, vor der Unterschrift zu fragen, nicht danach.

Dabei geht es eigentlich gar nicht um KI-Anbieter

Dabei geht es eigentlich gar nicht um KI-Anbieter. Es geht darum, was jedes Mal passiert, wenn eine Organisation etwas schneller übernimmt, als sie es verstehen kann — was gerade bei KI größtenteils der Fall ist, und das wird nicht bei Ihrer Anbieterauswahl aufhören. Die nächste Wand, gegen die Sie auf diesem Weg laufen, wird nicht wie diese hier aussehen. Sie wird wie eine andere Annahme aussehen, die niemand infrage stellen wollte, in einem Moment, in dem das Infragestellen weniger kostet als das Unterlassen.

Das ist die Arbeit, die ich mache. Keine Audits auf Bestellung — sondern die Frage zu stellen, die längst hätte gestellt werden sollen, bevor sie zum Grund wird, warum etwas Teures schiefgelaufen ist.