Tippen Sie „KI-Einführung für den Mittelstand“ in eine beliebige Suchmaschine und zählen Sie die Treffer, bis Sie das Interesse verlieren. Neue Agenturen. Neue Beratungen. Neue Freiberufler, die letzten Frühling einen Chatbot-Workshop gegeben haben und jetzt „KI-Transformation“ verkaufen. Die meisten meinen es ernst. Manche wissen genau, was sie tun. Von außen, mit Blick auf eine Landingpage und ein Verkaufsgespräch, können Sie nicht unterscheiden, wer wer ist.

Das ist ein Prüfproblem, kein Kompetenzproblem

Das ist kein Kompetenzproblem auf Ihrer Seite. Es ist ein Prüfproblem, und es hat einen Namen. Ökonomen nennen es einen „Market for Lemons“: ein Käufer, der Qualität vor dem Kauf nicht prüfen kann, ein Verkäufer, der jeden Grund hat, Qualität zu behaupten, ob wahr oder nicht, und ein Markt, der sich mit Anbietern füllt, die der Käufer nicht sortieren kann. Fragen Sie einen Anbieter, ob seine KI-Implementierung Anweisungen von Daten trennt, ob sie eine echte Aktion hinter eine menschliche Prüfung stellt, und Sie bekommen eine Antwort. Was Sie nicht bekommen, ist eine Möglichkeit zu wissen, ob die Antwort stimmt. Eine selbstbewusste richtige Antwort und eine selbstbewusste falsche klingen von Ihrem Platz aus exakt gleich.

Das ist eine Variante eines Musters, das ich schon einmal auf kleinerer Bühne beschrieben habe: Agenturen installieren, was ein Kunde verlangt, oder was gerade angesagt ist, statt was tatsächlich gebraucht wird, weil ein Kunde, der Google Analytics verlangt, nicht weiß, was er dafür eintauscht. Tauschen Sie Google Analytics gegen einen KI-Agenten mit Zugriff auf Ihr Postfach und Ihre Kundendaten, und derselbe Fehler wird erheblich teurer. Niemand in diesem Geschäft lügt. Die Agentur glaubt, sie hilft. Der Kunde glaubt, ihm wird gedient. Keiner von beiden hat die Fachkenntnis, um zu erkennen, was fehlt.

Sich vor dem Verkaufsgespräch mit harten Fragen zu wappnen, ist der richtige Instinkt. Einen Anbieter zu bitten, das Risiko seines eigenen Systems einzustufen, zu benennen, wohin Ihre Daten tatsächlich gehen, oder technische Dokumentation vorzulegen, sagt Ihnen etwas Echtes. Und zu beobachten, wie diese Fragen beantwortet werden, nicht nur ob, ist ein echtes Signal. Aber dieses Signal richtig zu lesen, setzt trotzdem voraus, dass Sie eine gut einstudierte Ausflucht von einer ehrlichen Lücke unterscheiden können. Die meisten Käufer, die diesen Raum betreten, können das nicht, nicht weil sie unvorsichtig sind, sondern weil ihnen nie jemand beigebracht hat, wie eine echte Antwort klingt. Die Fragen bringen Sie fast bis zum Ziel. Die letzte Strecke braucht genau die Fachkenntnis, für die die Fragen eigentlich stehen sollten.

Das Gesetz hat das Problem benannt, dann zurückgerudert

Die nächste naheliegende Annahme ist, dass die Regulierung diese Lücke längst geschlossen hat. Der EU AI Act hat schließlich eine Klausel namens KI-Kompetenz. Artikel 4 verpflichtet Anbieter und Betreiber seit Februar 2025 dazu, ein ausreichendes Niveau an KI-Verständnis bei ihrem Personal aufzubauen, unabhängig davon, ob das jeweilige System als hochriskant gilt. Jemand in Brüssel hat das genaue Problem, um das es hier geht, richtig diagnostiziert: Organisationen, die KI-Systeme betreiben, die sie nicht verstehen, sind selbst ein systemisches Risiko.

Dann, vor drei Wochen, am 27. Juli 2026, hat der Digital Omnibus zur KI der EU diese Klausel umgeschrieben. Der ursprüngliche Text verpflichtete Anbieter und Betreiber, „im größtmöglichen Umfang ein ausreichendes Niveau an KI-Kompetenz sicherzustellen“. Der neue Text verlangt nur noch, „Maßnahmen zu ergreifen, um die Entwicklung“ davon zu unterstützen, mit einer zusätzlichen Klarstellung, dass niemand garantieren muss, dass eine einzelne Person dieses Niveau tatsächlich erreicht. Aus einer Erfolgspflicht wurde eine Bemühenspflicht.

Der Artikel, der wirklich Zähne gehabt hätte, Artikel 15, der Robustheit gegen genau die Art von Manipulation abdeckt, auf die ein Prompt-Injection-Angriff angewiesen ist, war für dieses Problem ohnehin nie gebaut. Er bindet nur Systeme, die nach Anhang III als hochriskant eingestuft sind: biometrische Identifikation, kritische Infrastruktur, Beschäftigung, Kreditvergabe. Kategorien, in die ein KI-E-Mail-Assistent oder ein kundenorientierter Chatbot nicht fällt. Und derselbe Digital Omnibus hat selbst diese enge Frist weiter nach hinten geschoben, von August 2026 auf Dezember 2027 für eigenständige Systeme. Es gibt hier also keinen Boden. Nicht das Wort des Anbieters. Nicht eine Reputation, die der Markt noch keine Zeit hatte aufzubauen. Und, seit drei Wochen, auch nicht der Regulierer.

Was die Lücke tatsächlich schließt

Was eine solche Lücke tatsächlich schließt, ist kein klügerer Käufer. Es ist ein Dritter, der an dem Verkauf nichts verdient. Es gibt Wirtschaftsprüfungen, weil ein Aktionär eine Bilanz nicht überprüfen kann, indem er das Unternehmen fragt, das sie geschrieben hat. Es gibt Bausachverständige, weil ein Käufer ein Fundament nicht überprüfen kann, indem er den Verkäufer fragt. Es gibt Code-Reviews vor einer Übernahme, weil niemand dem Zielunternehmen zutraut, sich selbst die Note zu geben. Der KI-Implementierung fehlt diese Rolle gerade, nicht weil niemand sie ausfüllen könnte, sondern weil der Markt zu jung ist und sich zu schnell bewegt, als dass irgendjemand bislang darauf bestanden hätte.

Vertrauen in einem so jungen Markt hat sich noch niemand verdient, was auf den Landingpages auch stehen mag. Es verdient sich, wer bereit ist zu prüfen, nicht wer bereit ist zu verkaufen.