EU AI Act: Was CTOs im DACH-Raum jetzt tun müssen

Die meisten Beiträge zum EU AI Act lesen sich wie eine juristische Zusammenfassung. Sie listen die Risikostufen auf, zitieren die Bussenobergrenzen und hören dort auf. Für CTOs, die in diesem Quartal entscheiden müssen, ob ein bereits produktiv laufendes Modell eine Dokumentation, eine menschliche Prüfstufe oder eine Abschaltung braucht, ist das wenig hilfreich.

Dieser Text ist für genau diese Entscheidung geschrieben — aus DACH-Sicht, wo die Regeln je nach Landesgrenze unterschiedlich greifen.

Die Schweiz ist nicht im Geltungsbereich, und das ändert weniger als gedacht

Die Schweiz ist kein EU-Mitglied. Der AI Act gilt also nicht für ein Schweizer Unternehmen, nur weil es ein Schweizer Unternehmen ist. Dort hören die meisten Zusammenfassungen auf — und dort beginnt der nützliche Teil.

Der AI Act gilt für Systeme, die auf dem EU-Markt bereitgestellt werden oder deren Ergebnisse in der EU genutzt werden. Ein Schweizer Unternehmen, das deutsche oder österreichische Kunden bedient, fällt mit diesen Systemen in den Geltungsbereich. Ebenso ein Schweizer Anbieter, dessen Modellergebnis über das Produkt eines Kunden bei einem EU-Nutzer ankommt.

In der Praxis entscheiden drei Fragen:

• Interagieren EU-Nutzer mit dem System, direkt oder über einen Kunden?
• Beeinflusst das Ergebnis eine Entscheidung, die in der EU getroffen wird?
• Ist es in ein Produkt eingebettet, das ein Kunde auf dem EU-Markt bereitstellt?

Ein einziges Ja genügt. Die meisten Schweizer KMU mit DACH-Kunden antworten irgendwo mit Ja — meist bei einem System, das nie jemand als «KI» eingeordnet hat.

Wo Ihre Systeme tatsächlich stehen

Die Stufen sind weniger wichtig als eine ehrliche Einordnung. Vier Kategorien, nach Tragweite absteigend:

Verboten. Social Scoring, ungezieltes Auslesen von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in Schulen. Wer hier steht, weiss es bereits.

Hochrisiko. Die Stufe, die Unternehmen überrascht. Dazu gehört KI in Einstellungsentscheiden, bei der Kreditwürdigkeit, bei wesentlichen privaten Dienstleistungen und als Sicherheitsbauteil regulierter Produkte. Ein Tool, das Lebensläufe sortiert, ist Hochrisiko. Ebenso ein Modell, das Kreditanträge bewertet, und eines, das Patientinnen und Patienten triagiert.

Begrenztes Risiko. Transparenzpflichten: Menschen müssen wissen, dass sie mit einer Maschine sprechen, und synthetische Inhalte müssen gekennzeichnet sein. Die meisten Chatbots liegen hier.

Minimales Risiko. Alles andere — und das ist tatsächlich das meiste.

GPAI liegt quer über den Stufen. Wer auf einem Basismodell aufbaut, erbt die Pflichten des Anbieters vertraglich statt direkt. Genau deshalb wiegt die Lieferantenfrage weiter unten schwerer, als sie aussieht.

Warum regulierte Branchen gelassener sind

Unternehmen aus dem Gesundheitswesen und dem Finanzsektor sind meist weiter. Der Grund ist nicht Weitsicht, sondern vorhandene Maschinerie.

Ein Unternehmen unter FINMA-Aufsicht oder mit einem Medizinprodukt unter MDR führt bereits ein Systeminventar, dokumentierte Risikobeurteilungen, Änderungskontrolle und Prüfpfade. Der AI Act verlangt dieselben Artefakte für eine neue Systemklasse. Die Arbeit ist real, aber sie ist Erweiterung, nicht Neubau.

Wer diese Maschinerie nicht hat, für den ist der AI Act nicht der schwierige Teil. Der schwierige Teil ist das erste Inventar.

Vier Fragen, die Ihre Position bestimmen

Haben Sie ein dokumentiertes KI-Inventar?

Keine Liste von KI-Projekten — eine Liste von Systemen, in denen ein Modell ein Ergebnis beeinflusst. Das sind in der Regel zwei verschiedene Listen. Die zweite enthält den Klassifikator, den jemand vor zwei Jahren in eine Support-Warteschlange eingebaut hat, die Scoring-Regel im CRM und das Prognosemodell in der Finanztabelle.

Viele Organisationen stellen fest, dass deutlich mehr Systeme betroffen sind als zunächst angenommen.

Welche Systeme wirken wesentlich auf Rechte, Sicherheit oder Geld?

Das ist die Einstufungsfrage. Sie gehört pro System von jemandem beantwortet, der versteht, was das System tut — nicht von der Rechtsabteilung anhand eines Projektnamens. «Recruiting-Assistent» sagt nichts; «sortiert Kandidatinnen und Kandidaten, bevor ein Mensch sie sieht» sagt Ihnen, dass es Hochrisiko ist.

Welche Governance brauchen Sie wirklich?

Für Hochrisiko-Systeme: Risikomanagement über den Lebenszyklus, Daten-Governance für Trainings- und Eingabedaten, technische Dokumentation, Protokollierung, menschliche Aufsicht sowie Tests auf Genauigkeit und Robustheit. Für begrenztes Risiko: Offenlegung. Für minimales Risiko: nichts Verpflichtendes — das Inventar muss die Systeme trotzdem kennen.

Was bringt Ihnen Ihre Lieferantenbeziehung tatsächlich?

Wenn Sie ein Basismodell eines Drittanbieters nutzen, brauchen Sie von ihm technische Dokumentation, Angaben zu Trainingsdaten und eine Zusage zur Weitergabe von Konformitätsnachweisen. Steht das nicht im Vertrag, haben Sie eine Lücke — und Sie bemerken sie erst, wenn ein Kunde danach fragt.

Ein 90-Tage-Pfad

Kein Programm, das ein Jahr läuft. Drei Monate, die Sie aus dem Blindflug holen.

Tage 1–30 — Inventar. Jedes System auflisten, in dem ein Modell ein Ergebnis beeinflusst. Verantwortliche Person, Datenquelle, betroffene Entscheidung. Fachbereiche befragen, nicht nur die IT.

Tage 31–60 — Einstufung. Jedes System einer Stufe zuordnen. Die Begründung dokumentieren, nicht nur das Ergebnis. Bei den Hochrisiko-Systemen die vorhandenen Artefakte gegen die geforderten stellen.

Tage 61–90 — Lückenschluss. Die grösste Lücke zuerst schliessen. Meist ist das die Protokollierung oder eine dokumentierte menschliche Prüfstufe — beides ist Technik, keine Juristerei.

Wenn Sie dabei Unterstützung brauchen: Genau dieses Inventar und diese Einstufung sind der Inhalt eines KI-Sprints, und die laufende Governance-Architektur gehört zur KI-Strategie-Beratung.

Kosten und Wettbewerbsargument

Die Bussenobergrenzen werden oft zitiert und sind selten der Grund, warum Unternehmen handeln. Der praktische Druck kommt von Kunden.

Ein deutscher oder österreichischer Einkauf fragt inzwischen im Fragebogen nach der AI-Act-Einordnung. Wer nicht antworten kann, verliert Zeit im Verkaufsprozess — manchmal den Auftrag. Umgekehrt gilt: Wer ein sauberes Inventar vorweist, beantwortet die Frage in Tagen statt in Wochen.

Für Schweizer Anbieter kommt ein zweiter Punkt dazu. Die Schweizer Datenschutzgesetzgebung (revDSG/nDSG) verlangt ohnehin Transparenz über automatisierte Einzelentscheide. Die Arbeit überschneidet sich. Beides getrennt anzugehen ist die teurere Variante.

Worauf Sie warten sollten — und worauf nicht

Warten Sie auf die harmonisierten Normen und die Leitlinien zur Einstufung. Die sind noch nicht vollständig, und eine Architektur darauf zu bauen, bevor sie steht, erzeugt Nacharbeit.

Warten Sie nicht mit dem Inventar. Es ist unabhängig von jeder Norm, es veraltet nicht, und es ist die Voraussetzung für jeden weiteren Schritt. Es ist auch der Teil, der am längsten dauert, weil er Gespräche in Fachbereichen erfordert, die ihre Systeme nicht als KI betrachten.

Wenn Sie prüfen möchten, wo Ihre Systeme stehen, vereinbaren Sie ein Gespräch — unverbindlich, und mit einer konkreten Einschätzung statt einer Broschüre.