KI-Governance in der Fertigung: Ein IT-Praxisleitfaden für Sicherheit, Versionierung und Insellösungen

Kurze Antwort: KI-Governance in der Fertigung bedeutet, dass jede KI-getriebene Anwendung, die den Shopfloor berührt, erfasst, gesichert, versioniert und von einem Menschen genehmigt wird, bevor sie läuft, mit einem vollständigen Audit Trail. Der schnellste Weg dorthin ist, KI auf einer Plattform mit Governance zu konsolidieren, statt sie über viele Insellösungen zu verteilen.

KI-Governance in der Fertigung ist ein IT-Problem geworden, kein Forschungsprojekt. Ihre Ingenieure können an einem Nachmittag einen KI-Prototyp aufsetzen. Diesen Prototyp sicher auf eine laufende Produktionslinie zu bringen und ihn unter Kontrolle zu halten, sobald er dort ist, ist der Punkt, an dem die meisten Initiativen hängen bleiben.

Dieser Leitfaden führt IT- und Architekturteams durch die Kontrollen, die zählen: Sicherheit, Versionierung und Rollback, die Freigabe durch Menschen und wie Sie die Ausbreitung von Insellösungen vermeiden. Er ordnet jede Kontrolle den Frameworks zu, gegen die Sie auditiert werden, und zeigt, wie die Workerbase-Plattform Shopfloor-KI innerhalb dieser Kontrollen baut und betreibt. Wenn Sie zuerst das Plattformbild wollen, beginnen Sie damit, wie Workerbase funktioniert. Für die Anwendungsfälle, die die Sandbox tatsächlich verlassen, stellen Sie das mit fünf generativen KI-Einsätzen, die die Produktion erreichen zusammen. Dieselben Kontrollen gelten, wenn der Verbesserungskreislauf in Schichten läuft und wenn Teams Industriedaten in Shopfloor-Arbeit überführen.

Warum ist KI ohne Governance auf dem Shopfloor riskanter als im Backoffice?

Weil Shopfloor-KI die Produktion berührt. Ein Backoffice-Chatbot, der halluziniert, verschwendet Zeit. Eine KI-generierte App, die eine schlechte Anweisung an eine Linie schiebt, kann sie stoppen, und ein Stillstand kostet mehr als das Problem, das die KI lösen sollte. Physischer Output, Sicherheit und Rückverfolgbarkeit heben den Einsatz über normales Software-Risiko.

Das Transparenzproblem besteht bereits. Gartner erwartet, dass aufgabenspezifische KI-Agenten bis Ende 2026 in 40% der Enterprise-Anwendungen stecken, im Vergleich zu weniger als 5% im Jahr 2025, und warnt, dass die unkontrollierte Ausbreitung von KI-Agenten ohne Governance die nächste Sicherheitsgrenze ist. Auf dem Shopfloor bedeutet diese Ausbreitung KI, die mit Ausführungsautorität handelt, die nie in Ihrem Identitätsverzeichnis oder Änderungsprozess auftaucht.

In der Fertigung kommen zwei Faktoren hinzu:

• KI erreicht OT. Shopfloor-KI liest aus MES, ERP, SCADA und Maschinendaten und schreibt dorthin. Eine schwache Integration ist ein Angriffspfad in die Operational Technology, nicht nur ein Datenleck.
• Fehler verstärken sich physisch. McKinseys State of AI-Forschung fand, dass 51% der Organisationen im vergangenen Jahr mindestens einen negativen KI-Vorfall hatten, von Ungenauigkeit bis zu Compliance-Verstößen. Auf einer Linie zeigen sich diese Vorfälle als Ausschuss, Ausfallzeit oder ein gescheitertes Audit.

Was erfordert KI-Governance in der Fertigung tatsächlich?

Vier Kontrollen gelten für jede KI-Anwendung, bevor sie einen Mitarbeiter erreicht: Sicherheit und Zugriffskontrolle, Versionskontrolle mit sofortigem Rollback, die Freigabe folgenreicher Aktionen durch einen Menschen und ein vollständiger Audit Trail. Zusammen erfüllen sie die KI-Frameworks, die Regulierer und Enterprise-Einkäufer inzwischen als Grundvoraussetzung behandeln. Jede Kontrolle lässt sich einem Standard zuordnen, den Ihre Auditoren bereits nutzen:

• Sicherheit und Zugriff – Rollenbasierter Zugriff, verschlüsselte Integrationen und keine direkte Maschinensteuerung durch KI. Grundlage: ISO 27001 und TISAX.
• Versionierung und Rollback – Jede App und jede Änderung ist versioniert, sodass Sie sofort auf den letzten funktionierenden Stand zurücksetzen können. Grundlage: ISO/IEC 42001.
• Menschliche Aufsicht – Eine Person genehmigt folgenreiche Änderungen, bevor sie live gehen. Grundlage: EU AI Act Artikel 14 und dem NIST AI RMF (Govern-Funktion).
• Audit Trail – Automatisches Protokollieren, was gelaufen ist, wann und durch wen, über die gesamte Lebensdauer des Systems. Grundlage: EU AI Act Artikel 12.

Das NIST AI Risk Management Framework organisiert das als Govern, Map, Measure und Manage, angewendet über den KI-Lebenszyklus hinweg statt als einmaliges Gate. ISO/IEC 42001 formalisiert es zu einem KI-Managementsystem, in dem Modellversionierung, Entscheidungsprotokollierung, Aufzeichnungen zur menschlichen Aufsicht und Datenherkunft alle versionskontrolliert und für das Audit verfügbar sein müssen. Und Artikel 12 des EU AI Act verlangt, dass Hochrisiko-KI-Systeme über ihre Lebensdauer automatisch Logs aufzeichnen, mit Pflichten durchsetzbar ab dem 2. August 2026 und Bußgeldern bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes.

Wie setzen Sie KI-Governance in die Praxis um?

Führen Sie jede KI-Anwendung durch dasselbe Gate, vom Inventar bis zum Audit. Das Ziel ist eine wiederholbare Pipeline, sodass eine neue KI-App denselben Weg geht wie ein Code-Deployment: geprüft, versioniert, genehmigt und reversibel. Sechs Schritte bringen Sie dorthin.

1. Erfassen Sie jede KI-Anwendung

Bauen Sie ein Register der KI-Apps und -Agenten, die den Shopfloor berühren. Gartners Leitfaden zur Ausbreitung von KI-Agenten beginnt an gleicher Stelle: ein zentrales Register. Was nicht im Register steht, läuft nicht.

2. Deployment hinter Prüfung sperren

Kein KI-Output erreicht ein Mitarbeitergerät, ohne eine definierte Prüfung zu durchlaufen. Prototypen bleiben in einem kontrollierten Pfad, bis sie für die Produktion validiert sind, sodass nichts versehentlich vom Laptop eines Ingenieurs auf eine laufende Linie geht.

3. Alles versionieren, Rollback einen Klick entfernt halten

Behandeln Sie KI-Apps wie Code. Jede App und jede Änderung bekommt eine Version. Wenn sich etwas falsch verhält, setzen Sie sofort auf den letzten funktionierenden Stand zurück. Wenn Sie eine schlechte Änderung nicht in Sekunden rückgängig machen können, läuft ein schlechtes Deployment, bis jemand es von Hand behebt.

4. Die Integrationsschicht absichern

KI sollte über Integrationen mit Governance und Rollensteuerung lesen und schreiben, nie indem sie direkte Kontrolle über eine Maschine übernimmt. Verschlüsseln Sie Daten in Übertragung und im Ruhezustand, und beschränken Sie den Zugriff pro Rolle, sodass eine KI-App nur die Systeme erreicht, die sie benötigt.

5. Einen Menschen am Steuer behalten

Verlangen Sie für jede folgenreiche Änderung die Freigabe durch einen Menschen. Das ist sowohl eine Erwartung des EU AI Act als auch die Linie zwischen einem Vorschlag, den Ihr Team abzeichnet, und einer ungeprüften Handlung, die auf Ihrem Shopfloor läuft.

6. Standardmäßig für das Audit protokollieren

Erfassen Sie automatisch, was gelaufen ist, wann und wer es genehmigt hat. Wenn ein Auditor fragt, was sich in der zweiten Schicht am Dienstag geändert hat, sollte die Antwort ein Report-Abruf sein, keine zweiwöchige Untersuchung.

Wie vermeiden Sie eine wachsende Zahl von KI-Insellösungen?

Konsolidieren. Jedes eigenständige KI-Tool bringt eigenen Login, eigene Integration, eigene Datenkopie und eigenen Änderungsprozess mit und vergrößert die Angriffsfläche, die die IT sichern und steuern muss. Eine Plattform mit Governance, die KI-Apps baut und betreibt, stoppt diese Ausbreitung an der Quelle und macht Governance zu einer Eigenschaft des Systems statt zu einer Richtlinie, der Sie über ein Dutzend Anbieter hinterherlaufen.

Insellösungen sind doppelt teuer. Zuerst in der Sicherheit: Gartner setzt die Kostenprämie von Breaches mit Shadow-KI ohne Governance auf mehrere Hunderttausend Dollar pro Vorfall. Zweitens in den Ergebnissen: McKinsey findet, dass High Performer eine funktionsübergreifende KI-Fähigkeit aufbauen, statt isolierte Abteilungs-Lösungen zu perfektionieren, und rund zwei Drittel der Organisationen stecken noch in Piloten, die nie skalieren.

Hier passt das Modell der Workerbase-Plattform. Statt für jeden Anwendungsfall eine neue Insellösung zu kaufen, beschreiben Prozessexperten, was sie brauchen, und die Plattform setzt eine validierte Shopfloor-App auf derselben Engine mit Governance zusammen, die bereits Ihre Workflows betreibt. Sie ist Low-Code und von Ops konfigurierbar, sodass 85% der Konfiguration von Ops-Teams erledigt wird, und sie hat Governance von Design an: genehmigt, bevor sie läuft, versioniert, sofort reversibel, mit Freigabe durch einen Menschen bei jeder Änderung. Die Workflow-Automatisierungs-Engine ist ein System für jeden Anwendungsfall, sodass sich die Investition kumuliert, statt in getrennte Tools zu zerfallen.

Sie ist außerdem additiv zu Ihrem Stack. Workerbase verbindet sich über über 100 vorgefertigte Integrationen mit dem, was Sie bereits betreiben, sodass weder ein neuer Data Lake noch ein Austausch bestehender Systeme nötig ist.

Häufige Fehler, die IT-Teams bei Shopfloor-KI machen

• Governance am Modell, nicht am Deployment. Die App, die einen Mitarbeiter erreicht, ist das, was eine Linie stoppen kann, also steuern Sie den Deployment-Pfad, nicht nur die Modellgewichte.
• KI direkte Maschinensteuerung überlassen. Halten Sie KI auf der Mensch-und-Daten-Seite. Sie soll Aufgaben an Menschen verteilen und Daten lesen oder schreiben, nicht Maschinen betätigen.
• Kein Rollback-Plan. Wenn eine schlechte Änderung nicht in Sekunden rückgängig gemacht werden kann, ist Governance theoretisch. Sofortiger Rollback macht sie real.
• Compliance als Nachrüstung behandeln. Artikel-12-Logging und Artikel-14-Aufsicht sind von Anfang an deutlich günstiger, als sie nach August 2026 nachzurüsten.
• Ein Tool pro Anwendungsfall kaufen. Jede Insellösung ist eine weitere Integration, ein weiterer Login und ein weiterer Audit-Scope. Diese Ausbreitung ist eine Governance-Steuer, die Sie jeden Monat zahlen.

Häufig gestellte Fragen

Was ist KI-Governance in der Fertigung?

KI-Governance in der Fertigung umfasst alle Kontrollen, die KI-Anwendungen auf dem Shopfloor sicher, rechenschaftspflichtig und reversibel halten. In der Praxis bedeutet das, dass jede KI-App erfasst, gesichert, versioniert, von einem Menschen genehmigt wird, bevor sie läuft, und vollständig protokolliert ist. Sie wendet dieselbe Disziplin auf KI an, die die IT bereits auf Produktionssoftware anwendet, sodass KI-Output eine laufende Linie erreichen kann, ohne unkontrolliertes Risiko hinzuzufügen.

Welche Frameworks gelten für KI auf dem Shopfloor?

Drei zählen am meisten. Das NIST AI Risk Management Framework gibt Ihnen eine Lebenszyklusstruktur (Govern, Map, Measure, Manage). ISO/IEC 42001 macht aus Governance ein zertifizierbares KI-Managementsystem, das Versionierung, Logging, Aufsicht und Datenherkunft abdeckt. Der EU AI Act setzt rechtliche Pflichten für Hochrisiko-Systeme, einschließlich automatischem Logging (Artikel 12) und menschlicher Aufsicht (Artikel 14), durchsetzbar ab dem 2. August 2026. ISO 27001 und TISAX decken die zugrunde liegende Sicherheitslage ab.

Wie unterscheidet sich die Governance von Shopfloor-KI von MLOps?

MLOps steuert den Modell-Lebenszyklus: Training, Deployment und Monitoring eines Modells. Shopfloor-KI-Governance ist breiter. Sie steuert die Anwendung, die einen Mitarbeiter erreicht, die Integrationen in OT und Enterprise-Systeme, den Freigabeschritt durch einen Menschen und den Audit Trail, nach dem ein Auditor fragen wird. Auf einer Produktionslinie lebt das Risiko in der eingesetzten App und ihren Handlungen, daher muss Governance den ganzen Pfad abdecken, nicht nur das Modell.

Gilt der EU AI Act für Fertigungs-KI?

Ja, wo das KI-System als Hochrisiko eingestuft ist, was auf viele produktions- und sicherheitsbezogene Anwendungsfälle zutrifft. Der Act verlangt Dokumentation und automatisches Logging über die Lebensdauer des Systems (Artikel 12), menschliche Aufsicht (Artikel 14), Risikomanagement und Cybersicherheit-Resilienz. Hochrisiko-Pflichten sind ab dem 2. August 2026 durchsetzbar, mit Bußgeldern bis zu 35 Millionen Euro oder 7% des weltweiten Umsatzes. Diese Kontrollen jetzt einzubauen ist günstiger, als sie später nachzurüsten.

Wie stoppen Sie die Ausbreitung von KI-Insellösungen?

Konsolidieren Sie auf einer Plattform mit Governance, statt pro Anwendungsfall ein separates KI-Tool hinzuzufügen. Jedes eigenständige Tool bringt eigenen Login, eigene Integration, eigene Datenkopie und eigenen Änderungsprozess mit, und jedes davon vergrößert die Angriffsfläche, die die IT sichern und auditieren muss. Eine einzelne Plattform, die KI-Apps baut und betreibt, macht Governance zu einer Eigenschaft des Systems, sodass neue Anwendungsfälle dieselben Kontrollen wiederverwenden, statt neue zu erzeugen.

Können Ops-Teams KI-Apps bauen, ohne dass die IT die Kontrolle verliert?

Ja, wenn Konfigurierbarkeit und Governance in derselben Plattform leben. Ops-Teams bekommen Self-Service-App-Bau, sodass rund 85% der Konfiguration ohne IT geschieht. Die IT behält rollenbasierten Zugriff, Versionierung, Freigabe-Gates und Audit-Logging um das Ganze. Die Konfigurierbarkeit ist das, was Ops benötigt. Die Governance-Schicht ist das, was die IT benötigt. In einer so gestalteten Plattform stehen sie nicht im Konflikt.