KI im Wasserwerk – Hochrisikoprüfung, Sicherheitstest und manuelle Notversorgung
Praxisleitfaden für Wasserversorger zur Prüfung von KI-Sicherheitskomponenten, Lieferantenbelegen und manuellem Reservebetrieb.
Kurzantwort: Die EU-Verordnung 2024/1689 (AI Act) nennt in Anhang III Nummer 2 KI-Systeme, die als Sicherheitskomponente beim Betrieb kritischer Infrastrukturen einschließlich der Wasserversorgung eingesetzt werden sollen. Solche Systeme können nach Artikel 6 als Hochrisiko einzustufen sein. Ein rein administratives Berichtswerkzeug ist nicht deshalb Hochrisiko, weil es in einem Wasserwerk genutzt wird. Nach der AI-Omnibus-Änderung gelten die besonderen Hochrisikoregeln für Anhang III ab 2. Dezember 2027. Wasserqualitäts-, Cyber- und Betriebspflichten bleiben davon unabhängig.
Wann ist KI eine Sicherheitskomponente?
Prüfen Sie die vorgesehene Zweckbestimmung, die tatsächliche Sicherheitsrolle und den Einsatz im Entscheidungsprozess, nicht nur die Produktbezeichnung. Erfassen Sie KI-Anbieter, Betreiber, Wasserwerkverantwortliche und Entscheidungsbefugte. Artikel 6 und dortige eng gefasste Ausnahmen sind individuell zu prüfen. Die rechtliche Klassifikation allein erlaubt keine Kopplung mit der realen Trinkwasserproduktion.
Entscheidungstabelle zu KI-Funktionen
| KI-Anwendung | Prüffrage |
|---|---|
| KI empfiehlt Maßnahmen, die Mitarbeitende prüfen | Untersuchen, ob Empfehlungen faktisch sicherheitskritische Entscheidungen beeinflussen. Die Bezeichnung 'Entscheidungshilfe' ist kein automatischer Ausschluss. |
| KI fungiert als Sicherheitsbarriere | Anhang III Nummer 2 ist direkt relevant. Dokumentieren Sie Aufgabe, Schnittstellen, Fehlermodi, Lieferantenrolle und Artikel-6-Bewertung. |
| KI verfasst Verwaltungsberichte | Nicht automatisch Sicherheitskomponente nach Nummer 2. Datenschutz, sachliche Richtigkeit und andere Pflichten bleiben relevant. |
| KI ordnet Wartungsprioritäten ohne Steuerzugriff | Prüfen Sie, ob die reale Entscheidungs- und Wirkungskette trotzdem sicherheitskritisch ist. |
| Es gibt eine manuelle Rückfalloption | Dies ist eine Kontrolle, aber kein Nachweis für ausreichende Sicherheit oder Konformität. |
Welche Gesetze und Termine gelten?
Zeitplan: Verschiedene AI-Act-Pflichten gelten zu unterschiedlichen Daten; die besonderen Hochrisikoregeln für Anhang III gelten nach den Änderungen von 2026 ab 2. Dezember 2027. Artikel 27: Die besondere Grundrechte-Folgenabschätzung (FRIA) aus diesem Artikel nimmt Systeme nach Anhang III Nummer 2 ausdrücklich aus; das entbindet nicht von betrieblicher Risikoanalyse oder DSGVO. Schwedisches Trinkwasserrecht: LIVSFS 2022:12 gilt je nach Anwendungsbereich, mit bestimmten Untersuchungen seit 1. Januar 2026. Cybersicherheit: Erfasste Betreiber müssen die Cybersäkerhetslag 2025:1506 befolgen; die schwedische Lebensmittelbehörde überwacht den Trinkwassersektor.
Sicherer Ablauf vor der Inbetriebnahme
- Die tatsächliche KI-Funktion, Wirkungskette, Systemgrenzen und die befugte Person zum Abbruch der KI-Nutzung inventarisieren.
- Anhang III Nummer 2 und Artikel 6 bewerten und Hochrisiko- oder Nicht-Hochrisikogründe einschließlich der Rollen dokumentieren.
- Vom Anbieter echte Bedienungsanleitungen, Versionskennungen, nachprüfbare Testergebnisse und Änderungsregeln verlangen.
- Trinkwasserqualität, Kontinuität, Cybersicherheit und gegebenenfalls DSGVO getrennt rechtlich und betrieblich prüfen.
- Nur genehmigte synthetische Alarm- und Fehlerfälle in isolierten Testumgebungen durchführen, niemals verbunden mit echten Pumpen oder Dosierung.
- Fachkundige Wasser-, Prozess- und OT-Verantwortliche beurteilen unabhängig die Schutzmaßnahmen, Stoppbefugnis und die manuellen Verfahren; formalen STOPP/PRÜFEN-Beschluss aufzeichnen.
Zwei Praxisbeispiele
Fall A – Alarmpriorisierung: KI soll kritische Signale für Menschen sortieren. Klären Sie vorgesehene Nutzung, tatsächliche Abhängigkeit, unabhängige Schutzbarrieren und Eingriffsbefugnis. Anhang III Nummer 2 muss sachlich geprüft werden.
Fall B – Wochenbericht: Ein getrenntes Sprachmodell fasst unkritische Betriebsstatistiken zusammen und steuert nichts. Es ist nicht automatisch eine Sicherheitskomponente; Vertraulichkeit, Fakten und menschliche Kontrolle bleiben wichtig.
Manuellen Notbetrieb dokumentieren
Dokumentieren Sie befugte Abbruchpersonen, KI-Abhängigkeiten, unabhängige Nachweise und Freigabevermerke. Technische Ersatzbetriebsanweisungen und Sollwerte müssen ausschließlich vom qualifizierten Personal der Wasser- und Automatisierungstechnik erstellt und in genehmigten Systemen getestet werden. Der allgemeine Leitfaden enthält keine Pumpenparameter, Dosierungsvorgaben oder SPS-Programme. Nur anonymisierte Test-IDs, Ergebnisse und Belege gehören in ein Register.
Häufige Fragen
Ist jede KI im Wasserwerk automatisch Hochrisiko?
Nein. Anhang III Nummer 2 betrifft die Zweckbestimmung als Sicherheitskomponente. Artikel 6 muss für den konkreten Einzelfall bewertet werden.
Muss gemäß Artikel 27 immer eine FRIA erstellt werden?
Nein. Die spezielle FRIA-Pflicht nimmt Anhang III Nummer 2 ausdrücklich aus. Andere Folgen- und Risikobewertungen können trotzdem erforderlich sein.
Erlaubt dieses Dokument einen sofortigen Betrieb?
Nein. Nur Fachkundige dürfen Sicherheit testen, freigeben und den Betrieb eigenständig bewerten.
Amtliche Quellen und Vorbehalte
ai · art6 · art26 · art27 · dates · water · cyber · supervision
Redaktionelle Quellenprüfung 13. November 2026. AI Act in konsolidierter Fassung nach Digital Omnibus, EU-Kommission, schwedisches Trinkwasserrecht und Cybersäkerhetslag. Kein externes Rechtsgutachten oder technischer Sicherheitsnachweis.
Passende Dokumentvorlagen
Bearbeitbare Word-, PDF- und Excel-Dokumente: KI in Wasserwerken 2027 – Hochrisikoklassifizierung, Sicherheitstests und manueller Notbetrieb | Word/PDF/Excel. Der genaue Inhalt steht in der Produktbeschreibung.
