Vertrauen & Governance
Für Schweizer Firmen, die KI einsetzen, gelten das revDSG und Branchenaufsichten wie die FINMA. Wer den EU-Markt bedient, kann auch unter den EU AI Act fallen. Diese Seite fasst zusammen, was jeder Rahmen in der Praxis verlangt. Und welche Kontrollen Emineon in jedes System einbaut, damit die Nachweise ab dem ersten Tag vorliegen.
- FINMA
- FINMA-Aufsichtsmitteilung 08/2024
- nFADP
- revDSG (nDSG, revidiertes Bundesgesetz über den Datenschutz)
- EU
- EU AI Act (KI-Verordnung der EU)
- CH
- Der eigene Weg der Schweiz
01 · Die Rahmenwerke
Eine Zusammenfassung aus der Praxis, keine Rechtsberatung. Prüfen Sie die Primärquellen und klären Sie mit Ihrer Rechtsberatung, welche Pflichten für Sie gelten.
FINMA-Aufsichtsmitteilung 08/2024
Banken, Versicherer, Vermögensverwalter und andere von der FINMA beaufsichtigte Institute.
Die Aufsichtsmitteilung der FINMA zu Governance und Risikomanagement beim Einsatz von KI durch beaufsichtigte Institute. Sie beschreibt, was die Aufsicht sehen möchte. Sie gibt den Rahmen für den Aufsichtsdialog zu KI vor.
- Ein gepflegtes Inventar der KI-Anwendungen mit klaren Verantwortlichen.
- Jede Anwendung nach Risiko klassifizieren und entsprechend steuern.
- Für Datenqualität, Tests und laufende Überwachung sorgen.
- Eine Dokumentation führen, die Ergebnisse erklärbar und überprüfbar macht.
Quelle: FINMA · Aufsichtsmitteilung 08/2024
revDSG (nDSG, revidiertes Bundesgesetz über den Datenschutz)
Jede Organisation, die in der Schweiz Personendaten bearbeitet.
In Kraft seit dem 1. September 2023. Es gilt für KI-Systeme wie für jede andere Bearbeitung von Personendaten. Einige Pflichten sind für KI besonders wichtig.
- Datenschutz durch Technik und datenschutzfreundliche Voreinstellungen.
- Transparenz, auch bei automatisierten Einzelentscheidungen.
- Ein Verzeichnis der Bearbeitungstätigkeiten (mit einer Ausnahme für gewisse kleinere Unternehmen mit geringem Risiko).
- Datenschutz-Folgenabschätzungen bei Bearbeitungen mit hohem Risiko und Meldung von Verletzungen an den EDÖB.
Quelle: Schweizerische Eidgenossenschaft · revDSG · Leitfäden des EDÖB
EU AI Act (KI-Verordnung der EU)
Schweizer Firmen, die KI-Systeme in der EU in Verkehr bringen oder deren KI-Ergebnisse in der EU verwendet werden.
Eine risikobasierte EU-Verordnung, deren Pflichten über mehrere Jahre gestaffelt in Kraft treten. Sie kann Schweizer Unternehmen über ihr EU-Geschäft erfassen. Auch wenn die Schweiz nicht EU-Mitglied ist.
- Verbotene Praktiken, Hochrisiko-Systeme und Transparenzpflichten werden unterschiedlich behandelt.
- Hochrisiko-Systeme brauchen Risikomanagement, Data Governance, Dokumentation, Protokollierung und menschliche Aufsicht.
- Manche Pflichten treffen Anbieter, andere Betreiber. Klären Sie, welche Rolle Sie haben.
- Anwendungsdaten wurden schon verschoben. Prüfen Sie den aktuellen Zeitplan für Ihren Anwendungsfall.
Quelle: Europäische Union · AI Act
Der eigene Weg der Schweiz
Alle, die in der Schweiz tätig sind.
Die Schweiz übernimmt den EU AI Act nicht. Der Bundesrat will die KI-Konvention des Europarats ratifizieren. Das Schweizer Recht soll wo nötig sektoriell angepasst werden.
- Geltendes Recht (Datenschutz, Branchenaufsicht, Haftung) gilt bereits heute für KI.
- Weitere Anpassungen sind über das ordentliche Vernehmlassungsverfahren zu erwarten.
- Transparenz und menschliche Aufsicht heute machen künftige Anpassungen günstiger.
Quelle: Bundesrat · BAKOM
02 · Auf einen Blick
| Rahmenwerk | Betrifft | Verlangt, kurz gesagt | Was wir einbauen |
|---|---|---|---|
| FINMA 08/2024 | Beaufsichtigte Finanzinstitute | Inventar, Risikoklassifizierung, Datenqualität, Tests, Überwachung, Dokumentation | Systemregister, Risikostufen, Eval-Suites, Monitoring und Alerting, Entscheidungsprotokolle |
| revDSG | Alle, die in der Schweiz Personendaten bearbeiten | Datenschutz durch Technik, Transparenz, Verzeichnis, Folgenabschätzungen, Meldung von Verletzungen | Datenlandkarten, Datenminimierung, Hosting in der Schweiz oder im eigenen Tenant, DSFA-Grundlagen, Audit-Trail |
| EU AI Act | Schweizer Firmen mit Bezug zum EU-Markt | Risikobasierte Pflichten wie Dokumentation, Protokollierung und menschliche Aufsicht bei Hochrisiko-Anwendungen | Technische Dokumentation, Ereignisprotokollierung, Queues für menschliche Prüfung, Rollenzuordnung |
| Schweizer Ansatz | Alle in der Schweiz | Heute geltendes Recht, später sektorielle Anpassungen | Transparente, überprüfbare Systeme, die sich ohne Neuentwicklung anpassen lassen |
03 · Kontrollen, die wir bauen
Governance kostet am wenigsten, wenn sie Teil der Architektur ist. Diese Kontrollen gehören zu jedem Emineon-System. Ihr Umfang richtet sich nach dem Risiko.
KI-Inventar
Jedes System, jedes Modell und jede Prompt-Version ist erfasst. Mit verantwortlicher Person, Zweck und Risikostufe.
Evaluationen
Das Evaluationsset entsteht vor dem ersten Prompt. Es läuft bei jeder Änderung und in Produktion. So wird Qualität gemessen.
Logging und Audit-Trail
Eingaben, Ausgaben, Tool-Aufrufe und Freigaben werden protokolliert. So lässt sich jedes Ergebnis nachvollziehen und erklären.
Menschliche Prüfung
Menschen geben frei, wo es darauf ankommt. Schwellenwerte und Queues gestalten wir mit den Teams, die den Entscheid verantworten.
Datenhaltung
In der Schweiz gehostet oder in Ihrem eigenen Tenant, wenn nötig. Daten werden minimiert und nie zum Training von Modellen Dritter verwendet.
Dokumentation
Technische Dokumentation, Datenlandkarten und Grundlagen für die Datenschutz-Folgenabschätzung. Sie werden aktualisiert, wenn sich das System ändert.
04 · Weiterlesen
05 · Leistungen
Governance ist Teil unserer Arbeit. Sie gehört zum Betrieb der Systeme und zur Vorbereitung Ihrer Mitarbeitenden.
- 04KI-Betrieb mit LLMOps, Evals, Monitoring und GovernanceLLMOps, Evaluation, Monitoring und Governance für KI in Produktion. So bleiben Systeme auch nach dem Go-live korrekt, bezahlbar und prüfbar.
- 05KI-Einführung und Schulung für Ihre TeamsSchulung, Veränderungsbegleitung und KI-Richtlinie, damit viele Teams KI gut nutzen. Wir messen die Nutzung im Alltag.
Diese Seite ist eine Zusammenfassung aus der Praxis zur Orientierung, keine Rechtsberatung. Regulatorische Texte und Fristen ändern sich. Prüfen Sie die Primärquellen (FINMA, EDÖB, Bundesrat und EU) und sprechen Sie mit Ihrer Rechtsberatung, bevor Sie sich darauf stützen.
Nächster Schritt
Erzählen Sie uns von einem Prozess, der Ihr Team viel Zeit kostet. Gerne in einem Gespräch von dreissig Minuten, ohne Vorbereitung.