Emineon

04 · KI-Betrieb

Modelle ändern sich, Daten driften, Kosten steigen, und Aufsichtsbehörden stellen Fragen. Wir betreiben KI-Systeme so, wie eine Bank ihre Kernsysteme betreibt. Gemessen, überwacht, dokumentiert und planmässig verbessert.

Leistung
04 / 05
Phasen
Ausgangslage → Instrumentieren → Betreiben
Mandat
Wochen 1–2 → Laufend
Preis
Fester Umfang, ergebnisgebunden

01Das Problem

Bei KI-Systemen fallen Fehler oft spät auf. Ein Anbieter aktualisiert ein Modell, und die Extraktionsgenauigkeit sinkt um vier Punkte. Eine neue Dokumentvorlage taucht auf, und der Agent beginnt zu raten. Die Nutzung wächst, und die Monatsrechnung verdreifacht sich.

Guter KI-Betrieb braucht laufende Evaluation gegen ein festes Testset. Dazu kommen Überwachung von Qualität und Kosten, kontrollierte Releases und eine Dokumentation, wer was freigegeben hat. Viele Teams bauen das gerade erst auf.

02Was wir liefern

01

Laufende Evaluation

Ihre Evaluationssuiten laufen bei jeder Änderung und planmässig gegen die produktiven Modelle. Schwellen blockieren ein Release oder lösen einen Alarm aus.

02

Produktionsmonitoring

Qualität, Latenz, Kosten pro Aufgabe, Eskalationsraten und Drift auf einem Dashboard für Ihr Betriebsteam.

03

Release-Management

Versionierte Prompts, Modelle und Tools, gestaffelte Rollouts und Rollback in Minuten. Dazu Änderungsnachweise für die Revision.

04

Modellrisiko und Governance

Ein Inventar der KI-Systeme, Risikoklassifizierung und Gestaltung der menschlichen Aufsicht. Dazu die Dokumentation für Aufsichtsbehörden und den EU AI Act.

03Wie wir arbeiten

  1. 01Wochen 1–2

    Ausgangslage

    Inventar der Systeme in Produktion, bestehender Tests und Überwachung, Risikoklassifizierung und aktuelle Kosten pro Aufgabe.

  2. 02Wochen 3–6

    Instrumentieren

    Wir richten Evaluationspipelines, Monitoring, Alarmierung und Release-Kontrollen für die prioritären Systeme ein.

  3. 03Laufend

    Betreiben

    Monatliche Reviews zu Qualität und Kosten, sichere Modell-Upgrades und Störungen nach Runbook.

04Ergebnisse im Überblick

  1. 01Inventar der KI-Systeme und Risikoklassifizierung
  2. 02Automatisierte Evaluationspipelines mit Release-Schwellen
  3. 03Dashboard für Qualität und Kosten
  4. 04Versionierung und Rollback für Prompts und Modelle
  5. 05Störungs-Runbook und Pikett-Modell
  6. 06Governance-Dossier für Revision und EU AI Act

05Typische Wirkung

20–45%
Tiefere Kosten pro Aufgabe nach Routing und Caching
< 15 Min.
Bis zum Rollback eines verschlechterten Modells oder Prompts
100%
Der Releases nur nach bestandener Evaluation

Bandbreiten aus repräsentativen Mandaten. Ihre Ausgangslage bestimmt Ihre Zahlen.

08Häufige Fragen

Ja. Wir beginnen mit einer Bestandsaufnahme dessen, was in Produktion ist. Dann ergänzen wir Evaluation und Monitoring und beheben, was nötig ist. Viele Kunden kommen mit einem Piloten, der ohne Sicherheitsnetz live ging.

Das hängt davon ab, was Ihre Systeme tun und wo sie eingesetzt werden. Wir klassifizieren jedes System, bestimmen Pflichten und Fristen und gestalten Aufsicht und Dokumentation entsprechend. Die meisten internen Produktivitätssysteme haben leichte Pflichten. Manche Anwendungen in HR und Kreditvergabe haben schwere.

Unser globales Delivery-Netzwerk ermöglicht Überwachung und Reaktion über die Zeitzonen hinweg. Service-Levels werden pro System nach Kritikalität vereinbart.

Wir messen beides. Kleinere Modelle für einfache Aufgaben, Caching, kürzerer Kontext und Batching senken die Kosten meist deutlich. Die Evaluationssuite zeigt vor jedem Go-live, dass die Qualität gehalten hat.

Nächster Schritt

Erzählen Sie uns von einem Prozess, der Ihr Team viel Zeit kostet. Gerne in einem Gespräch von dreissig Minuten, ohne Vorbereitung.