AI Governance & Usage Guidelines
🧠 Zusammenfassung¶
Dieses Requirement definiert die grundlegenden Regeln und Zielsetzungen für den Einsatz von KI im Unternehmen.
Ziel ist ein strukturierter, sicherer und datenschutzkonformer Umgang mit KI-Systemen – sowohl durch Menschen als auch durch KI-Agenten.
🎯 Ziel¶
- sicherer und kontrollierter Einsatz von KI
- Einhaltung von Datenschutz (DSGVO) und Sicherheitsanforderungen
- klare Leitlinien für erlaubte und nicht erlaubte Nutzung
- Verankerung von „Local first“ und „Privacy first“ Prinzipien
- KI Unterstützung für all jene Use Cases, wo menschliche Ressourcen dadurch entlastet / geschont werden und unsere Datenschutz- & Sicherheitsprinzipien eingehalten werden
📦 Kontext¶
Im Unternehmen sollen zunehmend KI-Systeme eingesetzt werden, insbesondere:
- lokale KI-Systeme (z. B. LLMs, Agenten)
- unterstützende Tools für Analyse und Entwicklung
- Tools für Verwaltung & Ausbau der Immobiliensparte
Gleichzeitig bestehen unter anderem folgende Risiken:
- unbeabsichtigte Weitergabe sensibler Daten
- unsichere oder unkontrollierte Nutzung
- fehlende Standards und Prozesse
Dieses Requirement schafft einen verbindlichen Rahmen.
🧩 Beschreibung¶
Es sollen verbindliche Regeln und Prozesse definiert werden, die:
- den Einsatz von KI strukturieren
- Risiken minimieren
- klare Verantwortlichkeiten festlegen
Dies umfasst insbesondere:
- Definition erlaubter und verbotener Nutzung
- Umgang mit Daten (insbesondere Kundendaten)
- Einsatz von lokalen vs. externen KI-Systemen
- Verhalten von KI-Agenten im System
Aktuell exisiteren folgende Anforderungen, welche wir in unterschiedlichen Phasen umzusetzen werden:
Phase 1¶
- KI Orchestrator, welcher entscheidet, welche Agenten bzw. Modelle für welche Tasks verwendet werden
- Software Entwicklungsprozess mit folgenden KI Agenten: Requirements Enigneer, Software-Entwickler, Code-Reviewer, Tester
- Hierfür existiert ein Kanboard basierter Workflow, wo die KI Agenten die ihnen zugewiesenen Tasks selbstständig bearbeiten und weiterschalten sollen - inklusive menschlicher Quality Gates
- Lokale KI Modelle in Ollama, welche angefordert werden können
- Idealerweise entscheidet der KI Orchestrator auch, ob gewisse Tätigkeiten besser mit einem Cloud Modell abgearbeitet werden
- Möglichkeit, Zeitslots für bestimmte Aufgaben zu reservieren, wobei die Software dann zu gegebenem Zeitpunkt das für die Aufgabe beste lokale Modell selbstständig zu laden.
Phase 2¶
- Personal Assistenten, zB einen Essens- und Fitnesstracker und Trainer Agenten, einen Agenten, der uns bei Supportanfragen für Immobilien unterstützt, und vielleicht noch weitere
Phase 3¶
- Weitere Agenten, welche als Gegenspieler für tiefgreifendere Tasks dienen, zB: Research-Aufgaben, die finanzielle Entwicklung und Businessausrichtung des Unternehmens,...
💡 Motivation¶
- Schutz sensibler Daten
- Reduktion von Sicherheitsrisiken
- einheitliche und skalierbare Nutzung von KI
- Vertrauen in KI-gestützte Prozesse schaffen
🎯 Zielbild¶
- KI wird kontrolliert und bewusst eingesetzt
- alle Nutzer kennen die grundlegenden Regeln
- KI-Agenten handeln innerhalb definierter Grenzen
- sensible Daten verlassen das System nicht ohne Freigabe
- Prozesse zur Nutzung von KI sind definiert und dokumentiert
✅ Akzeptanzkriterien¶
IF ein Nutzer KI verwendet
THEN gelten definierte Nutzungsrichtlinien
IF sensible oder kundenbezogene Daten verarbeitet werden
THEN erfolgt dies nur innerhalb freigegebener Systeme
IF ein externer KI-Dienst verwendet wird
THEN sind die Daten vorher geprüft und freigegeben
IF ein KI-Agent Aktionen durchführt
THEN hält er sich an definierte Regeln und Einschränkungen
IF Unsicherheit besteht
THEN wird ein Mensch eingebunden
🚫 Abgrenzung¶
- keine technische Implementierung von KI-Systemen
- keine konkrete Tool-Auswahl
- keine detaillierten Prozessbeschreibungen (werden separat definiert)
📌 Annahmen¶
- lokale KI-Systeme sind verfügbar oder werden aufgebaut
- Nutzer und Agenten haben Zugriff auf die WDB
- Prozesse können erweitert und angepasst werden
❓ Offene Fragen¶
- Welche externen Dienste sind grundsätzlich erlaubt?
- Wie erfolgt die Freigabe für neue Use Cases?
-
Wie wird Compliance überprüft?
-
Architektur-Bausteine
- LLM-Gateway (z. B. LiteLLM): eine einheitliche OpenAI-kompatible API vor allen Modellen, lokal und Cloud. Dort landen Routing, Fallbacks, Budgets und Logging. Das ist die technische Basis für den Orchestrator und die Cloud-Entscheidung.
- Observability und Evals: Tracing (z. B. Langfuse), Kosten- und Token-Tracking sowie ein kleines Testset, mit geprüft wird, ob ein Modellwechsel die Qualität verschlechtert. Ohne das lässt sich "welches Modell für welchen Task" nicht datenbasiert beantworten.
- Wissen und Gedächtnis: RAG bzw. Vektor-DB (z. B. pgvector oder Qdrant), Projektkontext für die Dev-Agenten, Langzeitgedächtnis für die Assistenten.
- Tool-Anbindung: MCP-Server für Kanboard, Git, Dateisystem usw., damit Agenten Tools standardisiert nutzen.
- Sicherheit und Betrieb
- Schleifen- und Budgetgrenzen: Maximale Iterationen, Token- und Kostenlimits sowie Eskalation an Menschen, sonst laufen Agenten-Loops unbemerkt heiß.
- Zugriff: Reverse Proxy, Authentifizierung und Zugang per VPN (z. B. Tailscale/WireGuard).
- Betrieb: Backups, Monitoring (Prometheus/Grafana), USV, Kühlung und Updates. Der Server ist ein Single Point of Failure.
- Recht und Datenschutz
- Datenklassifizierung als Regel für den Cloud-Router: Was darf die Firma verlassen, was bleibt lokal? Das bestimmt die Routing-Logik, nicht nur Qualität und Kosten.
- Immobilien-Support verarbeitet personenbezogene Daten (DSGVO). Fitness- und Ernährungsdaten können Gesundheitsdaten sein (Art. 9 DSGVO) und sollten strikt getrennt und lokal bleiben.
- Bei Cloud-Anbietern: Auftragsverarbeitung und Datenverarbeitung ohne Training. Der EU AI Act ist bei internem Einsatz meist überschaubar, aber einen Blick wert.
- Konzeptionell
- Kanboard als "Source of Truth": Der Status lebt im Board und nicht im Agenten. Das macht das System robust und nachvollziehbar.
- Definition of Done je Rolle: Was muss ein Requirement, ein Pull Request oder ein Testbericht enthalten, damit er ans nächste Gate darf?
- Coding-Agenten nicht neu erfinden: Für die Entwickler-Rolle gibt es ausgereifte Tools (z. B. OpenHands, Aider, Claude Code im Headless-Modus), die du per Orchestrator steuern kannst. Lokale Modelle sind beim Coding meist schwächer als Cloud-Modelle. Genau hier lohnt sich das Hybrid-Routing, und ich würde es deshalb nicht komplett nach Phase 2 schieben.
- Framework-Wahl: Für den Start würde ich eine schlanke Eigenlösung (Python, Kanboard-Webhooks/API, Job-Queue) oder LangGraph erwägen, statt ein großes Multi-Agent-Framework zu übernehmen. Das entscheiden wir in einem Architekturschritt.
🔁 Umsetzung¶
Dieses Requirement wird umgesetzt durch:
- Definition konkreter Business-Prozesse (z. B. KI-Nutzung, Agentenverhalten)
- Ableitung von Tasks im Kanban-System
- Erstellung von Richtlinien und Dokumentation
🔗 Referenzen¶
- Business Prozesse
- Business Prozesse - Allgemein
- Business Prozesse - IT
- Business Prozesse - Immobilien
🤖 Hinweise für Agenten¶
- keine Weitergabe sensibler Daten an externe Systeme
- Nutzung von KI nur innerhalb definierter Regeln
- bei Unsicherheit immer eskalieren
- Regeln dieses Requirements haben Vorrang vor operativen Entscheidungen
⚠ Hinweise / Notizen¶
- Dieses Requirement bildet die Grundlage für alle KI-bezogenen Prozesse
- Änderungen müssen sorgfältig geprüft werden