Zum Inhalt

AI Governance & Usage Guidelines

🧠 Zusammenfassung

Dieses Requirement definiert die grundlegenden Regeln und Zielsetzungen für den Einsatz von KI im Unternehmen.

Ziel ist ein strukturierter, sicherer und datenschutzkonformer Umgang mit KI-Systemen – sowohl durch Menschen als auch durch KI-Agenten.


🎯 Ziel

  • sicherer und kontrollierter Einsatz von KI
  • Einhaltung von Datenschutz (DSGVO) und Sicherheitsanforderungen
  • klare Leitlinien für erlaubte und nicht erlaubte Nutzung
  • Verankerung von „Local first“ und „Privacy first“ Prinzipien
  • KI Unterstützung für all jene Use Cases, wo menschliche Ressourcen dadurch entlastet / geschont werden und unsere Datenschutz- & Sicherheitsprinzipien eingehalten werden

📦 Kontext

Im Unternehmen sollen zunehmend KI-Systeme eingesetzt werden, insbesondere:

  • lokale KI-Systeme (z. B. LLMs, Agenten)
  • unterstützende Tools für Analyse und Entwicklung
  • Tools für Verwaltung & Ausbau der Immobiliensparte

Gleichzeitig bestehen unter anderem folgende Risiken:

  • unbeabsichtigte Weitergabe sensibler Daten
  • unsichere oder unkontrollierte Nutzung
  • fehlende Standards und Prozesse

Dieses Requirement schafft einen verbindlichen Rahmen.


🧩 Beschreibung

Es sollen verbindliche Regeln und Prozesse definiert werden, die:

  • den Einsatz von KI strukturieren
  • Risiken minimieren
  • klare Verantwortlichkeiten festlegen

Dies umfasst insbesondere:

  • Definition erlaubter und verbotener Nutzung
  • Umgang mit Daten (insbesondere Kundendaten)
  • Einsatz von lokalen vs. externen KI-Systemen
  • Verhalten von KI-Agenten im System

Aktuell exisiteren folgende Anforderungen, welche wir in unterschiedlichen Phasen umzusetzen werden:

Phase 1

  • KI Orchestrator, welcher entscheidet, welche Agenten bzw. Modelle für welche Tasks verwendet werden
  • Software Entwicklungsprozess mit folgenden KI Agenten: Requirements Enigneer, Software-Entwickler, Code-Reviewer, Tester
    • Hierfür existiert ein Kanboard basierter Workflow, wo die KI Agenten die ihnen zugewiesenen Tasks selbstständig bearbeiten und weiterschalten sollen - inklusive menschlicher Quality Gates
  • Lokale KI Modelle in Ollama, welche angefordert werden können
  • Idealerweise entscheidet der KI Orchestrator auch, ob gewisse Tätigkeiten besser mit einem Cloud Modell abgearbeitet werden
  • Möglichkeit, Zeitslots für bestimmte Aufgaben zu reservieren, wobei die Software dann zu gegebenem Zeitpunkt das für die Aufgabe beste lokale Modell selbstständig zu laden.

Phase 2

  • Personal Assistenten, zB einen Essens- und Fitnesstracker und Trainer Agenten, einen Agenten, der uns bei Supportanfragen für Immobilien unterstützt, und vielleicht noch weitere

Phase 3

  • Weitere Agenten, welche als Gegenspieler für tiefgreifendere Tasks dienen, zB: Research-Aufgaben, die finanzielle Entwicklung und Businessausrichtung des Unternehmens,...

💡 Motivation

  • Schutz sensibler Daten
  • Reduktion von Sicherheitsrisiken
  • einheitliche und skalierbare Nutzung von KI
  • Vertrauen in KI-gestützte Prozesse schaffen

🎯 Zielbild

  • KI wird kontrolliert und bewusst eingesetzt
  • alle Nutzer kennen die grundlegenden Regeln
  • KI-Agenten handeln innerhalb definierter Grenzen
  • sensible Daten verlassen das System nicht ohne Freigabe
  • Prozesse zur Nutzung von KI sind definiert und dokumentiert

✅ Akzeptanzkriterien

IF ein Nutzer KI verwendet
THEN gelten definierte Nutzungsrichtlinien

IF sensible oder kundenbezogene Daten verarbeitet werden
THEN erfolgt dies nur innerhalb freigegebener Systeme

IF ein externer KI-Dienst verwendet wird
THEN sind die Daten vorher geprüft und freigegeben

IF ein KI-Agent Aktionen durchführt
THEN hält er sich an definierte Regeln und Einschränkungen

IF Unsicherheit besteht
THEN wird ein Mensch eingebunden

🚫 Abgrenzung

  • keine technische Implementierung von KI-Systemen
  • keine konkrete Tool-Auswahl
  • keine detaillierten Prozessbeschreibungen (werden separat definiert)

📌 Annahmen

  • lokale KI-Systeme sind verfügbar oder werden aufgebaut
  • Nutzer und Agenten haben Zugriff auf die WDB
  • Prozesse können erweitert und angepasst werden

❓ Offene Fragen

  • Welche externen Dienste sind grundsätzlich erlaubt?
  • Wie erfolgt die Freigabe für neue Use Cases?
  • Wie wird Compliance überprüft?

  • Architektur-Bausteine

    • LLM-Gateway (z. B. LiteLLM): eine einheitliche OpenAI-kompatible API vor allen Modellen, lokal und Cloud. Dort landen Routing, Fallbacks, Budgets und Logging. Das ist die technische Basis für den Orchestrator und die Cloud-Entscheidung.
    • Observability und Evals: Tracing (z. B. Langfuse), Kosten- und Token-Tracking sowie ein kleines Testset, mit geprüft wird, ob ein Modellwechsel die Qualität verschlechtert. Ohne das lässt sich "welches Modell für welchen Task" nicht datenbasiert beantworten.
    • Wissen und Gedächtnis: RAG bzw. Vektor-DB (z. B. pgvector oder Qdrant), Projektkontext für die Dev-Agenten, Langzeitgedächtnis für die Assistenten.
    • Tool-Anbindung: MCP-Server für Kanboard, Git, Dateisystem usw., damit Agenten Tools standardisiert nutzen.
  • Sicherheit und Betrieb
    • Schleifen- und Budgetgrenzen: Maximale Iterationen, Token- und Kostenlimits sowie Eskalation an Menschen, sonst laufen Agenten-Loops unbemerkt heiß.
    • Zugriff: Reverse Proxy, Authentifizierung und Zugang per VPN (z. B. Tailscale/WireGuard).
    • Betrieb: Backups, Monitoring (Prometheus/Grafana), USV, Kühlung und Updates. Der Server ist ein Single Point of Failure.
  • Recht und Datenschutz
    • Datenklassifizierung als Regel für den Cloud-Router: Was darf die Firma verlassen, was bleibt lokal? Das bestimmt die Routing-Logik, nicht nur Qualität und Kosten.
    • Immobilien-Support verarbeitet personenbezogene Daten (DSGVO). Fitness- und Ernährungsdaten können Gesundheitsdaten sein (Art. 9 DSGVO) und sollten strikt getrennt und lokal bleiben.
    • Bei Cloud-Anbietern: Auftragsverarbeitung und Datenverarbeitung ohne Training. Der EU AI Act ist bei internem Einsatz meist überschaubar, aber einen Blick wert.
  • Konzeptionell
    • Kanboard als "Source of Truth": Der Status lebt im Board und nicht im Agenten. Das macht das System robust und nachvollziehbar.
    • Definition of Done je Rolle: Was muss ein Requirement, ein Pull Request oder ein Testbericht enthalten, damit er ans nächste Gate darf?
    • Coding-Agenten nicht neu erfinden: Für die Entwickler-Rolle gibt es ausgereifte Tools (z. B. OpenHands, Aider, Claude Code im Headless-Modus), die du per Orchestrator steuern kannst. Lokale Modelle sind beim Coding meist schwächer als Cloud-Modelle. Genau hier lohnt sich das Hybrid-Routing, und ich würde es deshalb nicht komplett nach Phase 2 schieben.
    • Framework-Wahl: Für den Start würde ich eine schlanke Eigenlösung (Python, Kanboard-Webhooks/API, Job-Queue) oder LangGraph erwägen, statt ein großes Multi-Agent-Framework zu übernehmen. Das entscheiden wir in einem Architekturschritt.

🔁 Umsetzung

Dieses Requirement wird umgesetzt durch:

  • Definition konkreter Business-Prozesse (z. B. KI-Nutzung, Agentenverhalten)
  • Ableitung von Tasks im Kanban-System
  • Erstellung von Richtlinien und Dokumentation

🔗 Referenzen


🤖 Hinweise für Agenten

  • keine Weitergabe sensibler Daten an externe Systeme
  • Nutzung von KI nur innerhalb definierter Regeln
  • bei Unsicherheit immer eskalieren
  • Regeln dieses Requirements haben Vorrang vor operativen Entscheidungen

⚠ Hinweise / Notizen

  • Dieses Requirement bildet die Grundlage für alle KI-bezogenen Prozesse
  • Änderungen müssen sorgfältig geprüft werden