01
Daten und KI-Kontext
Welche Projektdateien, Datenklassen und lokalen Inhalte nicht ungeprüft in KI-Kontexte gehören.
Wandregeln
- `.gitignore` schützt Git. `.aiignore` schützt KI-Kontext. Beides ist nicht dasselbe.
KI im Projektalltag
KI & Sicherheit
KI-Werkzeuge können Entwicklung deutlich beschleunigen. In Kundenprojekten zählt aber nicht nur Geschwindigkeit, sondern auch kontrollierter Kontext, klare Rechte, nachvollziehbare Änderungen und menschliche Verantwortung.
Dieses Regelwerk basiert auf realer Projektarbeit: auf Situationen, in denen KI-Werkzeuge hilfreich sind, aber klare technische und organisatorische Grenzen brauchen.
Struktur
13 Sicherheitsaspekte für KI-gestützte Entwicklung
Die Themen sind als Arbeitsregeln formuliert: kurz genug für den Alltag, konkret genug für Reviews, Onboarding und Projektentscheidungen.
02
Rechte, Zugriffe und Command-Ausführung
Wie KI-Assistenten lokal arbeiten dürfen, ohne pauschalen Vollzugriff auf Projekte und Systeme zu bekommen.
Wandregeln
- KI führt Commands nicht direkt aus. Commands laufen durch ein Projekt-Gate.
- Neue Commands sind blockiert. Erlaubt wird nur projektbezogen und mit Zweck.
03
Drittanbieter, Updates und Supply Chain
Warum Dependencies, Lockfiles, CI Actions und Images bewusst geprüft statt nebenbei aktualisiert werden sollten.
Wandregeln
- Release-Builds installieren aus Lockfiles, nicht aus Hoffnung.
- CI Actions sind ausführbarer Fremdcode.
- Keine `latest`-Images in produktionsnahen Builds.
- Neue Dependencies mit Install-Scripts sind ausführbarer Fremdcode.
- Composer-Updates sind Codeänderungen, nicht Wartungsrauschen.
- Weniger Fremdcode, weniger Angriffsfläche.
- Dependency-Updates sind eigene Änderungen. Nicht nebenbei mergen.
- Jede neue Dependency ist neuer Fremdcode.
04
Deployment und CI/CD
Wie Merge, Review und automatische Deployments als Produktionsfreigabe behandelt werden können.
Wandregeln
- Deployment-Config ist Security-Code.
- Deployment-Code ist Security-Code.
- KI darf Deployment-Code vorbereiten, aber nicht ausführen.
- Merge in den Hauptbranch ist Produktionsfreigabe.
- Code-Rollback ersetzt keinen DB-Rollback.
05
Lokale LLMs
Warum lokal betriebene Modelle trotzdem Rechte-, Netzwerk-, Logging- und Betriebsfragen aufwerfen.
Wandregeln
- Lokales Modell, trotzdem Dienst mit Rechten.
- Lokal heißt nicht automatisch sicher.
- Keine stillen KI-Schreibaktionen.
06
Agenten mit Werkzeugen
Welche Grenzen für Agenten gelten sollten, wenn sie Dateien ändern, Commands ausführen oder Tools nutzen.
Wandregeln
- Commit und Push sind menschliche Freigaben.
- Lesen darf automatisch sein. Wirken braucht Freigabe.
- Neue Agenten-Fähigkeit = neues Tool.
- Agenten arbeiten in Etappen, nicht im Blindflug.
- Was der Agent liest, ist nicht automatisch Befehl.
- Ein Agent ist ein Akteur mit Werkzeugen.
07
KI-Regel-Frameworks
Warum Projektregeln, Skills und öffentliche Rule-Packs wie Code behandelt und reviewed werden sollten.
Wandregeln
- Regeländerung ist Security-Änderung.
- KI-Regeln sind Code: reviewen, begrenzen, versionieren.
- Fremde Rule-Packs sind Ideenquelle, kein Installationspaket.
- Lokale Komfortregeln überschreiben keine Projektsicherheit.
- KI-Regeln gehören ins Review, nicht auf Produktion.
08
KI-Code und Reviews
Wie KI-generierter oder KI-unterstützter Code geprüft, verstanden und verantwortet werden sollte.
Wandregeln
- Wenn die KI den Diff nicht richtig erklärt, prüfe den Diff doppelt.
- KI-Code ist eigener Code: verstehen, prüfen, testen, verantworten.
- Ungeprüfter Code ist tabu.
- Grüne KI-Tests sind kein Freifahrtschein.
- KI-Review unterstützt, Menschen geben frei.
09
Teamarbeit und Governance
Wie Teams KI-Nutzung sichtbar, leichtgewichtig und verbindlich steuern können.
Wandregeln
- Ein Team, ein Regelstand: KI-Nutzung muss sichtbar und abgestimmt sein.
- Wenige Regeln, konsequent gelebt.
- Wenn es nicht dokumentiert ist, gilt es nicht als Teamregel.
- Externe arbeiten nach demselben KI-Regelstand wie das Team.
- Sicherheit passiert nicht nebenbei: KI-Regeln brauchen Pflegezeit.
10
Incident Response
Was bei Verdacht auf falsche Agentenaktionen, Datenabfluss oder Supply-Chain-Probleme sofort zu tun ist.
Wandregeln
- Nicht aufräumen, bevor der Zustand gesichert ist.
- Bei Verdacht stoppen, sichern, melden, nicht weiterprobieren.
- Rollback darf nicht erst im Vorfall erfunden werden.
- Secret im KI-Kontext heißt: erst kompromittiert annehmen.
- Erst technisch begrenzen, dann breiter eskalieren.
11
Anbieterprüfung und fertige KI-Lösungen
Welche Kriterien bei KI-Anbietern, Plugins, lokalen Stacks, MCP-Servern und fertigen Tools zählen.
Wandregeln
- Experimente ja, aber nicht auf Kundenprojekt-Rechnern.
- Security-Patches zügig, neue Fähigkeiten kontrolliert.
- Latest ist keine produktive Strategie.
- Große Anbieter einfacher prüfen, kleine Tools restriktiver.
- Anbieterclaims sind keine Controls.
12
Kundenkommunikation
Wie KI-Nutzung gegenüber Kunden ruhig, konkret und ohne überzogene Versprechen eingeordnet werden kann.
Wandregeln
- KI-Nutzung ruhig erklären, nicht verstecken.
- Nur zusagen, was wir kontrollieren.
- Keine Kundendaten in KI ohne Freigabe.
- Keine KI muss konkret definiert werden.
- Erst Fakten klären, dann Kunden informieren.
13
Recht und Compliance
Welche technischen Trigger rechtliche, Datenschutz- oder Kundenklärung auslösen sollten.
Wandregeln
- Rechtsfragen nicht wegprompten: klären, dokumentieren, eskalieren.
- Personenbezogene Daten machen KI-Nutzung zum Datenschutzthema.
- KI im Produkt ist Compliance, nicht nur Technik.
- Vertraulichkeit gilt auch im Prompt.
- Secrets bleiben tabu.