Inhalt
Agentic Coding ist auch im regulierten Umfeld möglich – bei Banken, Versicherungen und im Gesundheitswesen –, wenn drei Dinge sichergestellt sind: Kontrolle darüber, welche Daten und welcher Code das Haus verlassen, lückenlose Nachvollziehbarkeit jeder Änderung und klare menschliche Verantwortung mit Vier-Augen-Prinzip. Coding-Agents verändern dabei nicht die regulatorischen Pflichten, sondern die Art, wie Sie sie erfüllen müssen. Dieser Beitrag zeigt, worauf es ankommt.
Warum regulierte Branchen besonders vorsichtig sein müssen
In Finanz- und Gesundheitsunternehmen unterliegt Softwareentwicklung zusätzlichen Anforderungen: Aufsichtsbehörden erwarten ein geordnetes Änderungsmanagement, Funktionstrennung, Risikoanalysen für IT-Dienstleister und eine dokumentierte Informationssicherheit. Im Finanzsektor bündelt die EU-Verordnung über die digitale operationale Resilienz (DORA) viele dieser Anforderungen und gilt seit Anfang 2025. Im Gesundheitswesen kommen der besondere Schutz von Gesundheitsdaten nach Art. 9 DSGVO, gegebenenfalls Berufsgeheimnisse und – bei Software mit medizinischer Zweckbestimmung – das Medizinprodukterecht hinzu.
Ein Coding-Agent ist in diesem Kontext zweierlei: ein Werkzeug, das Code verändert und damit unter das Änderungsmanagement fällt, und häufig ein externer Dienst, an den Code und gegebenenfalls Daten übertragen werden. Beide Perspektiven müssen Sie abdecken. Dieser Beitrag gibt einen Überblick und ist keine Rechtsberatung; die konkrete Bewertung gehört in Ihre Compliance-, Datenschutz- und Informationssicherheitsfunktion.
Die zentralen Anforderungen im Überblick
| Anforderung | Bedeutung für Agentic Coding | Typische Umsetzung |
|---|---|---|
| Datenschutz und Vertraulichkeit | Kein unkontrollierter Abfluss von personenbezogenen Daten oder Geschäftsgeheimnissen | Keine Echtdaten in Agent-Umgebungen, Auftragsverarbeitungsvertrag, geprüfte Datenflüsse |
| Dienstleistersteuerung | KI-Anbieter als IT-Dienstleister bewerten | Risikoanalyse, Vertragsprüfung, Exit-Strategie |
| Änderungsmanagement | Jede Agent-Änderung muss kontrolliert in Produktion gelangen | Pull Requests, CI-Prüfungen, dokumentierte Freigaben |
| Funktionstrennung und Vier-Augen-Prinzip | Agent und Auftraggeber dürfen nicht allein freigeben | Pflichtreview durch zweite Person, geschützte Branches |
| Nachvollziehbarkeit | Wer hat wann was mit welchem Werkzeug geändert? | Kennzeichnung von Agent-Beiträgen, Protokolle, Ticketbezug |
| Informationssicherheit | Agents dürfen keine neuen Angriffswege öffnen | Sandboxing, minimale Rechte, Secret-Scanning, Sicherheitstests |
| KI-Kompetenz | Mitarbeitende müssen KI-Werkzeuge sachkundig nutzen | Schulung und Richtlinien (vgl. Art. 4 EU AI Act) |
Datenschutz und Datenhoheit: Was den Agent erreichen darf
Die erste Frage lautet: Welche Informationen sieht der Agent, und wohin werden sie übertragen? Bei Cloud-basierten Agents verlässt Quellcode – und alles, was im Kontext landet – das Unternehmen. Für regulierte Organisationen haben sich drei Prinzipien bewährt:
- Keine Produktionsdaten im Kontext: Agents arbeiten mit synthetischen oder anonymisierten Testdaten. Logs, Datenbank-Dumps oder Fehlermeldungen mit Kundendaten gehören nicht in Agent-Sitzungen.
- Vertragliche Absicherung: Nutzungsbedingungen zu Datenverwendung, Speicherdauer und Training, Auftragsverarbeitungsvertrag, Serverstandorte und Unterauftragnehmer prüfen.
- Abgestufte Werkzeugwahl: Für besonders sensible Codebereiche können Modelle in einer kontrollierten Umgebung – in der eigenen Cloud-Region oder lokal betrieben – die bessere Wahl sein. Vor- und Nachteile beschreibt unser Beitrag Lokale LLMs für die Softwareentwicklung.
Weitere Details zur Übertragung von Quellcode an KI-Dienste finden Sie in KI-Coding-Tools und Datenschutz.
Nachvollziehbarkeit und Änderungsmanagement
Prüfer interessiert weniger, ob ein Agent beteiligt war, sondern ob jede Änderung kontrolliert, begründet und freigegeben wurde. Gute Nachricht: Ein sauberer Agentic-Coding-Workflow ist oft besser nachvollziehbar als manuelle Entwicklung, weil jeder Schritt über Pull Requests, Pipeline-Läufe und Tickets dokumentiert ist. Achten Sie auf:
- Ticketbezug: Jede Agent-Aufgabe startet aus einem freigegebenen Ticket oder Change Request.
- Kennzeichnung: Pull Requests weisen aus, dass und wie ein Agent beteiligt war.
- Menschliche Autorenschaft: Eine benannte Person verantwortet jede Änderung inhaltlich.
- Unabhängiges Review: Eine zweite Person prüft und gibt frei; Agents haben keine Merge-Rechte auf geschützte Branches.
- Automatisierte Prüfungen: Tests, statische Analyse, Abhängigkeits- und Lizenzscans laufen bei jeder Änderung.
- Aufbewahrung: Pull Requests, Review-Kommentare und Pipeline-Ergebnisse werden gemäß Ihren Aufbewahrungsregeln archiviert.
Sicherheit: Agents als Teil der Angriffsfläche
Coding-Agents führen Befehle aus, installieren Pakete und lesen Inhalte aus dem Repository, aus Tickets oder aus dem Netz. Damit können sie Ziel von manipulierten Inhalten werden, etwa durch versteckte Anweisungen in Abhängigkeiten oder Issue-Texten. In regulierten Umgebungen sollten Agents deshalb grundsätzlich in isolierten Umgebungen mit eingeschränktem Netzwerkzugriff laufen, nie mit produktiven Zugangsdaten arbeiten und für riskante Aktionen eine menschliche Freigabe benötigen. Secret-Scanning und Sicherheitstests in der Pipeline fangen typische Fehler ab, bevor sie ein Review erreichen.
Einführung in fünf Phasen
- Bestandsaufnahme: Welche Systeme, Daten und Codebereiche gibt es, und wie sensibel sind sie? Daraus ergibt sich eine Einstufung, wo Agents zunächst arbeiten dürfen.
- Werkzeugbewertung: Anbieter nach Datenschutz, Vertragslage, Betriebsmodell und Sicherheitsfunktionen bewerten und mit Compliance, Datenschutz und Informationssicherheit abstimmen.
- Richtlinie erstellen: Erlaubte Werkzeuge, Datenklassen, Freigabeprozesse und Verantwortlichkeiten festlegen – als Teil Ihrer KI-Governance.
- Pilot in risikoarmen Bereichen: Interne Tools, Testautomatisierung oder Dokumentation statt Kernbankensystem oder Patientenakte.
- Kontrollierte Ausweitung: Erfahrungen und Prüfergebnisse auswerten, Kontrollen nachschärfen und schrittweise auf weitere Bereiche ausdehnen.
Wer neue Anwendungen in diesen Branchen plant, findet branchenspezifische Anforderungen etwa im Beitrag Fintech-App entwickeln. Für Teams, die Agentic Coding unter regulatorischen Rahmenbedingungen einführen, vermitteln wir KI-Entwickler aus der Praxis als Trainer – auch inhouse und mit Fokus auf Ihre Richtlinien; Angebote ab 799 € netto per E-Mail.
Sie planen eine App? Kostenloses Festpreis-Angebot in 2 Minuten anfordernFazit
Regulierung verbietet Agentic Coding nicht, sie verlangt Disziplin. Wer Datenflüsse kontrolliert, Agents in isolierten Umgebungen mit minimalen Rechten betreibt, jede Änderung über Tickets, Pull Requests und Vier-Augen-Review nachvollziehbar macht und Mitarbeitende schult, kann die Produktivitätsvorteile auch bei Banken, Versicherungen und im Gesundheitswesen nutzen – und steht im Audit oft besser da als mit manuellen Prozessen.
Häufige Fragen
Dürfen Banken und Versicherungen Coding-Agents überhaupt einsetzen?
Grundsätzlich ja, sofern aufsichtsrechtliche Anforderungen an Dienstleistersteuerung, Informationssicherheit und Änderungsmanagement erfüllt werden. Die konkrete Bewertung sollte mit Compliance und Informationssicherheit erfolgen; dies ist keine Rechtsberatung.
Darf Code mit Gesundheitsdaten an einen Cloud-Agent übertragen werden?
Quellcode an sich enthält meist keine Gesundheitsdaten, Test- oder Logdaten aber schon. Echte Patientendaten gehören nicht in Agent-Sitzungen; für Code und Kontext sind Verträge, Serverstandort und Datenverwendung zu prüfen.
Ist agentengenerierter Code im Audit ein Problem?
Nicht, wenn jede Änderung über Ticket, Pull Request, automatisierte Prüfungen und dokumentiertes Vier-Augen-Review läuft. Entscheidend ist die Nachvollziehbarkeit, nicht das Werkzeug.
Sind lokale Modelle im regulierten Umfeld Pflicht?
Nicht zwingend. Sie können für besonders sensible Bereiche sinnvoll sein, bringen aber eigenen Betriebsaufwand mit; oft ist ein abgestuftes Modell aus Cloud- und kontrollierten Umgebungen praktikabel.