app-entwickeln-lassen.de LogoApp entwickeln lassen

Agentic Coding

Agentic Coding im regulierten Umfeld: Finanz- und Gesundheitswesen

Redaktion app-entwickeln-lassen.de 5 Min. Lesezeit
Inhalt
  1. Warum regulierte Branchen besonders vorsichtig sein müssen
  2. Die zentralen Anforderungen im Überblick
  3. Datenschutz und Datenhoheit: Was den Agent erreichen darf
  4. Nachvollziehbarkeit und Änderungsmanagement
  5. Sicherheit: Agents als Teil der Angriffsfläche
  6. Einführung in fünf Phasen
  7. Fazit
  8. Häufige Fragen

Agentic Coding ist auch im regulierten Umfeld möglich – bei Banken, Versicherungen und im Gesundheitswesen –, wenn drei Dinge sichergestellt sind: Kontrolle darüber, welche Daten und welcher Code das Haus verlassen, lückenlose Nachvollziehbarkeit jeder Änderung und klare menschliche Verantwortung mit Vier-Augen-Prinzip. Coding-Agents verändern dabei nicht die regulatorischen Pflichten, sondern die Art, wie Sie sie erfüllen müssen. Dieser Beitrag zeigt, worauf es ankommt.

Warum regulierte Branchen besonders vorsichtig sein müssen

In Finanz- und Gesundheitsunternehmen unterliegt Softwareentwicklung zusätzlichen Anforderungen: Aufsichtsbehörden erwarten ein geordnetes Änderungsmanagement, Funktionstrennung, Risikoanalysen für IT-Dienstleister und eine dokumentierte Informationssicherheit. Im Finanzsektor bündelt die EU-Verordnung über die digitale operationale Resilienz (DORA) viele dieser Anforderungen und gilt seit Anfang 2025. Im Gesundheitswesen kommen der besondere Schutz von Gesundheitsdaten nach Art. 9 DSGVO, gegebenenfalls Berufsgeheimnisse und – bei Software mit medizinischer Zweckbestimmung – das Medizinprodukterecht hinzu.

Ein Coding-Agent ist in diesem Kontext zweierlei: ein Werkzeug, das Code verändert und damit unter das Änderungsmanagement fällt, und häufig ein externer Dienst, an den Code und gegebenenfalls Daten übertragen werden. Beide Perspektiven müssen Sie abdecken. Dieser Beitrag gibt einen Überblick und ist keine Rechtsberatung; die konkrete Bewertung gehört in Ihre Compliance-, Datenschutz- und Informationssicherheitsfunktion.

Die zentralen Anforderungen im Überblick

AnforderungBedeutung für Agentic CodingTypische Umsetzung
Datenschutz und VertraulichkeitKein unkontrollierter Abfluss von personenbezogenen Daten oder GeschäftsgeheimnissenKeine Echtdaten in Agent-Umgebungen, Auftragsverarbeitungsvertrag, geprüfte Datenflüsse
DienstleistersteuerungKI-Anbieter als IT-Dienstleister bewertenRisikoanalyse, Vertragsprüfung, Exit-Strategie
ÄnderungsmanagementJede Agent-Änderung muss kontrolliert in Produktion gelangenPull Requests, CI-Prüfungen, dokumentierte Freigaben
Funktionstrennung und Vier-Augen-PrinzipAgent und Auftraggeber dürfen nicht allein freigebenPflichtreview durch zweite Person, geschützte Branches
NachvollziehbarkeitWer hat wann was mit welchem Werkzeug geändert?Kennzeichnung von Agent-Beiträgen, Protokolle, Ticketbezug
InformationssicherheitAgents dürfen keine neuen Angriffswege öffnenSandboxing, minimale Rechte, Secret-Scanning, Sicherheitstests
KI-KompetenzMitarbeitende müssen KI-Werkzeuge sachkundig nutzenSchulung und Richtlinien (vgl. Art. 4 EU AI Act)

Datenschutz und Datenhoheit: Was den Agent erreichen darf

Die erste Frage lautet: Welche Informationen sieht der Agent, und wohin werden sie übertragen? Bei Cloud-basierten Agents verlässt Quellcode – und alles, was im Kontext landet – das Unternehmen. Für regulierte Organisationen haben sich drei Prinzipien bewährt:

  • Keine Produktionsdaten im Kontext: Agents arbeiten mit synthetischen oder anonymisierten Testdaten. Logs, Datenbank-Dumps oder Fehlermeldungen mit Kundendaten gehören nicht in Agent-Sitzungen.
  • Vertragliche Absicherung: Nutzungsbedingungen zu Datenverwendung, Speicherdauer und Training, Auftragsverarbeitungsvertrag, Serverstandorte und Unterauftragnehmer prüfen.
  • Abgestufte Werkzeugwahl: Für besonders sensible Codebereiche können Modelle in einer kontrollierten Umgebung – in der eigenen Cloud-Region oder lokal betrieben – die bessere Wahl sein. Vor- und Nachteile beschreibt unser Beitrag Lokale LLMs für die Softwareentwicklung.

Weitere Details zur Übertragung von Quellcode an KI-Dienste finden Sie in KI-Coding-Tools und Datenschutz.

Nachvollziehbarkeit und Änderungsmanagement

Prüfer interessiert weniger, ob ein Agent beteiligt war, sondern ob jede Änderung kontrolliert, begründet und freigegeben wurde. Gute Nachricht: Ein sauberer Agentic-Coding-Workflow ist oft besser nachvollziehbar als manuelle Entwicklung, weil jeder Schritt über Pull Requests, Pipeline-Läufe und Tickets dokumentiert ist. Achten Sie auf:

  1. Ticketbezug: Jede Agent-Aufgabe startet aus einem freigegebenen Ticket oder Change Request.
  2. Kennzeichnung: Pull Requests weisen aus, dass und wie ein Agent beteiligt war.
  3. Menschliche Autorenschaft: Eine benannte Person verantwortet jede Änderung inhaltlich.
  4. Unabhängiges Review: Eine zweite Person prüft und gibt frei; Agents haben keine Merge-Rechte auf geschützte Branches.
  5. Automatisierte Prüfungen: Tests, statische Analyse, Abhängigkeits- und Lizenzscans laufen bei jeder Änderung.
  6. Aufbewahrung: Pull Requests, Review-Kommentare und Pipeline-Ergebnisse werden gemäß Ihren Aufbewahrungsregeln archiviert.

Sicherheit: Agents als Teil der Angriffsfläche

Coding-Agents führen Befehle aus, installieren Pakete und lesen Inhalte aus dem Repository, aus Tickets oder aus dem Netz. Damit können sie Ziel von manipulierten Inhalten werden, etwa durch versteckte Anweisungen in Abhängigkeiten oder Issue-Texten. In regulierten Umgebungen sollten Agents deshalb grundsätzlich in isolierten Umgebungen mit eingeschränktem Netzwerkzugriff laufen, nie mit produktiven Zugangsdaten arbeiten und für riskante Aktionen eine menschliche Freigabe benötigen. Secret-Scanning und Sicherheitstests in der Pipeline fangen typische Fehler ab, bevor sie ein Review erreichen.

Einführung in fünf Phasen

  1. Bestandsaufnahme: Welche Systeme, Daten und Codebereiche gibt es, und wie sensibel sind sie? Daraus ergibt sich eine Einstufung, wo Agents zunächst arbeiten dürfen.
  2. Werkzeugbewertung: Anbieter nach Datenschutz, Vertragslage, Betriebsmodell und Sicherheitsfunktionen bewerten und mit Compliance, Datenschutz und Informationssicherheit abstimmen.
  3. Richtlinie erstellen: Erlaubte Werkzeuge, Datenklassen, Freigabeprozesse und Verantwortlichkeiten festlegen – als Teil Ihrer KI-Governance.
  4. Pilot in risikoarmen Bereichen: Interne Tools, Testautomatisierung oder Dokumentation statt Kernbankensystem oder Patientenakte.
  5. Kontrollierte Ausweitung: Erfahrungen und Prüfergebnisse auswerten, Kontrollen nachschärfen und schrittweise auf weitere Bereiche ausdehnen.

Wer neue Anwendungen in diesen Branchen plant, findet branchenspezifische Anforderungen etwa im Beitrag Fintech-App entwickeln. Für Teams, die Agentic Coding unter regulatorischen Rahmenbedingungen einführen, vermitteln wir KI-Entwickler aus der Praxis als Trainer – auch inhouse und mit Fokus auf Ihre Richtlinien; Angebote ab 799 € netto per E-Mail.

Sie planen eine App? Kostenloses Festpreis-Angebot in 2 Minuten anfordern

Fazit

Regulierung verbietet Agentic Coding nicht, sie verlangt Disziplin. Wer Datenflüsse kontrolliert, Agents in isolierten Umgebungen mit minimalen Rechten betreibt, jede Änderung über Tickets, Pull Requests und Vier-Augen-Review nachvollziehbar macht und Mitarbeitende schult, kann die Produktivitätsvorteile auch bei Banken, Versicherungen und im Gesundheitswesen nutzen – und steht im Audit oft besser da als mit manuellen Prozessen.

Häufige Fragen

Dürfen Banken und Versicherungen Coding-Agents überhaupt einsetzen?

Grundsätzlich ja, sofern aufsichtsrechtliche Anforderungen an Dienstleistersteuerung, Informationssicherheit und Änderungsmanagement erfüllt werden. Die konkrete Bewertung sollte mit Compliance und Informationssicherheit erfolgen; dies ist keine Rechtsberatung.

Darf Code mit Gesundheitsdaten an einen Cloud-Agent übertragen werden?

Quellcode an sich enthält meist keine Gesundheitsdaten, Test- oder Logdaten aber schon. Echte Patientendaten gehören nicht in Agent-Sitzungen; für Code und Kontext sind Verträge, Serverstandort und Datenverwendung zu prüfen.

Ist agentengenerierter Code im Audit ein Problem?

Nicht, wenn jede Änderung über Ticket, Pull Request, automatisierte Prüfungen und dokumentiertes Vier-Augen-Review läuft. Entscheidend ist die Nachvollziehbarkeit, nicht das Werkzeug.

Sind lokale Modelle im regulierten Umfeld Pflicht?

Nicht zwingend. Sie können für besonders sensible Bereiche sinnvoll sein, bringen aber eigenen Betriebsaufwand mit; oft ist ein abgestuftes Modell aus Cloud- und kontrollierten Umgebungen praktikabel.

Dieser Artikel wurde von der Redaktion von app-entwickeln-lassen.de erstellt – dem App- und KI-Entwicklungsangebot der jocapps GmbH aus Freiburg, seit 2014 in der App-Entwicklung aktiv. Die Inhalte dienen der allgemeinen Information und ersetzen keine individuelle (Rechts-)Beratung.

Das könnte Sie auch interessieren

Agentic CodingAgentic Coding für Nicht-Entwickler: Was Produktmanager wissen müssen

Agentic Coding für Produktmanager: Was Coding-Agents können und wie sich Anforderungen, Planung und Prototyping ändern – verständlich, ohne Programmierwissen.

5 Min. Lesezeit
Agentic CodingKosten von Agentic Coding: Tokenverbrauch planen und kontrollieren

Kosten von Agentic Coding verstehen: Wie Tokenverbrauch entsteht, wie Sie Budgets planen und mit Kontext, Limits und Monitoring die Ausgaben im Griff behalten.

7 Min. Lesezeit
Agentic CodingAgentic-Coding-Metriken: Wie Sie Erfolg und Qualität messen

Agentic-Coding-Metriken richtig wählen: Welche Kennzahlen Erfolg, Qualität und Kosten von Coding-Agents zeigen – und welche Zahlen Sie besser ignorieren.

5 Min. Lesezeit
Agentic CodingAgentic Coding und Datensicherheit: Secrets, Zugangsdaten und Compliance

Agentic Coding und Datensicherheit: Wie Sie Secrets und Zugangsdaten vor Coding-Agents schützen, Berechtigungen begrenzen und Compliance-Anforderungen erfüllen.

6 Min. Lesezeit
Agentic CodingHintergrund-Agents und asynchrone Aufgaben: Entwickeln im Schlaf?

Hintergrund-Agents erklärt: Welche Aufgaben Coding-Agents asynchron zuverlässig erledigen, wie Sie sie sicher einrichten und warum das Review entscheidet.

5 Min. Lesezeit
Agentic CodingVon Vibe Coding zu Agentic Engineering: Professionalisierung im Team

Von Vibe Coding zu Agentic Engineering: Wie Teams Coding-Agents mit Spezifikationen, Tests und Reviews professionell einsetzen – mit Reifegradmodell und Plan.

5 Min. Lesezeit