app-entwickeln-lassen.de LogoApp entwickeln lassen

Workshops & Schulungen

Security-Workshop: Sicheres Arbeiten mit Coding-Agents

Redaktion app-entwickeln-lassen.de 5 Min. Lesezeit
Inhalt
  1. Warum Coding-Agents ein neues Sicherheitsthema sind
  2. Die wichtigsten Risiken beim Arbeiten mit Coding-Agents
  3. Schutzmaßnahmen: das Sicherheitsmodell für Coding-Agents
  4. Mögliche Inhalte eines Security-Workshops
  5. Checkliste: sicherer Agent-Einsatz im Team
  6. Für wen sich der Workshop eignet und wie er abläuft
  7. Fazit
  8. Häufige Fragen

Sicheres Arbeiten mit Coding-Agents ist eine eigene Disziplin: Ein Agent, der Dateien liest, Befehle ausführt und Pakete installiert, hat Zugriff auf Ressourcen, die früher nur Menschen vorbehalten waren. Ein Security-Workshop zeigt Ihrem Team, welche Risiken dadurch entstehen – von Prompt Injection über geleakte Secrets bis zu manipulierten Abhängigkeiten – und wie Sie sie mit klaren Regeln und technischen Maßnahmen beherrschen.

Warum Coding-Agents ein neues Sicherheitsthema sind

Klassische KI-Autovervollständigung schlägt Code vor, den ein Mensch übernimmt oder verwirft. Coding-Agents gehen weiter: Sie öffnen Dateien, führen Tests aus, starten Builds, rufen Tools über Schnittstellen wie das Model Context Protocol auf und erstellen Commits. Damit verschiebt sich die Frage von „Ist dieser Code sicher?“ zu „Was darf dieses Werkzeug in meiner Umgebung tun?“

Das Risiko ist kein theoretisches: Ein Agent verarbeitet Inhalte aus Issues, Webseiten, Dokumentationen und Abhängigkeiten. Jeder dieser Inhalte kann Anweisungen enthalten, die nicht vom Nutzer stammen. Wer Agents produktiv einsetzt, braucht deshalb ein gemeinsames Sicherheitsverständnis im Team – und genau das vermittelt ein Security-Workshop.

Die wichtigsten Risiken beim Arbeiten mit Coding-Agents

RisikoBeispielGegenmaßnahme
Prompt InjectionEin Kommentar in einer Abhängigkeit oder ein Issue-Text fordert den Agent auf, Dateien zu verändern oder Daten zu sendenEingeschränkte Berechtigungen, Freigaben für riskante Aktionen, Netzwerkbeschränkungen
Geleakte SecretsAPI-Schlüssel aus einer .env-Datei landen im Kontext, in Logs oder im CommitSecrets außerhalb des Arbeitsverzeichnisses, Ausschlussregeln, Secret-Scanning
Unsichere AbhängigkeitenDer Agent installiert ein Paket mit ähnlichem Namen oder ein nicht existierendes, das ein Angreifer registriert hatPaketfreigaben, Lockfiles, Dependency-Scanning
Zu weitreichende BefehleLöschen von Verzeichnissen, Force-Push, Änderungen an ProduktionsdatenbankenSandbox, Allow-Lists, keine Produktionszugänge
Unsicherer generierter CodeSQL-Injection, fehlende Autorisierung, schwache KryptografieReview-Checklisten, statische Analyse, Security-Tests
Nicht vertrauenswürdige Tool-AnbindungenEin MCP-Server mit unklarer Herkunft erhält Zugriff auf interne SystemeFreigabeprozess für Integrationen, minimale Rechte

Eine ausführliche Darstellung der Code-Risiken finden Sie in unserem Artikel Sicherheitsrisiken von KI-generiertem Code.

Schutzmaßnahmen: das Sicherheitsmodell für Coding-Agents

Least Privilege und Sandboxing

Ein Agent sollte nur das dürfen, was er für die aktuelle Aufgabe braucht. In der Praxis bedeutet das: Arbeit in einem Container oder einer isolierten Entwicklungsumgebung, Schreibrechte nur im Projektverzeichnis, Netzwerkzugriff auf benötigte Hosts begrenzt. Viele Tools bieten Berechtigungsmodi, in denen bestimmte Aktionen eine Bestätigung erfordern. Details beschreibt unser Beitrag zu Sandboxing, Berechtigungen und Freigaben.

Secrets konsequent trennen

Zugangsdaten gehören nicht in Dateien, die der Agent lesen kann. Setzen Sie auf Secret-Stores, kurzlebige Tokens und getrennte Entwicklungs-Credentials ohne Produktionsrechte. Ergänzend verhindert Secret-Scanning in Pre-Commit-Hooks und in der CI, dass versehentlich etwas ins Repository gelangt. Mehr dazu unter Agentic Coding und Datensicherheit.

Integrationen bewusst freigeben

Über MCP und ähnliche Schnittstellen können Agents auf Ticketsysteme, Datenbanken oder Cloud-Konsolen zugreifen. Jede Integration erweitert die Angriffsfläche. Legen Sie fest, wer neue Integrationen freigibt, mit welchen Rechten sie laufen und wie sie überwacht werden. Hintergrund liefert unser Artikel zum Model Context Protocol.

Der Mensch bleibt im Review

Agentengenerierter Code wird wie jeder andere Code reviewt – mit besonderem Augenmerk auf Authentifizierung, Autorisierung, Eingabevalidierung und neue Abhängigkeiten. Automatisierte Prüfungen ergänzen das Review, ersetzen es aber nicht.

Mögliche Inhalte eines Security-Workshops

  1. Bedrohungsmodell: Welche Daten, Systeme und Rechte hat ein Agent in Ihrer Umgebung tatsächlich? Gemeinsame Analyse der eigenen Toolchain.
  2. Prompt Injection live: Das Team sieht in einer kontrollierten Umgebung, wie eingeschleuste Anweisungen wirken und welche Schutzschichten greifen.
  3. Berechtigungen konfigurieren: Allow-Lists, Freigabemodi, Sandbox-Setup – praktisch für die im Unternehmen genutzten Tools.
  4. Secrets-Hygiene: Aufräumen von Konfigurationsdateien, Einrichten von Secret-Scanning, Umgang mit Tokens.
  5. Supply Chain: Regeln für neue Abhängigkeiten, Prüfung vorgeschlagener Pakete, Lockfile-Disziplin.
  6. Review-Checkliste: Das Team erarbeitet eine eigene Security-Checkliste für Pull Requests mit agentengeneriertem Code.
  7. Richtlinie: Abschluss mit einem Entwurf für eine teaminterne Richtlinie zum sicheren Agent-Einsatz.

Checkliste: sicherer Agent-Einsatz im Team

  • Agents laufen in einer isolierten Umgebung ohne Produktionszugänge.
  • Riskante Aktionen (Löschen, Push, Paketinstallation, Netzwerkzugriff) erfordern eine Freigabe oder sind per Allow-List geregelt.
  • Secrets liegen nicht im Arbeitsverzeichnis; Secret-Scanning ist aktiv.
  • Neue Abhängigkeiten werden vor dem Merge geprüft.
  • Integrationen (z. B. MCP-Server) sind dokumentiert und freigegeben.
  • Agentengenerierte Pull Requests durchlaufen dasselbe Review wie menschlicher Code.
  • Es gibt eine schriftliche Richtlinie, die das ganze Team kennt.

Für wen sich der Workshop eignet und wie er abläuft

Ein Security-Workshop zu Coding-Agents richtet sich an Entwicklerteams, Tech-Leads, Security-Verantwortliche und Platform-Teams, die Agents einführen oder bereits nutzen. Besonders sinnvoll ist er vor einem breiten Rollout oder in regulierten Branchen. Wir vermitteln KI-Entwickler aus der Praxis als Trainer, die mit diesen Werkzeugen täglich arbeiten. Format (inhouse oder remote) und Umfang stimmen wir individuell ab – möglich ist etwa ein kompakter Security-Block als Teil eines größeren Trainings oder ein eigener Termin. Workshops starten ab 799 € netto; Anfragen per E-Mail an team@app-entwickeln-lassen.de.

Sie planen eine App? Kostenloses Festpreis-Angebot in 2 Minuten anfordern

Fazit

Coding-Agents bringen echte Produktivität, aber auch neue Angriffsflächen. Mit Least Privilege, sauberer Secret-Trennung, kontrollierten Integrationen und konsequentem Review lassen sich die Risiken gut beherrschen. Entscheidend ist, dass das ganze Team die Regeln versteht und im Alltag anwendet – ein praxisnaher Security-Workshop schafft dafür die Grundlage.

Häufige Fragen

Was ist Prompt Injection bei Coding-Agents?

Prompt Injection bedeutet, dass Inhalte aus Dateien, Webseiten oder Tickets Anweisungen enthalten, die der Agent ausführt, obwohl sie nicht vom Nutzer stammen. Eingeschränkte Berechtigungen und Freigaben begrenzen den möglichen Schaden.

Dürfen Coding-Agents auf Produktionssysteme zugreifen?

Davon raten wir ab. Agents sollten in isolierten Entwicklungsumgebungen arbeiten; Änderungen an Produktion laufen über reguläre Deployments mit Review.

Reicht statische Code-Analyse als Schutz aus?

Nein. Statische Analyse findet bestimmte Fehlerklassen, aber keine Risiken durch zu weitreichende Berechtigungen oder Prompt Injection. Sie ist ein Baustein neben Sandbox, Secret-Trennung und Review.

Wie lange dauert ein Security-Workshop zu Coding-Agents?

Das hängt von Ausgangslage und Tiefe ab. Umfang und Format stimmen wir individuell ab, zum Beispiel als kompakter Baustein oder als eigener Trainingstag.

Dieser Artikel wurde von der Redaktion von app-entwickeln-lassen.de erstellt – dem App- und KI-Entwicklungsangebot der jocapps GmbH aus Freiburg, seit 2014 in der App-Entwicklung aktiv. Die Inhalte dienen der allgemeinen Information und ersetzen keine individuelle (Rechts-)Beratung.

Das könnte Sie auch interessieren

Workshops & SchulungenAgentic Coding für Data Scientists und ML-Engineers: Der Workshop

Agentic Coding für Data Scientists: Wie Coding-Agents bei Pipelines, Experimenten und Modellcode helfen – mit Fokus auf Datenschutz und Reproduzierbarkeit.

5 Min. Lesezeit
Workshops & SchulungenPrompt- und Context-Engineering-Training für Entwickler

Context-Engineering-Training für Entwickler: Wie Teams Aufgaben, Projektregeln und Kontext so gestalten, dass Coding-Agents verlässlich guten Code liefern.

5 Min. Lesezeit
Workshops & SchulungenKI-Kompetenz nach EU AI Act: Müssen Unternehmen ihre Teams schulen?

KI-Kompetenz nach EU AI Act: Was Artikel 4 von Unternehmen verlangt, wer betroffen ist und wie Sie Entwicklerteams praxisnah und nachweisbar qualifizieren.

5 Min. Lesezeit
Workshops & SchulungenKI-Coaching für Entwicklerteams: Praxis statt Frontalunterricht

KI-Coaching für Entwicklerteams: Warum begleitete Praxisprojekte mehr bewirken als Frontalunterricht und wie ein Coaching mit KI-Entwicklern abläuft.

5 Min. Lesezeit
Workshops & SchulungenKI-Weiterbildung finanzieren: Förderungen und Budgets für Schulungen

KI-Weiterbildung finanzieren: Welche Förderwege es in Deutschland gibt, wann sie für kurze Workshops passen und wie Sie interne Budgets clever nutzen.

5 Min. Lesezeit
Workshops & SchulungenLegacy-Modernisierung mit Agentic Coding: Der Praxis-Workshop

Legacy-Modernisierung mit Agentic Coding: Wie Coding-Agents Altcode analysieren, absichern und schrittweise migrieren – und was ein Workshop dafür vermittelt.

5 Min. Lesezeit