Aktuell, Inhalt aktualisiert Okt. 2026
LLM and Agentic AI Security
Udacity mit Kevin Carter
Teilnehmende greifen zunächst LLM- und Agentensysteme an (Jailbreaks, direkte, indirekte und multimodale Prompt Injection) und bauen dann Abwehrmaßnahmen wie gehärtete System-Prompts, Zugriffskontrollen für RAG, sichere Multi-Agenten-Architekturen, Logging und Freigabe-Workflows. Im Abschlussprojekt führen sie Red Teaming an einem RAG-basierten Recherche-Agenten durch und härten ihn.
Dieser Kurs wird auf Englisch unterrichtet. Diese Seite ist unsere Übersetzung des Eintrags.
Unsere Einschätzung
Teil des Udacity-Abos; projektbasiert und technischer als die meisten Kurse hier. Mit rund 23 Stunden umfangreich. Am stärksten bei den OWASP Top 10 für LLMs und Prompt Injection. Zuletzt aktualisiert im Oktober 2026.
Ideal für: Fachleute aus IT und Sicherheit, die sich gegen KI-gestützte Bedrohungen wappnen oder KI-Systeme absichern müssen.
Auf Grundlage der Kursseite, des Lehrplans und der Preise, nicht der Teilnahme am Kurs. So bewerten wir
Lerninhalte
- OWASP Top 10 für LLMs
- Prompt Injection
- Jailbreaking
- Härtung von System-Prompts
- RAG-Sicherheit
- Sicherheit von Multi-Agenten-Systemen
- Freigabe durch Menschen (Human in the Loop)
- Red Teaming für KI
Voraussetzungen
- Grundwissen zu Cybersicherheit, Prompt Engineering, Tool-Nutzung von Agenten, LLMs und Anwendungsarchitektur; fließendes Englisch