Aktuell, Inhalt aktualisiert Okt. 2026

LLM and Agentic AI Security

Udacity mit Kevin Carter

Teilnehmende greifen zunächst LLM- und Agentensysteme an (Jailbreaks, direkte, indirekte und multimodale Prompt Injection) und bauen dann Abwehrmaßnahmen wie gehärtete System-Prompts, Zugriffskontrollen für RAG, sichere Multi-Agenten-Architekturen, Logging und Freigabe-Workflows. Im Abschlussprojekt führen sie Red Teaming an einem RAG-basierten Recherche-Agenten durch und härten ihn.

Dieser Kurs wird auf Englisch unterrichtet. Diese Seite ist unsere Übersetzung des Eintrags.

Unsere Einschätzung

Teil des Udacity-Abos; projektbasiert und technischer als die meisten Kurse hier. Mit rund 23 Stunden umfangreich. Am stärksten bei den OWASP Top 10 für LLMs und Prompt Injection. Zuletzt aktualisiert im Oktober 2026.

Ideal für: Fachleute aus IT und Sicherheit, die sich gegen KI-gestützte Bedrohungen wappnen oder KI-Systeme absichern müssen.

Auf Grundlage der Kursseite, des Lehrplans und der Preise, nicht der Teilnahme am Kurs. So bewerten wir

Lerninhalte

  • OWASP Top 10 für LLMs
  • Prompt Injection
  • Jailbreaking
  • Härtung von System-Prompts
  • RAG-Sicherheit
  • Sicherheit von Multi-Agenten-Systemen
  • Freigabe durch Menschen (Human in the Loop)
  • Red Teaming für KI

Voraussetzungen

  • Grundwissen zu Cybersicherheit, Prompt Engineering, Tool-Nutzung von Agenten, LLMs und Anwendungsarchitektur; fließendes Englisch

Über Udacity

Ähnliche Kurse

Aktualisierungsdatum noch nicht geprüft

LLM Course

Hugging Face

Offener Kurs zu Transformern, Hugging Face, Tokenizern und Datensätzen im Hugging-Face-Ökosystem.

  • Mittleres Niveau
  • Dauer nicht angegeben
  • Zertifikat je nach Option
  • Unterrichtssprache: Englisch

Tools: Transformers, Hugging Face

Kostenlos Ohne Zertifikatsgebühr

Zum Kurs

Aktualisierungsdatum noch nicht geprüft

LLM Bootcamp

Educative

Zehn Module führen Entwickler davon, wie LLM-Apps gebaut werden und wo sie scheitern, über Transformer, Vektordatenbanken, Prompting und Fine-Tuning im LoRA-Stil bis zu LangChain, agentischen Workflows, RAG und Evaluierung. Mit Quizfragen und AWS-Cloud-Laboren.

  • Mittleres Niveau
  • 16 Std.
  • Zertifikat inklusive
  • Unterrichtssprache: Englisch

Tools: LangChain, LangGraph, Amazon Bedrock, Amazon SageMaker JumpStart

Abo Preis beim Anbieter

Zum Kurs

Aktualisierungsdatum noch nicht geprüft

Full Stack AI Engineering

Towards AI

Ein projektbasierter Kurs, der einen RAG-gestützten KI-Tutor von Anfang bis Ende baut, von Prompting und Retrieval über Fine-Tuning, Agenten und LLM-Optimierung bis zum Deployment, mit einem begutachteten Abschlussprojekt.

  • Mittleres Niveau
  • Ca. 50-60 Std., im eigenen Tempo, unbegrenzter Zugang
  • Zertifikat inklusive
  • Unterrichtssprache: Englisch

Tools: Python, LlamaIndex, LangChain, Gradio, Hugging Face

349 $ Einmalzahlung, dauerhafter Zugang

Zum Kurs