**Forschungsstelle für IT-Sicherheit und XAI**
Wir suchen eine Doktorandin/Doktorand (w/m/d) für eine Promotionsstelle im Bereich IT-Sicherheit und XAI.
**Ziel der Forschungsgruppe**
Die Forschungsgruppe "Künstliche Intelligenz & IT-Sicherheit" betreibt Spitzenforschung an der Schnittstelle von künstlicher Intelligenz und IT-Sicherheit. Wir arbeiten an Themen wie der Angriffserkennung, der Suche nach Schwachstellen in Software und Hardware sowie der Robustheit von künstlicher Intelligenz.
**Aufgaben**
* Erkennen und Vorbeugen von Angriffen auf Computersysteme
* Analyse von Angriffen und Schadcode
* Schwachstellensuche und Fuzz Testen (Fuzzing)
* Erkennung von Angriffen auf künstliche Intelligenz
* Hintertüren in ML-Modellen ("ML-Backdoors")
* Auslösen von Fehlverhalten ("Adversarial Examples")
* Datendiebstahl ("Model Stealing" und "Membership Inference")
**Entwicklung von robusten XAI-Methoden**
* Eingabe- bzw. Modellmanipulationen und "Data Poisoning
* "Fairwashing" von XAI-Ausgaben
* Zertifizierbar/Beweisbar robuste XAI-Methoden
**Qualifikation**
* Hochschulabschluss in der Fachrichtung Informatik (Master) oder einem verwandten Gebiet
* Gute Kenntnisse zu maschinellem Lernen und der IT-Sicherheit
* Begeisterung für Forschung an lernenden Systemen und Neugier für neuartige Methoden
**Arbeitsbedingungen**
* Vollfinanzierte Promotionsstelle
* Teilnahme an der "KIT Graduate School Cyber Security
* Enge Kontakte zu nationalen und internationalen Forschungsinstituten
* Zugang zu einer eigenen dedizierten Server-/Recheninfrastruktur
* Flexible Arbeitszeitmodelle (Gleitzeit, Homeoffice)
* Vielseitiges Angebot in verschiedenen Mensen