Masterand - Hybride Inference API (all gender)

Für ein internes Forschungs- und Entwicklungsprojekt suchen wir Dich für eine Masterarbeit rund um Large Language Models, API-Entwicklung und intelligente Modellbereitstellung.

Masterarbeit

Entwicklung einer hybriden Inferenz API für Coding Agenten

Im Rahmen Deiner Masterarbeit konzipierst und entwickelst Du prototypisch eine eigene Inference API, über die GitHub Copilot CLI mit lokalen und cloudbasierten Sprachmodellen arbeiten kann. Ziel ist es, einen nachvollziehbaren „Local first“-Ansatz zu untersuchen: Standardaufgaben sollen nach Möglichkeit lokal verarbeitet werden; für komplexe Aufgaben kann ein leistungsfähigeres Cloud-Modell eingebunden werden

DU…

• analysierst Anforderungen und relevante Ansätze für OpenAI-kompatible Inference APIs und Streaming
• entwirfst eine geeignete Architektur für API, Modell-Routing und optionalen Wissensabruf
• implementierst einen abgegrenzten Prototyp, zum Beispiel mit Python und FastAPI
• untersuchst die Anbindung eines lokalen Sprachmodells sowie optionaler Cloud-Modelle
• evaluierst einfache, transparente Routing-Regeln anhand ausgewählter Coding-Aufgaben
• prüfst, wie projektspezifisches Wissen mit Retrieval-Augmented Generation (RAG) bereitgestellt werden kann
• entwickelst messbare Kriterien und vergleichst unter anderem Antwortqualität, Latenz, Streaming-Verhalten und den Anteil lokal bearbeitbarer Anfragen
• dokumentierst Deine Ergebnisse und leitest Empfehlungen für eine mögliche Weiterentwicklung ab

DU…

• studierst Informatik, Software Engineering, Data Science oder einen vergleichbaren Masterstudiengang
• möchtest Deine Masterarbeit praxisnah zu Large Language Models, Inference oder KI-gestützter Softwareentwicklung schreiben
• hast Programmiererfahrung, idealerweise mit Python
• kennst grundlegende Konzepte von REST APIs und HTTP; erste Erfahrung mit FastAPI ist von Vorteil
• interessierst dich für lokale Sprachmodelle, Modell-Routing, Embeddings oder RAG
• arbeitest strukturiert, eigenständig und analytisch und kannst technische Ergebnisse verständlich dokumentieren
• kommunizierst sicher auf Deutsch und Englisch
• stimmst Thema, Forschungsfrage und Bearbeitungszeitraum mit Deiner Hochschule ab

Wir wertschätzen Vielfalt und begrüßen daher alle Bewerbungen – unabhängig von Geschlecht, Nationalität, ethnischer und sozialer Herkunft, Religion / Weltanschauung, Behinderung, Alter sowie sexueller Orientierung und Identität.

Schwerbehinderte werden bei gleicher Eignung bevorzugt berücksichtigt.

Bewirb dich jetzt über unser Online-Bewerbungsformular.

• Talent Management – wir entwickeln deine Karriere
• Praxisnahe Masterarbeit -– klar eingegrenztem Proof-of-Concept-Umfang
• Fachliche Betreuung – regelmäßigen Austausch mit dem Projektteam
• Work Life Balance – flexible Arbeitszeiten und mobiles Arbeiten möglich
• Zukunft – Aussicht auf eine Festanstellung nach Beendigung deines Studiums
• Green Mobility – mit uns bist du vergünstigt unterwegs

... zudem bieten wir dir einen Einblick in unsere Abläufe und Systeme sowie Corporate Benefits und Teamevents.