KArriere
Wir geben der Stimme der
Fans ein Zuhause
Raumdeuter ist ein junges Start-Up aus Leipzig mit einer Überzeugung: Vereine sitzen auf der wertvollsten Ressource im Sport. Die Loyalität ihrer Fans.
Wir machen sie hörbar, verständlich und zeigen wertvolle Potenziale.
Praktikum AI Engineering (m/w/d) – LLM & Cloud-Infrastruktur
Wer wir sind
Raumdeuter ist ein Leipziger Sport-Tech-Startup mit Wurzeln in der Sportökonomie. Wir bauen die Software-Plattform, mit der professionelle Sport-Organisationen aus passiven Fans aktive Communities machen. Im Kern unseres Produkts stecken LLM-basierte Services, die Community-Daten in echte Fan-Insights verwandeln. Du arbeitest also nicht an einem KI-Experiment, sondern an der technischen Basis eines echten Produkts mit ersten Kunden im Profi-Sport.
Über die Rolle
Wir suchen einen Hands-on-Praktikanten, der uns beim Aufbau, Deployment und der Evaluation unserer LLM-basierten Backend-Services unterstützt. Du arbeitest direkt mit dem Gründer zusammen. Von Cloud-Infrastruktur über Modell-Experimente bis zum Produkt-Testing. Eine großartige Gelegenheit zu sehen, wie ein KI-Produkt Ende-zu-Ende entsteht.
Deine Aufgaben
- Deployment und Betrieb unserer Python-Backend-Services als Docker-Container auf Google Cloud (Cloud Run / Compute Engine), zuverlässig und stabil
- Mitverwaltung unseres Google-Cloud-Setups: Billing- und Credit-Monitoring, Budgets und Alerts, Storage und Service-Konfiguration
- Arbeit mit LLMs in verschiedenen Setups: kommerzielle APIs, Open-Source-Modell-APIs und lokal gehostete Modelle – integrieren, vergleichen und bei Bedarf wechseln
- Unterstützung beim Fine-Tuning von Open-Weight-Modellen (z. B. Gemma, Llama, Mistral) auf Vertex AI / Cloud-GPUs und Vorbereitung der Modelle für das Deployment auf externen Servern
- Systematisches Testen des Produkts: Testfälle entwerfen, LLM-Output-Qualität bewerten, Failure Cases finden und Bugs melden – gute Deutschkenntnisse wünschenswert
- Klare Dokumentation von Experimenten, Ergebnissen und Setups, damit das Team darauf aufbauen kann
- Präsentation von Ergebnissen und Fortschritt in regelmäßigen Reviews
Das bringst du mit
- Solide Python-Grundlagen
- Grundverständnis von NLP und der Funktionsweise von LLMs (Prompting, Kontextfenster, Embeddings, Fine-Tuning auf konzeptioneller Ebene)
- Erfahrung mit LLM-APIs (z. B. OpenAI, Anthropic, Gemini oder Open-Source-Endpoints) und der Verarbeitung ihrer Responses im Code
- Kenntnisse in Google Cloud Platform – oder die Bereitschaft, sie schnell zu lernen: Cloud Run oder Compute Engine, Cloud Storage, Vertex-AI-Basics, Billing-/Credit-Management
- Docker-Grundlagen: Images bauen, Container starten, Logs lesen
- Sicherer Umgang mit Git und der Kommandozeile (Linux)
- Klare schriftliche und mündliche Kommunikation, du dokumentierst und präsentierst regelmäßig, am besten in Deutsch und Englisch
Nice to Have (kein Muss)
- Erfahrung mit lokal laufenden LLMs (z. B. Ollama, llama.cpp, vLLM, LM Studio)
- Einblicke in Fine-Tuning-Workflows (LoRA/QLoRA, Hugging Face Transformers, PEFT, Unsloth)
- Kenntnisse in Vertex AI Model Garden oder Managed-Fine-Tuning-Pipelines
- Erfahrung mit FastAPI oder Flask für das Bereitstellen von APIs
- Frontend-Grundlagen (genug, um eine einfache Test-Webseite zu pflegen)
- Kenntnisse in Evaluations-/Observability-Tools für LLM-Apps (z. B. LangSmith, promptfoo, Weights & Biases)
- Erfahrung mit CI/CD oder Deployments auf alternativen Hosts (z. B. Hetzner, DigitalOcean, VPS-Setups)
Das bieten wir
- Ende-zu-Ende-Erfahrung beim Shipping eines echten KI-Produkts – kein Toy Project
- Hands-on-Arbeit mit Cloud-Infrastruktur, Modell-Fine-Tuning und Multi-Provider-LLM-Systemen
- Direktes Mentoring durch den Gründer und Einblick in Produkt- und Technologie-Entscheidungen
- Ein starkes Portfolio-Projekt und ein Empfehlungsschreiben bei erfolgreichem Abschluss
- Perspektive: Übernahme als Werkstudent nach dem Praktikum
Eckdaten
- Vollzeit, 40h Woche
- Pflichtpraktikum oder freiwilliges Praktikum
- Dauer: mind. 3 Monate, verlängerbar
- Start: ASAP möglich
- Remote-Arbeit mit einem Team Day pro Monat vor Ort in Leipzig
Bewirb dich mit CV und einer kurzen Notiz (oder Links zu GitHub/Projekten) zu allem, was du mit LLMs, Python oder Cloud-Tools gebaut hast. Betreff: „AI Engineering Intern – [Dein Name]“. Bonus: Erzähl uns in 2–3 Sätzen von einer besonderen Sache, die du mit einem LLM gemacht hast, z. B. eine API-Integration, ein lokal laufendes Modell oder Fine-Tuning.
Jetzt bewerbenAI Engineering Intern (m/f/d) – LLM & Cloud Infrastructure
Who We Are
Raumdeuter is a Leipzig-based sports tech startup with roots in sports economics. We build the software platform that lets professional sports organizations turn passive fans into active communities. At the core of our product are LLM-based services that turn community data into real fan insights. So you won't be working on an AI experiment, but on the technical foundation of a real product with first customers in professional sports.
About the Role
We're looking for a hands-on intern who can help us build, deploy, and evaluate our LLM-based backend services. You'll work directly with the founder, touching everything from cloud infrastructure to model experimentation to product testing. A great opportunity to see how an AI product is built end to end.
What You'll Do
- Deploy and maintain our Python backend services as Docker containers on Google Cloud (Cloud Run / Compute Engine), keeping them reliably up and running
- Help manage our Google Cloud setup: billing and credit monitoring, budgets and alerts, storage, and service configuration
- Work with LLMs across multiple setups: commercial APIs, open-source model APIs, and locally hosted models. Integrating, comparing, and switching between them as needed
- Assist with fine-tuning open-weight models (e.g., Gemma, Llama, Mistral) on Vertex AI / cloud GPUs, and preparing tuned models for deployment on external servers
- Test the product systematically: design test cases, evaluate LLM output quality, find failure cases, and report bugs – German language preferred
- Document experiments, results, and setup procedures clearly so the team can reproduce and build on your work
- Present findings and progress to the team in regular reviews, ideally in German and English
Required Skills
- Solid Python programming fundamentals
- Basic understanding of NLP and how LLMs work (prompting, context windows, embeddings, fine-tuning at a conceptual level)
- Familiarity with calling LLM APIs (e.g., OpenAI, Anthropic, Gemini, or open-source model endpoints) and handling their responses in code
- Working knowledge of Google Cloud Platform or strong willingness to learn it quickly: Cloud Run or Compute Engine, Cloud Storage, Vertex AI basics, and billing/credit management
- Basic Docker knowledge: building images, running containers, reading logs
- Comfort with Git and the command line (Linux)
- Clear written and spoken communication – you'll be documenting and presenting regularly
Preferred (Nice to Have – not mandatory)
- Experience running LLMs locally (e.g., Ollama, llama.cpp, vLLM, LM Studio)
- Exposure to fine-tuning workflows (LoRA/QLoRA, Hugging Face Transformers, PEFT, Unsloth)
- Familiarity with Vertex AI Model Garden or managed fine-tuning pipelines
- Experience with FastAPI or Flask for serving APIs
- Basic frontend skills (enough to maintain a simple test web page)
- Familiarity with evaluation/observability tools for LLM apps (e.g., LangSmith, promptfoo, Weights & Biases)
- Experience with CI/CD or deployment on alternative hosts (e.g., Hetzner, DigitalOcean, VPS setups)
What You'll Gain
- End-to-end experience shipping a real AI product, not a toy project
- Hands-on work with cloud infrastructure, model fine-tuning, and multi-provider LLM systems
- Direct mentorship from the founder and visibility into product and technical decisions
- A strong portfolio piece and a letter of recommendation on successful completion
- Perspective: continue as a working student after the internship
Key Facts
- Full-time, 40h per week
- Mandatory or voluntary internship
- Duration: 2–3 months, extendable
- Start: ASAP possible
- Remote work with one team day per month on site in Leipzig
Send your resume/CV along with a short note (or links to GitHub/projects) showing anything you've built with LLMs, Python, or cloud tools. Subject line: „AI Engineering Intern – [Your Name]“.
Bonus: tell us in 2–3 sentences about one thing you've done with an LLM – an API integration, a local model you ran, a fine-tune, anything.
Wir bauen den Kader weiter aus!
Du brennst für Sport, Daten und Software? Gleichzeitig möchtest du erfahren, wie ein Start-up arbeitet? Dann schreib uns gerne auch initiativ. Wir planen unsere Taktik nicht nach einem festen System, sondern passen sie an die Menschen an, die bei uns spielen.