Studente lavoratore – Prestazioni di Inferenza LLM (Werkstudent) – Monaco

Descrizione dell'offerta

Posizione di working student in una start-up di IA (Tensordyne) focalizzata sull'accelerazione hardware dei modelli generativi. Il ruolo offre un'esperienza pratica end-to-end sull'inferenza LLM: sviluppo e ottimizzazione di kernel a basso livello, benchmark su silicio reale, costruzione di strumenti di profiling e integrazione nel flusso di lavoro (Rust, Python). Il/La candidato/a parteciperà all'analisi delle prestazioni, alla modellazione roofline, all'implementazione di strumenti di benchmarking e all'uso di agenti di aiuto alla codifica. Collaborazione stretta con i team hardware e software, apprendimento delle architetture hardware per l'IA e opportunità di gestire progetti tecnici significativi. Adatto/a a studenti di Master in informatica, ingegneria elettronica, matematica o campo tecnico simile che desiderano un'esperienza industriale in IA e sistemi ad alte prestazioni.

Mansioni principali

• Comprendere e analizzare il funzionamento del silicio Tensordyne per l'inferenza LLM
• Sviluppare e ottimizzare kernel a basso livello per l'inferenza
• Costruire modelli di prestazione e confrontarli con le misurazioni su simulatore e silicio
• Creare strumenti di benchmarking e profiling per il team
• Integrare e sperimentare con agenti di aiuto allo sviluppo
• Collaborare con i team compilatore, runtime e kernel per tradurre le osservazioni in miglioramenti

Profilo ricercato

• Iscrizione a un Master (informatica, EE, matematica o campo correlato)
• Solide competenze in programmazione Python e almeno C/C++ o Rust
• Comprensione dell'architettura dei computer, memoria e parallelismo
• Interesse per le prestazioni software e l'ottimizzazione a basso livello
• Autonomia, rigore analitico e gusto per il lavoro di squadra