|
Notre organisation : La Direction Générale du Système d'Information dote Dassault Aviation des plateformes numériques et d'intelligence artificielle (IA) qui accélèrent le travail des ingénieurs de la société. Au sein de la Direction des Développements et Projets (DDP), le Centre de compétences High Performance Data Analysis (CC HPDA) déploie à l'échelle des modèles de langage massifs sur nos clusters GPU haute performance, au service d'usages critiques et de fenêtres de contexte toujours plus larges. Chaque token consommé, chaque octet de mémoire et chaque goulot d'étranglement ont un impact direct sur le coût et la disponibilité de ces services. Vous rejoignez l'équipe IA du CC HPDA basée à Mérignac. Rattaché(e) au responsable de l'équipe, vous êtes accompagné(e) au quotidien par un tuteur qui vous conseille sur les orientations techniques à prendre. Objectif : maximiser l'efficience de l'inférence des grands modèles de langage et automatiser l'allocation des ressources de nos clusters GPU. Vos missions : 1. Maîtrise de la consommation de tokens. - Définir et implémenter des stratégies d'optimisation pour réduire fortement l'usage de tokens dans les cycles de développement : optimisation fine des prompts, routage des compétences, intégration du Model Context Protocol (MCP). - Mesurer le gain obtenu à qualité de réponse constante. 2. Quantification et allocation du KV Cache - Évaluer l'impact d'une quantification extrême (FP8, INT4) du KV Cache sur la précision et la perplexité de nos modèles (ex. Mistral). - Combiner ces techniques avec l'allocation paginée de la mémoire (PagedAttention) pour accroître le nombre de requêtes concurrentes à long contexte.
3. Modélisation et optimisation du parallélisme - Construire un modèle analytique prédictif des goulots d'étranglement matériels en fonction de la taille de batch et de la fenêtre de contexte. - Livrer un moteur de décision configurant automatiquement la topologie de partitionnement optimale (Tensor, Pipeline ou Sequence Parallelism) selon nos contraintes de coût et de latence. 4. Validation et industrialisation - Mettre en place des benchmarks reproductibles sur nos clusters et suivre les résultats dans la durée. - Documenter les réglages retenus et accompagner leur mise en production. 5. Sécurisation et anonymisation des flux de données - Concevoir et implémenter des briques robustes d'anonymisation et de chiffrage des données pour sécuriser les échanges avec des infrastructures cloud. - Développer des méthodes d'anonymisation et/ou pseudonymisation préservant la structure, le volume et la ventilation des données. - Évaluer l'impact de ces transformations sur la latence globale de l'inférence et garantir l'irréversibilité des données sensibles. Dans le cadre de votre mission. À votre arrivée, nous vous proposerons un dispositif d’accueil pour vous permettre de mieux connaître votre entité, Dassault Aviation et ses enjeux, et de rencontrer d'autres stagiaires.
|