quantized-export

Créer et publier un espace Gradio sur Hugging Face pour inférence avec un LoRA.

Rechercher et lancer des modèles GGUF localement via llama.cpp depuis Hugging Face.

Auditer et aligner le code MoE TensorRT-LLM avec l'architecture de référence.

Estimer la mémoire VRAM nécessaire pour inférer un modèle Hugging Face.

Valider l'intégration d'un modèle Megatron-Bridge dans le backend NeMo-RL via tests E2E.