Un projet LLM mal pensé peut coûter 10x plus cher à faire tourner. Voici comment on évite ça chez IALab.
La plupart des équipes choisissent leur modèle LLM comme elles choisissent un outil SaaS : elles prennent le plus connu, ou le plus performant sur les benchmarks, puis elles construisent dessus. Le coût d’infrastructure devient une surprise six mois plus tard, quand le projet monte en charge. Le paradoxe :

