Réintégration de la base de connaissances
Réexécution de la mise au point
Temps d’ingénierie et de tests
Dépenses mensuelles actuelles et nouvelles
| Élément de coût | Montant | % du total |
|---|
Le verrouillage du fournisseur est pour la plupart invisible
L’écart de prix des API entre les fournisseurs est facile à constater. Le coût de la migration ne l’est pas. La plupart des équipes sous-estiment de 3 à 5 fois car elles budgétisent uniquement le temps d'ingénierie et oublient :
- Les intégrations ne sont pas portables. Chaque document doit être réintégré dans l'espace vectoriel du nouveau modèle.
- Les modèles affinés ne sont pas transférés. Données d'entraînement, hyperparamètres et point de contrôle : tous réexécutés à partir de zéro.
- Les invites doivent être retravaillées. Les invites système adaptées à un modèle fonctionnent souvent mal sur un autre.
- Les régressions prennent du temps à trouver. Le contrôle qualité sur les sorties LLM est plus lent que le contrôle qualité sur le code déterministe.
Cela ne signifie pas rester sur place pour toujours, mais simplement que la période de récupération est réelle et doit être calculée avant de s'engager. Comparez les fournisseurs sur Comparaison des prix LLM. Si vous souhaitez uniquement vous couvrir, voir Coût du routeur du modèle IA.