Foundation model

Un foundation model est un grand modèle d’IA pré-entraîné sur une vaste masse de données et qui sert de base générale sur laquelle vous construisez d’innombrables applications spécifiques. Au lieu d’entraîner un modèle de zéro pour chaque tâche, vous partez de ce socle et vous l’adaptez. Un large language model en est l’exemple le plus connu, mais il existe aussi des foundation models pour l’image, l’audio et le code.

Pourquoi c’est un socle

La force réside dans la réutilisation. Pendant le pré-entraînement, un foundation model apprend une couche si large de connaissances générales et de compréhension du langage qu’il peut ensuite être orienté vers une tâche concrète avec relativement peu d’effort. Cet ajustement se fait via le fine-tuning sur vos propres données ou simplement via des instructions bien pensées. Le même modèle de base peut ainsi alimenter un bot de support, un résumeur et un outil de classification, sans que vous recommenciez à chaque fois.

Une base, plusieurs formes

D’un seul foundation model naissent souvent plusieurs dérivés. Une version allégée peut servir de small language model pour des tâches rapides et ciblées, tandis qu’un modèle multimodal traite texte et image en même temps. Sous le capot, ils tournent tous sur les mêmes principes de machine learning, simplement réglés différemment.

Ce que cela signifie pour les entreprises B2B

Les foundation models abaissent le seuil pour déployer l’IA, car vous n’avez pas besoin d’entraîner votre propre modèle pour en tirer de la valeur. En même temps, vous héritez des limites du modèle de base : des biais dans les données, une connaissance avec une date de péremption et des réponses parfois fausses avec assurance. Choisissez donc en fonction de ce qu’une application rapporte concrètement en clients et en chiffre d’affaires, et intégrez des contrôles là où la fiabilité compte.