Toutes les tâches d'IA ne nécessitent pas forcément un modèle plus performant : deux questions qui déterminent le choix de la spécialisation

En ce moment même, quelque part, l’un des modèles d’IA les plus performants au monde est en train de lire un communiqué annonçant une division d’actions. Il trouvera la bonne réponse, mais un modèle bien plus petit et bien moins coûteux y parviendrait tout aussi bien. C’est comme si un vice-président faisait le travail d’un stagiaire.

L'intelligence reste la référence privilégiée du secteur, mais de nombreuses tâches d'IA se heurtent à un plafond : un point à partir duquel un modèle devient « suffisamment intelligent » et où les gains d'intelligence supplémentaires commencent à s'amenuiser. D'autres tâches, en revanche, ne connaissent aucun plafond. Dans aucun de ces deux cas, un modèle « prêt à l'emploi » ne constitue une solution adaptée. C'est le fait qu'une tâche présente ou non un plafond, et qu'elle « stagne » ou non, qui détermine s'il faut spécialiser le modèle ou le système qui l'entoure.

Pourquoi les modèles d'IA spécialisés dépendent de la tâche à accomplir, et non du secteur d'activité

La nécessité de disposer de modèles spécialisés découle de la tâche à accomplir, et non du secteur d'activité. Les secteurs eux-mêmes regroupent en effet d'innombrables tâches.

Par exemple, les laboratoires pharmaceutiques mènent des activités de découverte de médicaments, domaine dans lequel une recherche plus approfondie et plus rapide, ainsi qu’une meilleure analyse de l’inconnu, présentent des avantages considérables. Ces mêmes laboratoires effectuent également des tâches standardisées à grand volume, régies par des règles extrêmement bien définies, comme le codage des rapports d’effets indésirables.

Dans ce dernier cas, l’intelligence supplémentaire génère des rendements décroissants. Une fois qu’un modèle est devenu « suffisamment intelligent », sa spécialisation – sous la forme d’un ajustement fin visant à comprendre la relation entre les retours des patients et les dictionnaires médicaux – devient le principal vecteur de valeur. En revanche, dans le domaine de la découverte de médicaments, l’intelligence supplémentaire constitue l’apport essentiel. Un modèle plus grand, plus performant et plus rapide peut toujours apporter davantage de valeur à la tâche. Des tâches telles que la découverte de médicaments exigent une IA de pointe et représentent d’énormes marchés sur lesquels l’amélioration des performances de l’IA génère des rendements illimités.

Il en va de même pour une société de trading quantitatif, où la recherche de nouveaux signaux de trading s'apparente à la découverte de médicaments. Chaque gain en matière d’intelligence peut se traduire par un avantage sur le marché et, en fin de compte, par des rendements. Cependant, cette même société doit également traiter des dizaines d’opérations sur titres qui lui parviennent sous forme d’annonces en texte libre. Il s’agit d’un travail standardisé et à fort volume, peu susceptible d’évoluer avec le temps. Il n’existe qu’une seule interprétation correcte d’une division d’actions à raison de 2 pour 1. Un modèle plus grand et plus intelligent n’apportera probablement pas d’avantages supplémentaires pour en dégager le sens.

Deux questions qui déterminent s'il faut procéder à un ajustement fin d'un modèle

Pour comprendre dans quels cas il est pertinent d'utiliser des modèles spécialisés, il convient d'évaluer deux conditions liées à toute tâche :

• Cette tâche récompense-t-elle toujours davantage l'intelligence ?
• La tâche est-elle stable ? Autrement dit, ses règles, ses données d'entrée et ses exigences restent-elles inchangées ?

Les modèles spécialisés sont particulièrement pertinents lorsque les réponses possibles sont « non » et « oui »; c'est-à-dire dans les cas où la tâche est déjà pleinement satisfaite par les modèles actuels et où la tâche elle-même a peu de chances d'évoluer de manière significative. Le codage des événements indésirables répond à ces deux critères. La découverte de médicaments échoue d'emblée au premier critère.

Coûts et avantages de l'ajustement des modèles d'IA

Pour les tâches standardisées et à haut volume décrites ci-dessus, le développement d’un modèle spécialisé offre de réels avantages. Le premier est le coût : lorsqu’une tâche est exécutée des millions de fois, un petit modèle optimisé pour cette tâche spécifique est moins coûteux et plus rapide à exécuter qu’un modèle « frontier ». Le deuxième est la cohérence : un modèle entraîné sur des milliers d’exemples très spécifiques appliquera systématiquement une logique extrêmement similaire, voire identique, à chaque fois, devenant ainsi de plus en plus prévisible. Le troisième avantage est le contrôle : une entreprise peut héberger son propre modèle sur sa propre infrastructure, conservant ainsi les données sensibles, telles que les dossiers médicaux ou les données financières, au sein de ses propres locaux.

Cependant, rien n’est jamais gratuit. L’ajustement réduit le coût d’exploitation d’un modèle, mais augmente simultanément le coût et le temps nécessaires à sa construction. Si la tâche ne change jamais de manière substantielle et qu’il n’y a aucun intérêt à intégrer un futur modèle de base plus performant, il s’agit d’un coût ponctuel facilement justifiable. En revanche, les coûts peuvent grimper si ces conditions ne sont pas remplies. Chaque fois que la tâche évolue ou qu’un meilleur modèle de base est publié, le modèle spécialisé doit être réentraîné. Par conséquent, les avantages liés à la création de modèles spécialisés ne persistent que lorsque la tâche est stable et que les modèles actuels sont déjà suffisamment performants pour amortir cet investissement.

Quand faut-il affiner un modèle et quand faut-il spécialiser le système d'IA ?

Prises ensemble, les deux questions posées précédemment tracent la voie à suivre pour se spécialiser.

1. Assez performant et stable : spécialiser le modèle. C'est le domaine des tâches évoquées plus haut, telles que le codage des événements indésirables et les opérations sur titres. Les enjeux économiques décrits ci-dessus favorisent le réglage fin et permettent d'amortir l'investissement sur des millions d'itérations.
2. Pour tout le reste : spécialisez le système ; la spécialisation des modèles n’est qu’une forme parmi d’autres d’adaptation. Si une tâche continue de faire appel à l’intelligence, intégrer l’expertise dans les poids d’un modèle implique de le réentraîner à chaque fois qu’un meilleur modèle est déployé. Si la tâche évolue constamment, cela signifie qu’il faut le réentraîner à chaque changement. Dans les deux cas, il vaut mieux ancrer l’expertise dans les données, les outils et les flux de travail entourant un modèle qui peut être remplacé. L’exemple précédent de découverte de médicaments s’inscrit dans cette catégorie. Il nécessite des technologies de pointe, mais avec des données propriétaires et des pipelines spécialement conçus.

Ces deux réponses ne s'excluent pas mutuellement. Même un modèle finement ajusté nécessite tout de même un système de soutien, et un système bien conçu peut tout de même intégrer des composants de modèle finement ajustés. Ainsi, ce sont les questions, et les réponses qui en découlent, qui déterminent où se situe le centre de gravité.

Clarity AINos tâches s’inscrivent dans l’approche des systèmes spécialisés par ces deux voies. Certaines d’entre elles continuent de valoriser l’intelligence de pointe. Notre plateforme d’extraction de données étant indépendante des modèles, nous sommes en mesure d’intégrer de nouveaux modèles de pointe en quelques jours, ce qui nous permet de tirer parti de gains qu’un modèle finement ajusté n’aurait pu offrir qu’après un réentraînement. Il existe d’autres tâches pour lesquelles les modèles actuels sont « suffisamment intelligents », mais trop dynamiques pour être intégrés dans un modèle spécialisé sur mesure. Par exemple, lorsqu’un changement réglementaire modifie les exigences en matière de métriques, il nous suffit de modifier le contexte, les règles et les validations plutôt que de réentraîner le modèle lui-même. En créant un harnais sur mesure, nous pouvons spécialiser nos processus tout en restant capables de nous adapter rapidement face au changement.

Tout déploiement sérieux d'IA est spécifique. C'est la tâche qui détermine si cette expertise réside principalement dans le modèle ou dans son environnement. Confiez la division des actions au stagiaire et offrez au vice-président une meilleure équipe.