Concilier les risques et les opportunités liés à l'IA : une analyse globale à l'intention des investisseurs

408 pages, en deux colonnes : ce que révèle le formulaire S-1 d'Anthropic

Les investisseurs épluchent le prospectus S-1 d’Anthropic dans l’attente de la plus grande introduction en bourse de l’histoire. Ce document a pour but de mettre en balance les opportunités d’investissement et les risques associés. Pourtant, selon les premiers retours, les lecteurs consacrent la majeure partie de leur temps à l’une de ces deux rubriques. Sur ses 408 pages, aucune section ne fait l’objet d’autant d’attention que celle consacrée aux risques. Les lecteurs du formulaire S-1, ainsi que de la quasi-totalité des analyses consacrées à l’IA, risquent de négliger la tâche à la fois la plus ardue et la plus nécessaire : évaluer conjointement les risques et les opportunités liés à l’IA, plutôt que de les examiner séparément.

Même si le monde de l’IA est réputé pour ses rebondissements et ses manœuvres politiques, il s’agit ici d’un document d’une grande importance, et non d’un article de blog ou d’un essai théorique. Il sert de base à des décisions portant sur des milliards de dollars. Il s’agit d’une obligation réglementaire, visant à fournir aux investisseurs des informations pertinentes, précises et transparentes leur permettant d’évaluer les risques et les opportunités liés à un investissement.

La science consistant à analyser de manière parallèle les opportunités et les risques liés à l'IA est une discipline rare, souvent compromise par notre tendance humaine à nous focaliser sur les extrêmes. Il s'agit pourtant d'une science que tant les investisseurs que la société dans son ensemble doivent adopter, non seulement pour évaluer les entreprises spécialisées dans l'IA, mais aussi pour comprendre l'étendue des capacités qui découlent de leurs centres de données.

Le problème de la « colonne unique » : pourquoi les rapports sur l'IA évoquent soit les risques, soit les opportunités, mais jamais les deux à la fois

Le débat public a tendance à se concentrer sur un seul aspect à la fois : les risques ou les opportunités. Rares sont les discours qui laissent la place aux deux. Même un optimiste invétéré reconnaîtra que les extrêmes font de meilleurs titres. Pour compliquer encore les choses, les milliers de milliards de dollars qui s’empilent sur la table, au sens figuré, font qu’aucune partie n’est désintéressée.

Pour ne pas tomber dans le piège du biais de récence, il convient de noter que les nouvelles technologies ne se résument jamais à une seule dimension. Les technologies transformatrices dépassent la classification binaire « bonnes » ou « mauvaises » ; il n’est pas nécessaire de chercher bien loin pour trouver des exemples historiques.

• L'imprimerie a permis la production en série de la Le Marteau des sorcières et a alimenté un siècle de guerres de religion.
  • Elle a également permis de diffuser les connaissances scientifiques et d'alphabétiser les masses.
• Le procédé Haber-Bosch a permis à l'Allemagne, pendant la Première Guerre mondiale, de se procurer des nitrates destinés à la fabrication d'explosifs.
  • Elle a également permis la mise au point d'engrais synthétiques et a nourri la moitié de la population mondiale.
• Internet est le vecteur de discours haineux, d'escroqueries à grande échelle et d'informations trompeuses.
  • Elle permet également à plus de six milliards de personnes d'accéder à l'ensemble des connaissances humaines et de communiquer entre elles.

Mais il existe une différence évidente entre ce moment et ces exemples historiques : le temps a rempli ces registres. Comme l’a si bien dit Steve Jobs, « on ne peut relier [les points] qu’en regardant en arrière ». Gutenberg et ses contemporains ne pouvaient pas savoir que cette même machine diffuserait des manuels de chasse aux sorcières et alimenterait des guerres de religion, tout en favorisant l’alphabétisation de masse et en alimentant la Révolution scientifique. Au début, Internet était présenté comme un outil de connexion et de connaissance. Ce n’est que bien plus tard que les escroqueries à grande échelle et la désinformation sont apparues dans le registre.

Au rythme effréné où nous avançons, personne ne peut recenser toutes les entrées du registre de l’IA. Cet article ne s’y essaiera pas. Il est bien plus utile de chercher à comprendre comment les deux colonnes, « risques » et « opportunités », sont liées l’une à l’autre. Cette analyse révèle une vérité fondamentale : presque chaque entrée a son pendant dans l’autre colonne.

Deux fleurs d'une même branche : comment les risques et les opportunités liés à l'IA sont liés

Cette association n'est pas le fruit du hasard ; les opportunités et les risques liés à l'IA sont étroitement liés, puisqu'ils découlent d'un même domaine de compétences. Ainsi, les risques et les opportunités évoluent de pair.

Prenez n’importe quelle avancée majeure, et vous y retrouverez le même schéma. Les modèles capables de comprendre les protéines permettent de concevoir des vaccins. Cette même compréhension peut aider quelqu’un à créer un agent pathogène mortel. Les modèles qui détectent les failles logicielles permettent aux défenseurs de les corriger plus rapidement. Ils permettent également aux attaquants de les exploiter plus rapidement. Un agent d’IA autonome peut venir à bout d’une journée de travail administratif. Il peut également mener des actions potentiellement destructrices que vous n’avez pas approuvées.

On ne peut pas réduire les risques sans réduire les opportunités. Cela fait de nous les jardiniers d’une seule branche, et le premier réflexe d’un jardinier est d’élaguer. L’élagage permet certes d’éliminer le risque, mais il supprime par la même occasion les avantages. Pour concilier les opportunités et les risques liés à l’IA, il faut entretenir la branche de manière à ce que les avantages l’emportent sur les risques.

Deux éléments rendent cela possible. Premièrement, la prise en compte des aspects internes et externes du modèle : filtrage, bacs à sable, intervention humaine, contraintes physiques du système (nous y reviendrons dans un instant). Deuxièmement, la capacité qui engendre un risque est souvent le meilleur outil pour l’atténuer.

La biologie, l’une des capacités de l’IA les plus fréquemment citées dans les discours sur P(doom) (la probabilité que l’IA provoque une catastrophe) en raison de l’ampleur potentielle de la catastrophe associée, présente ce qui pourrait être le plus grand défi parmi toutes les dyades risque-opportunité mentionnées ci-dessus. OpenAI, Anthropic, xAI et Google DeepMind ont tous abordé les aspects négatifs potentiels de la propension de l’IA à la recherche biologique en intégrant des mesures de sécurité dans leurs systèmes, certaines plus robustes que d’autres. En effet, au cours de mes recherches pour cet article, le classificateur de Claude m’a fait passer à trois reprises de la note Opus 5,5 à la note Opus 4,8. 

Passage à Opus 4.8 Modifier et réessayer avec Opus 5.5

Les mécanismes de protection d'Opus 5.5 ont signalé ce message. Il se peut que ce soit la première fois que vous rencontrez ce problème sur un modèle Opus : Opus 5.5 est plus performant et dispose donc de mécanismes de protection plus rigoureux, ce qui peut parfois entraîner le signalement de travaux liés à la recherche en biologie. Nous travaillons à l'amélioration de ces mécanismes afin de réduire le nombre de messages signalés à tort. Envoyez-nous vos commentaires ou découvrez-en davantage.

Détails : [biographie]

Cela s’avère utile dans la mesure où cela crée des obstacles pour les acteurs malveillants potentiels, mais cela reste insuffisant dans la mesure où cela ne suffira guère à dissuader un attaquant doté d’un minimum de persévérance. Comme le soulignent O.H. Scharfman et Will Bellamy, les modèles à poids ouverts accusent un retard de moins d’un an par rapport à la pointe de la recherche et peuvent être exécutés en toute confidentialité, sans être entravés par les restrictions imposées par les mesures de sécurité des laboratoires de pointe. Ainsi, le principal levier d’action se situe en dehors des modèles, au niveau de points d’étranglement physiques tels que les contrôles KYC chez les fournisseurs de synthèse d’ADN et les systèmes d’alerte précoce qui analysent les eaux usées et les échantillons cliniques à la recherche de menaces avant qu’elles ne se propagent. L’IA rend ces deux approches possibles et est renforcée par le fait que les défenseurs, selon les termes de Bellamy et Scharfman, « disposent généralement d’un meilleur accès au capital, à la recherche, aux infrastructures et à un personnel compétent ».

En superposant cette approche à une lecture unilatérale du risque, on comprend mieux les enjeux. Si l’on ne tient compte que du risque, notre réaction sera de saboter le modèle. Ce faisant, nous renonçons aux avancées biologiques associées à des projets comme AlphaFold (utilisé par plus de 3 millions de chercheurs pour réduire de plusieurs années le travail en laboratoire) et aux vaccins optimisés par l’IA qui passent déjà avec succès les essais cliniques. Tout cela sans pour autant parvenir à repousser les attaquants utilisant des modèles à poids ouverts.

La réponse change lorsqu'on examine simultanément les deux colonnes. Plutôt qu'un modèle plus faible, il s'agit de renforcer les défenses autour d'un modèle performant. Plutôt que d'élaguer la branche, il faut consacrer davantage de temps et de ressources à son entretien. C'est un choix, et quelqu'un doit le faire.

Le secteur financier en tant que gardien : comment les investisseurs influencent le développement de l'IA

Le secteur financier occupe une position unique pour influencer cette décision. Le formulaire S-1 d’Anthropic est une rareté, car la loi l’impose. La réglementation oblige les émetteurs à présenter les deux côtés de la médaille, les risques et les opportunités, dans un même document, audité et signé. Presque rien d’autre dans cette saga de l’IA n’est présenté de cette manière. Les succès font l’objet de communiqués de presse et de vidéos de démonstration éblouissantes, tandis que les échecs font les gros titres et suscitent l’inquiétude. Chacun nous parvient sous la forme d’une seule colonne.

C’est donc au lecteur qu’incombe la lourde tâche de la réconciliation. Heureusement, dans le domaine de la finance, le lecteur dispose de leviers d’action. En décidant de l’affectation des capitaux, de la manière dont les droits de vote sont exercés et des informations que les entreprises doivent divulguer, les investisseurs peuvent déterminer ce qu’il adviendra de ces branches tordues et de leurs fleurs rivales.

Il a fallu des siècles pour remplir ces premiers registres consacrés aux technologies révolutionnaires. Compte tenu de l’évolution fulgurante de l’IA et de notre accès illimité à l’information, nous ne pouvons plus nous permettre ce luxe, ni invoquer cette excuse. Les allocations, les votes et les actions militantes d’aujourd’hui feront partie de l’histoire de demain. Les investisseurs ne peuvent pas attendre que les liens se dessinent d’eux-mêmes. C’est à eux de les établir.

Le mandat de réconciliation : évaluer ensemble les risques et les opportunités liés à l'IA

Nous ne pouvons pas encore examiner en détail le bilan complet de l’IA. À moins que celle-ci ne fasse progresser à grands pas la science de la longévité, nous n’aurons probablement pas cette opportunité de notre vivant. Mais l’histoire nous montre comment interpréter de tels bilans. L’imprimerie a entraîné la révolution scientifique et les procès de sorcières ; le procédé Haber-Bosch a nourri le monde et armé le Kaiser. Notre recul ne nous permet pas d’effacer l’une ou l’autre de ces lignes du bilan. Il nous apprend à les considérer toutes les deux en même temps.

L’IA n’attendra pas que l’on puisse jeter un regard rétrospectif. Ainsi, la discipline que le formulaire S-1 d’Anthropic impose par la loi, nous devons l’imposer par habitude. Telle est l’évaluation globale. Il ne s’agit pas d’un verdict que nous rendons une fois que la poussière est retombée, mais plutôt d’un équilibre que nous établissons alors que tout est encore en suspens. Surveillez les risques et réagissez-y, mais prenez soin de ce qui se développe à leurs côtés.