L'essentiel de l'IA et de l'ESG : opportunités, risques et perspectives de gouvernance pour les investisseurs institutionnels

Télécharger la version PDF

Pour exploiter réellement l'IA, les investisseurs durables doivent installer des détecteurs de fumée

L'intelligence artificielle révolutionne déjà notre façon de vivre, de travailler et de jouer, et elle est prête à transformer radicalement les progrès mondiaux en matière de durabilité. Il n'est donc pas surprenant que des chefs d'entreprise tels que Sundar Pichai, PDG de Google, prédisent que son impact sur la société humaine sera aussi profond que la découverte du feu.

Mais comme le feu, le pouvoir de transformation de l'IA s'accompagne aussi de risques. La question centrale pour les investisseurs est donc de savoir comment exploiter le potentiel de l'IA sans se brûler.

La puissance du capital à long terme rencontre la puissance de la technologie

La manière dont les investisseurs institutionnels, en particulier, relèveront ce défi pourrait façonner notre avenir à tous.

Les investisseurs institutionnels sont des acteurs de grande envergure qui gèrent d'énormes réserves de capitaux, y compris des régimes de retraite et d'assurance. Contrairement à d'autres acteurs des marchés mondiaux, ils ont tendance à adopter une vision à long terme, en investissant de manière à produire des rendements durables dans 25 ans ou plus. La durabilité est donc un élément clé pour les investisseurs institutionnels, comme en témoigne le fait que plus de la moitié des actifs institutionnels mondiaux sont désormais gérés par des signataires des Principes pour l'investissement responsable des Nations unies^.1

Les investisseurs institutionnels ont donc un rôle essentiel à jouer dans l'intégration de l'IA dans les secteurs d'activité au cours des prochaines années. À l'heure actuelle, ils envisagent l'IA comme un vecteur de durabilité de deux manières principales :

1) Investir dans la révolution de la durabilité de l'IA: Ils voient comment le fait d'investir directement ou indirectement dans des entreprises qui fournissent ou déploient l'IA peut contribuer à catalyser la transition vers une économie durable à faible émission de carbone. Cela pourrait les aider à la fois à gérer les risques à long terme liés au changement climatique et à la perte de la nature et à saisir de nouvelles opportunités d'investir dans les gagnants de demain en matière de durabilité^.2

2) Renforcer les décisions d'investissement grâce à l'IA : les investisseurs considèrent l'IA comme un outil permettant d'améliorer la rapidité, la qualité, la profondeur et la portée de leurs processus de prise de décision en matière d'investissement.

Investir dans la révolution de l'IA pour le développement durable

L'IA a le potentiel de révolutionner des domaines aussi divers que l'énergie, l'agriculture, les soins de santé et la conservation des océans, en nous aidant à surveiller, optimiser et prévoir (MOP) les progrès vers les objectifs mondiaux de durabilité, comme le montre la figure 1. J'aime à penser que les investisseurs utilisent l'IA pour "MOP" les défis de la durabilité.

En canalisant des capitaux vers des innovations axées sur l'IA, les investisseurs accélèrent non seulement les progrès vers des objectifs mondiaux clés, tels que l'Accord de Paris, les ODD et l'objectif 30×30 du Cadre mondial pour la biodiversité, mais ils débloquent également des opportunités potentielles pour de meilleurs rendements ajustés au risque. Dans ce double rôle, ils soutiennent une économie plus durable et à faible émission de carbone tout en renforçant leur propre résilience dans un marché en évolution rapide.

Figure 1 : Comment l'IA peut-elle être utilisée pour améliorer le développement durable ?

L'IA au service des décisions d'investissement : des données à l'action

La deuxième approche de la durabilité que les investisseurs institutionnels adoptent avec l'IA consiste à améliorer la rapidité, la qualité, la profondeur et la portée de leurs processus de prise de décision en matière d'investissement.

Les investisseurs institutionnels diversifient leurs portefeuilles à travers des milliers d'entreprises et de titres mondiaux, créant ainsi un écosystème de millions de points de données. Cette situation s'accompagne de défis persistants concernant la qualité et la couverture de ces données et informations, et la manière de les transformer en connaissances, en sagesse et en actions utiles. C'est là qu'entre en scène l'IA, qui a le potentiel de remodeler fondamentalement toutes les parties de la pyramide des connaissances qui sous-tendent chaque décision d'investissement (voir figure 2).

Pour la collecte de données, l'IA et l'apprentissage automatique sont inestimables pour capturer des informations à partir de sources et de formats divers (tels que des textes, des tableaux et des graphiques) et améliorer la fiabilité des données. Ce contrôle de la qualité n'est pas une question marginale. Notre recherche a révélé que parmi trois fournisseurs de données qui proposaient aux clients les mêmes points de données d'émissions déclarées, les données étaient différentes 13 % du temps et présentaient un écart de plus de 20 %.

L'IA peut également aider à combler les lacunes en matière de données lorsque les données déclarées par les entreprises ne sont pas disponibles, en réalisant des estimations plus précises au-delà des moyennes sectorielles en utilisant des ensembles d'informations comparables et alternatifs tels que les actualités ou les données géospatiales. Par exemple, les outils d'IA peuvent désormais superposer les déclarations des entreprises en matière de droits de l'homme avec des informations tirées de l'actualité mondiale et de sources indépendantes pour voir si elles concordent.

Pour transformer les données en informations exploitables, les solutions d'assistant IA permettent désormais aux investisseurs institutionnels de converser intelligemment avec leurs portefeuilles sur des sujets liés au développement durable. Ils peuvent s'informer sur les sources de données, les méthodologies, les performances et les recommandations pour améliorer les scores. En outre, l'IA est utilisée pour fournir des informations prospectives. Par exemple, nous avons utilisé l'IA pour analyser les plans de décarbonisation des 400 plus grands émetteurs mondiaux, et avons constaté que seuls 40 % d'entre eux disposaient de plans de transition crédibles.

Enfin, l'IA aide déjà les investisseurs à rendre compte à leurs nombreuses parties prenantes dans différents formats, styles et langues. Peut-être plus important encore pour les investisseurs d'aujourd'hui, l'IA peut offrir des moyens d'optimiser les rapports de conformité, en réduisant la charge de travail et en permettant aux investisseurs responsables de se concentrer sur la prise de décisions d'investissement.

Figure 2 : La pyramide des connaissances

Installation des détecteurs de fumée E, S et G

Les bénéfices potentiels de l'IA sont énormes, mais ils ne sont pas exempts de risques.

Tout comme les détecteurs de fumée protègent nos maisons, l'économie moderne doit installer des systèmes d'alerte précoce et des garde-fous qui nous permettront de progresser en toute sécurité grâce à l'utilisation de l'IA.

Cela signifie qu'il faut minimiser les risques d'utilisation abusive de l'IA dans les trois domaines clés que sont les risques environnementaux, sociaux et de gouvernance. Comme c'est souvent le cas pour les investisseurs, commençons par la gouvernance.

Gérer les risques de l'IA en matière de gouvernance

Il existe de nombreux facteurs à prendre en compte dans la gouvernance de l'IA, mais une manière simpliste de les appréhender consiste à utiliser les principaux points suivants :

• Responsabilité et surveillance : Attribuer une responsabilité claire en matière de propriété et de gestion de l'IA dans laquelle ils investissent ou qu'ils utilisent. Il ne faut jamais en arriver à dire "c'est la faute de l'IA !".
• Désinformation et hallucinations : Veiller à ce que le modèle d'IA dispose des garde-fous appropriés pour éviter les résultats trompeurs ou les fabrications pures et simples.
• Confidentialité et sécurité des données : Garantir que l'IA ou l'utilisateur qui interagit avec elle n'utilise pas de données auxquelles elle n'a pas un accès autorisé.
• Équité et non-discrimination : Veiller à ce que le modèle ou l'algorithme d'IA ne soit pas formé à partir de données biaisées, ce qui peut entraîner un traitement inéquitable ou l'exclusion de certaines personnes ou de certains groupes.
• Transparence et explicabilité : Veiller à ce que le fonctionnement du modèle d'IA soit divulgué et expliqué dans une mesure qui le rende digne de confiance et compréhensible.

Même aux premiers stades de l'IA, une mauvaise gouvernance est apparue, comme on l'a vu avec Clearview AI. Cette société américaine spécialisée dans la reconnaissance faciale s'est vu infliger des amendes par les autorités de régulation du Royaume-Uni, des Pays-Bas et d'autres pays pour avoir récupéré des milliards d'images de médias sociaux sans le consentement de l'utilisateur...

Pour faire face à ces risques, les investisseurs doivent appliquer des principes de gouvernance et des lignes directrices pour la gestion de l'IA. Les principes clés qui guident le secteur sont les Principes de l'OCDE relatifs à l'IA. Mis à jour en mai 2024 pour tenir compte des risques émergents introduits par les outils d'IA générative tels que ChatGPT et Bard de Google, ils constituent le principal point de référence pour tous ceux qui souhaitent aborder l'IA de manière responsable.

En outre, un nombre croissant d'acteurs proposent des lignes directrices en matière de gestion des risques, tels que The Partnership on AI, AI4People, Future of Life Institute, The Green Digital Finance Alliance (GDFA) et The Responsible AI Institute (RAI).

Les lignes directrices spécifiques aux investisseurs comprennent le Responsible AI Playbook for Investors du WEF, le Ethics and Artificial Intelligence in Investment Management du CFA Institute et le Guiding Framework for Responsible AI Integration Into ESG Paradigms de la RAI, qui s'attaque plus particulièrement à l'investissement durable.

Ces principes et orientations visent à empêcher l'IA d'amplifier des problèmes tels que la partialité et la désinformation, ou de permettre des préjudices tels que la surveillance de masse et les violations des droits de l'homme. Ils mettent l'accent sur la responsabilité, en exigeant la transparence sur les personnes qui déploient l'IA et sur celles qui sont responsables de ses résultats.

Nous assistons également à l'émergence de discussions sur les meilleures pratiques en matière de politique d'IA, notamment à la suite de la ratification de la loi européenne sur l'IA. Nous nous attendons à ce que davantage de réglementations visent à régir l'IA et nous voyons émerger des idées politiques fortes qui se concentrent sur l'équilibre entre l'innovation et la gestion des risques, la création de bacs à sable pour les essais, l'adaptation des règles par secteur et la garantie d'une interopérabilité transfrontalière alignée sur les principes de l'OCDE en matière d'IA.

Gérer les risques environnementaux de l'IA

L'IA a le potentiel d'accélérer les progrès vers les objectifs mondiaux en matière de climat et de nature. Cependant, l'IA pose également des défis environnementaux qui doivent être gérés.

L'utilisation de l'électricité et de l'eau est la plus importante.

Les centres de données, essentiels à l'infrastructure de l'IA, représentent 2 à 4 % de la consommation d'électricité dans les grandes économies telles que les États-Unis, la Chine et l'UE - un chiffre qui devrait augmenter avec la demande croissante en matière d'IA. De même, les systèmes d'IA ont besoin d'une quantité importante d'eau, les estimations prévoyant qu'ils pourraient nécessiter jusqu'à 6,6 milliards de m³ de prélèvement d'eau au niveau mondial d' ici à 2027, soit plus de la moitié de la consommation annuelle d'eau du Royaume-Uni. En raison de leurs investissements dans l'IA, des acteurs technologiques comme Microsoft et Google ont vu leurs émissions de gaz à effet de serre augmenter de 30 à 50 %, en dépit de leurs engagements en faveur d'une consommation nette zéro.

Les investisseurs jouent un rôle clé dans la gestion de ces risques. La consommation d'électricité de l'IA devrait de plus en plus reposer sur les énergies renouvelables, c'est pourquoi les entreprises technologiques investissent massivement dans les énergies sans carbone. Citons par exemple le partenariat de Microsoft avec Énergie renouvelable Brookfield et les investissements récents d'Amazon et de Google dans de petits réacteurs nucléaires destinés à produire de l'énergie propre.

L'utilisation de l'eau doit également être réduite au minimum grâce à des systèmes en circuit fermé et à des pratiques durables, en veillant à ce qu'elle ne soit pas détournée des besoins humains essentiels et à ce que les eaux usées soient gérées en toute sécurité et réutilisées, par exemple dans les systèmes de chauffage locaux.

Pour réduire l'impact sur l'environnement, les modèles d'IA doivent également être efficaces en termes de ressources et adaptés à des cas d'utilisation spécifiques - les modèles d'IA génératifs ne sont pas toujours nécessaires lorsque des modèles plus simples et moins gourmands en ressources suffisent. L'IA contribue notamment à atténuer sa propre empreinte environnementale. L'IA DeepMind de Google, par exemple, optimise l'utilisation de l'énergie dans ses centres de données et a permis de réduire de 40 % la consommation d'énergie pour le^{refroidissement6}.

Enfin, la gestion environnementale responsable de l'IA nécessite un approvisionnement durable en matériaux pour les centres de données et le matériel. Les métaux des terres rares, comme le lithium et le cobalt, sont essentiels à l'IA mais comportent des risques environnementaux et humains s'ils sont exploités de manière irresponsable. En outre, le matériel d'IA utilise souvent des produits chimiques toxiques et des métaux lourds tels que le plomb, le cadmium et le mercure. S'ils ne sont pas éliminés correctement, ces produits peuvent s'infiltrer dans le sol et l'eau.

Gérer les risques sociaux de l'IA

Les avantages sociaux potentiels de l'IA - allant de nouveaux traitements médicaux à un meilleur accès à l'éducation - sont importants, bien que souvent moins discutés que les impacts environnementaux.

Une étude publiée dans Nature Journal en 2020 a révélé que l 'IA pourrait contribuer de manière positive à 134 des 169 (79 %) objectifs de développement durable des Nations unies (figure 3)^7.

Toutefois, il a également averti que les risques sociaux liés à l'IA pourraient entraver la réalisation de 59 des 169 (35 %) ODD si elle n'est pas gérée de manière judicieuse^.8 Certains de ces problèmes recoupent les questions de gouvernance décrites ci-dessus. Par exemple, l'IA risque d'exacerber les préjugés ou les traitements injustes dans les processus de recrutement.

Figure 3 : Impacts positifs et négatifs de l'IA sur la réalisation d'un échantillon d'ODD

Source : Nature Journal
Note : L'échantillon est basé sur les 9 ODD "liés à la société" uniquement : Échantillon basé sur les 9 ODD "liés à la société" uniquement.

L'une des principales préoccupations sociales liées à l'IA est son impact sur le marché du travail.

Si l'IA va stimuler la productivité et créer de nouveaux rôles, McKinsey prévoit que d'ici 2030, des activités représentant jusqu'à 30 % des heures actuellement travaillées dans l'économie américaine pourraient être automatisées en raison de l'accélération de l'utilisation de l'IA générative.
Tout comme pour le changement climatique, cette évolution nécessitera une "transition juste", les gouvernements et les entreprises investissant dans la formation pour aider les travailleurs à s'adapter.

Même si ce n'est pas tout, il y a quelque chose à dire sur le point souvent cité que "l'IA ne va pas prendre votre emploi, mais quelqu'un qui sait comment utiliser l'IA le fera".

Il est encourageant de constater que l'éthique et la gouvernance de l'IA sont déjà intégrées dans les programmes des universités et des instituts techniques concernés. Les gouvernements, les ONG et les établissements d'enseignement doivent multiplier les campagnes de sensibilisation du public afin de doter les citoyens des connaissances nécessaires pour gérer les risques liés à l'IA.

Un aide-mémoire sur l'IA pour les investisseurs

Les investisseurs institutionnels surveillent déjà de près les risques ESG de l'IA. Une récente enquête du Capital Group auprès de plus de 1 000 investisseurs institutionnels montre que ces risques sont considérés comme importants dans différentes régions et sur différents sujets. La protection des données et de la vie privée apparaît comme la principale préoccupation, tandis que d'autres questions de gouvernance, environnementales et sociales sont considérées comme importantes par au moins la moitié des personnes interrogées dans une ou plusieurs régions du monde^.9

Pour aider les investisseurs à relever ces défis, la figure 4 présente les principaux risques et les mesures d'atténuation. Ces mesures peuvent être appliquées lors de l'utilisation de l'IA ou servir de critères lors de l'évaluation des investissements dans les entreprises qui développent ou déploient l'IA.

Figure 4 : Principaux risques ESG de l'IA pour les investisseurs durables et les stratégies de gestion

Gouvernance

Risques

• Rôles et responsabilités mal définis
• Hallucinations des modèles GenAI
• Violations de la confidentialité et de la sécurité des données
• Biais
• Manque de transparence et d'explication

Stratégies d'atténuation

• Attribuer une responsabilité et un contrôle clairs (au niveau opérationnel et au niveau du conseil d'administration).
• Appliquer des modèles d'IA judicieux, spécifiques à un cas d'utilisation, et avec les garde-fous appropriés (par exemple, les humains sont dans la boucle le cas échéant).
• Garantir la confidentialité, l'anonymisation et la sécurité des données, en obtenant des certifications appropriées et reconnues, et en appliquant la législation existante et à venir (y compris la loi européenne sur l'IA).
• Tester en permanence les modèles d'IA pour s'assurer qu'ils restent résistants aux cybermenaces et qu'ils fonctionnent correctement.
• Sélectionnez vos ensembles de données de manière appropriée et équitable afin qu'ils représentent réellement la population d'utilisateurs que vous servez.
• Mettre en place des garde-fous contre les hallucinations, par exemple en fournissant des références.
• Offrir la transparence des sources de données, de la conception du modèle, des facteurs utilisés et de l'approche d'apprentissage.
• Vérifier la capacité d'explication, car elle est essentielle et juridiquement requise dans différentes juridictions.

Environnement

Risques

• La forte consommation d'électricité entraîne des émissions de CO2
• Consommation d'eau élevée
• Déchets chimiques provenant de l'élimination de matériel ancien
• Impact minier dû au cuivre et à d'autres matières premières spécifiques nécessaires aux centres de données

Stratégies d'atténuation

• Sélectionner et stimuler la croissance des énergies renouvelables.
• Gérer les ressources en eau de manière à garantir une utilisation circulaire (par exemple pour le chauffage des habitations), à limiter les dommages causés à d'autres consommateurs d'eau (humains ou agricoles) et à limiter les dommages causés à la biodiversité (par exemple en évitant de jeter de l'eau chaude dans les habitats).
• Sélectionnez des modèles conçus pour des cas d'utilisation spécifiques, en limitant le gaspillage et en optimisant l'utilisation de l'énergie.
• Choisir du matériel et des puces qui permettent de réaliser des économies d'énergie.
• Assurer un suivi adéquat de la chaîne d'approvisionnement afin de garantir que les produits de base proviennent de mines responsables.
• Superviser l'élimination correcte des déchets toxiques.

Social

Risques

• Déplacement d'emploi
• Risque d'exacerbation des préjugés et de la discrimination
• Violations de la confidentialité et de la sécurité des données

Stratégies d'atténuation

• S'engager avec les gouvernements et les organismes de réglementation pour s'assurer que nous concevons des politiques pour une transition juste.
• Veiller à ce que les modèles soient vérifiés et révisés régulièrement afin d'éviter toute partialité, en particulier en ce qui concerne le recrutement et la santé.
• Proposer des programmes de formation et d'éducation au personnel, à la chaîne d'approvisionnement et aux utilisateurs finaux.
• Investir dans des programmes de requalification pour aider les employés à passer à des rôles qui complètent l'IA, comme la supervision et la stratégie.
• Promouvoir la collaboration entre l'homme et l'IA en se concentrant sur l'utilisation de l'IA comme un outil permettant d'améliorer la prise de décision humaine plutôt que de la remplacer entièrement.
• Adopter les mesures de gouvernance décrites ci-dessus.

Le retard n'est pas une option

Qu'est-ce que cela signifie pour les investisseurs durables ?

L'IA peut améliorer les décisions d'investissement tout au long du cycle du portefeuille - de la collecte des données à l'établissement des rapports - et transformer les résultats financiers et de durabilité de leur activité d'investissement. Mais ce n'est pas gratuit. Les investisseurs doivent se prémunir contre l'utilisation et l'investissement dans l'IA en concevant leur propre approche de la gestion des risques.

Le point de départ consiste à établir une responsabilité et une gouvernance pour superviser la stratégie et la mise en œuvre de l'IA, en utilisant des principes tels que les principes de l'OCDE en matière d'IA, en s'alignant sur les nouveaux cadres et réglementations, et en équilibrant la gestion des risques et l'innovation.

Elles doivent également s'attaquer aux risques environnementaux et sociaux de l'IA, par exemple en utilisant des modèles et des puces à faible consommation d'énergie, en choisissant une IA qui s'appuie sur des centres de données alimentés par des énergies renouvelables et en investissant dans la formation à l'IA du personnel technique et non technique, tout en soutenant une "transition juste" de l'IA.

Le retard n'est pas une option. La technologie se développe à grande vitesse et les investisseurs institutionnels qui ne font pas leurs premiers pas risquent d'être distancés.

Références

1. Atkin, David. "Rencontrer les investisseurs là où ils se trouvent : PRI Launches New Strategy". Principes pour l'investissement responsable. Consulté le 4 novembre 2024. https://www.unpri.org/pri-blog/meeting-investors-where-theyre-at-pri-launches-new-strategy/12636.article.
2. L'IA sur le changement climatique est une bonne ressource pour explorer le potentiel de l'IA, en particulier de l'apprentissage automatique, dans la lutte contre le changement climatique.
3. Institut des ressources mondiales. "Global Forest Watch aide les peuples indigènes à réduire la déforestation". Consulté le 4 novembre 2024. https://www.wri.org/outcomes/global-forest-watch-helps-indigenous-peoples-reduce-deforestation?t.
4. BloombergNEF. "Siemens affirme que l'IA peut accroître les bénéfices des centrales électriques de 20 % : Q&A." Consulté le 4 novembre 2024. https://about.bnef.com/blog/siemens-says-ai-can-boost-power-plant-profit-20-qa/?t.
5. Fil de presse. "IBM étend l'initiative Horizons verts à l'échelle mondiale pour relever les défis pressants en matière d'environnement et de pollution". 9 décembre 2015. Consulté le 4 novembre 2024. https://www.newswire.ca/news-releases/ibm-expands-green-horizons-initiative-globally-to-address-pressing-environmental-and-pollution-challenges-561197251.html?t.
6. DeepMind. "DeepMind AI réduit de 40 % la facture de refroidissement du centre de données de Google. 20 juillet 2016. Consulté le 4 novembre 2024. https://deepmind.google/discover/blog/deepmind-ai-reduces-google-data-centre-cooling-bill-by-40/?t. 
7. Rolnick, David, Priya L. Donti, Lynn H. Kaack, Kelly Kochanski, Alexandre Lacoste, Kris Sankaran, Andrew Slavin Ross, et al. "Tackling Climate Change with Machine Learning". Nature Communications 11, no. 1 (2020) : Article 132. https://www.nature.com/articles/s41467-019-14108-y.
8. Ibid.
9. Jessica Ground. "L'essor de l'IA et de l'ESG". Capital Groupconsulté le 8 novembre 2024. https://www.capitalgroup.com/institutions/fr/en/insights/articles/the-rise-of-ai-and-esg.html.