Die Grundlagen von KI und ESG: Chancen, Risiken und Governance-Einblicke für institutionelle Anleger

Institutionelle Anleger diversifizieren ihre Portfolios über Tausende von Unternehmen und Wertpapieren weltweit und schaffen so ein Ökosystem mit Millionen von Datenpunkten. Dies bringt anhaltende Herausforderungen in Bezug auf die Qualität und den Umfang dieser Daten und Informationen mit sich, und wie diese in wertvolles Wissen, Weisheit und Handeln umgewandelt werden können. Hier kommt die künstliche Intelligenz ins Spiel, die das Potenzial hat, alle Teile der Wissenspyramide, die jeder Anlageentscheidung zugrunde liegen, grundlegend umzugestalten (siehe Abbildung 2).

Bei der Datenerfassung sind KI und maschinelles Lernen von unschätzbarem Wert, wenn es darum geht, Informationen aus verschiedenen Quellen und Formaten (z. B. Text, Tabellen und Diagramme) zu erfassen und die Zuverlässigkeit der Daten zu verbessern. Diese Qualitätskontrolle ist kein Randthema. Unsere Untersuchung ergab, dass bei drei Datenanbietern, die den Kunden dieselben gemeldeten Emissionsdatenpunkte anboten, die Daten in 13 % der Fälle unterschiedlich waren und eine Diskrepanz von über 20 % aufwiesen.

KI kann auch dazu beitragen, Datenlücken zu schließen, wenn die von den Unternehmen selbst gemeldeten Daten nicht verfügbar sind, und genauere Schätzungen jenseits der Branchendurchschnitte vornehmen, indem vergleichbare und alternative Datensätze wie Nachrichten oder Geodaten verwendet werden. So können KI-Tools jetzt beispielsweise die Menschenrechtsangaben von Unternehmen mit Informationen aus globalen Nachrichten und unabhängigen Quellen überlagern, um zu sehen, ob sie übereinstimmen.

Um Daten in verwertbare Erkenntnisse umzuwandeln, können institutionelle Anleger mit Hilfe von KI-Assistenten nun auf intelligente Weise mit ihren Portfolios über Nachhaltigkeitsthemen kommunizieren. Sie können sich über Datenquellen, Methoden, Leistung und Empfehlungen zur Verbesserung der Ergebnisse erkundigen. Darüber hinaus wird KI eingesetzt, um zukunftsweisende Erkenntnisse zu gewinnen. So haben wir beispielsweise mit Hilfe von KI die Dekarbonisierungspläne der 400 größten Emittenten der Welt analysiert und festgestellt, dass nur 40 % über glaubwürdige Übergangspläne verfügen.

Und schließlich hilft KI den Anlegern bereits dabei, ihren zahlreichen Stakeholdern in verschiedenen Formaten, Stilen und Sprachen Bericht zu erstatten. Am wichtigsten für die Anleger von heute ist vielleicht, dass KI Möglichkeiten bietet, die Compliance-Berichterstattung zu optimieren, die Berichtslast zu verringern und es verantwortungsbewussten Anlegern zu ermöglichen, sich auf ihre Anlageentscheidungen zu konzentrieren.

Abbildung 2: Die Wissenspyramide

PDF-Version herunterladen

Installation der Rauchwarnmelder E, S und G

Die potenziellen Vorteile der KI sind enorm, aber sie sind nicht ohne Risiko.

So wie Rauchmelder unsere Häuser schützen, muss die moderne Wirtschaft Frühwarnsysteme und Leitplanken installieren, die es uns ermöglichen, mit dem Einsatz von KI sicher voranzukommen.

Das bedeutet, dass der potenzielle Missbrauch von KI in den drei Schlüsselbereichen Umwelt-, Sozial- und Governance-Risiken minimiert werden muss. Beginnen wir, wie es bei Investoren oft der Fall ist, mit der Unternehmensführung.

Management der Governance-Risiken von KI

Es gibt viele Faktoren, die bei der Steuerung von KI zu berücksichtigen sind, aber eine einfache Möglichkeit, sie zu erfassen, ist die Verwendung der folgenden Hauptpunkte:

• Rechenschaftspflicht und Aufsicht: Klare Zuweisung der Verantwortung für das Eigentum und die Verwaltung der KI, in die sie investieren oder die sie nutzen. Es sollte nie dazu kommen: "Die KI ist schuld!"
• Desinformation und Halluzinationen: Es muss sichergestellt werden, dass das KI-Modell über die entsprechenden Leitplanken verfügt, um irreführende oder frei erfundene Ergebnisse zu vermeiden.
• Datenschutz und Datensicherheit: Sicherstellen, dass die KI oder der Nutzer, der mit ihr interagiert, keine Daten verwendet, auf die sie keinen autorisierten Zugriff hat.
• Fairness und Nicht-Diskriminierung: Sicherstellen, dass das KI-Modell oder der Algorithmus nicht auf voreingenommenen Daten trainiert wird, die zu einer ungerechten Behandlung oder zum Ausschluss bestimmter Personen oder Gruppen führen können.
• Transparenz und Erklärbarkeit: Es muss sichergestellt werden, dass die Funktionsweise des KI-Modells so offengelegt und erklärt wird, dass es vertrauenswürdig und verständlich ist.

Selbst in den frühen Stadien der KI ist es zu Missständen gekommen, wie das Beispiel von Clearview AI zeigt. Das in den USA ansässige Gesichtserkennungsunternehmen wurde von Regulierungsbehörden im Vereinigten Königreich, in den Niederlanden und anderswo mit Geldstrafen belegt, weil es ohne Zustimmung der Nutzer Milliarden von Bildern aus sozialen Medien gesammelt hatte.

Um diesen Risiken zu begegnen, müssen die Anleger Governance-Grundsätze und Leitlinien für den Umgang mit KI anwenden. Die wichtigsten Grundsätze, an denen sich die Branche orientiert, sind die KI-Grundsätze der OECD. Sie wurden im Mai 2024 aktualisiert, um die neuen Risiken zu erfassen, die durch generative KI-Tools wie ChatGPT und Bard von Google entstehen, und sind der wichtigste Bezugspunkt für alle, die verantwortungsvoll mit KI umgehen wollen.

Darüber hinaus gibt es eine wachsende Zahl von Akteuren, die Leitlinien für das Risikomanagement anbieten, wie The Partnership on AI, AI4People, Future of Life Institute, The Green Digital Finance Alliance (GDFA ) und The Responsible AI Institute (RAI).

Zu den anlegerspezifischen Leitlinien gehören das Responsible AI Playbook for Investors des WEF, Ethics and Artificial Intelligence in Investment Management des CFA Institute und das Guiding Framework for Responsible AI Integration Into ESG Paradigms der RAI, das sich speziell mit nachhaltigen Investitionen befasst.

Diese Grundsätze und Leitlinien sollen verhindern, dass KI Probleme wie Voreingenommenheit und Fehlinformationen verstärkt oder Schaden wie Massenüberwachung und Menschenrechtsverletzungen ermöglicht. Sie betonen die Rechenschaftspflicht und verlangen Transparenz darüber, wer KI einsetzt und wer für ihre Ergebnisse verantwortlich ist.

Wir sehen auch neue Diskussionen über die besten Praktiken für die KI-Politik, insbesondere nach der Ratifizierung des EU-KI-Gesetzes. Wir gehen davon aus, dass es mehr Vorschriften zur Regelung der KI geben wird, und wir sehen starke politische Ideen, die sich auf ein Gleichgewicht zwischen Innovation und Risikomanagement, die Schaffung von Sandkästen für Tests, die Anpassung der Vorschriften an den jeweiligen Sektor und die Gewährleistung der grenzüberschreitenden Interoperabilität im Einklang mit den KI-Grundsätzen der OECD konzentrieren.

Management der Umweltrisiken von AI

KI hat das Potenzial, die Erreichung der globalen Klima- und Naturziele zu beschleunigen. Allerdings birgt die KI auch ökologische Herausforderungen, die es zu bewältigen gilt.

Am auffälligsten ist der Verbrauch von Strom und Wasser.

Auf Rechenzentren, die für die KI-Infrastruktur unerlässlich sind, entfallen 2-4 % des Stromverbrauchs in großen Volkswirtschaften wie den USA, China und der EU - eine Zahl, die mit der steigenden Nachfrage nach KI voraussichtlich noch steigen wird. Schätzungen gehen davon aus, dass bis zum Jahr 2027 weltweit bis zu 6,6 Mrd. m³ Wasser entnommen werden, was mehr als der Hälfte des jährlichen Wasserverbrauchs Großbritanniens entspricht. Aufgrund ihrer Investitionen in KI sind die Treibhausgasemissionen von Technologieunternehmen wie Microsoft und Google um 30 bis 50 % gestiegen, obwohl sie sich verpflichtet haben, ihre Emissionen auf Null zu reduzieren.

Investoren spielen eine Schlüsselrolle beim Management dieser Risiken. Der Stromverbrauch der KI sollte sich zunehmend auf erneuerbare Energien stützen, weshalb Technologieunternehmen massiv in kohlenstofffreie Energie investieren. Beispiele hierfür sind die Partnerschaft von Microsoft mit Brookfield Renewable und die jüngsten Investitionen von Amazon und Google in kleine Kernreaktoren für saubere Energie.

Der Wasserverbrauch sollte auch durch geschlossene Kreislaufsysteme und nachhaltige Praktiken minimiert werden, um zu gewährleisten, dass das Wasser nicht für lebenswichtige menschliche Bedürfnisse abgezweigt wird und dass das Abwasser sicher verwaltet und wiederverwendet wird, zum Beispiel in lokalen Heizsystemen.

Um die Auswirkungen auf die Umwelt zu verringern, sollten KI-Modelle auch ressourceneffizient und auf spezifische Anwendungsfälle abgestimmt sein - generative KI-Modelle sind nicht immer notwendig, wenn einfachere, weniger ressourcenintensive Modelle ausreichen. Die KI trägt dazu bei, ihren eigenen ökologischen Fußabdruck zu verkleinern. Googles DeepMind KI optimiert beispielsweise den Energieverbrauch in seinen Rechenzentren und konnte den Energieverbrauch für die Kühlung um 40 % senken^.6

Schließlich erfordert ein verantwortungsvolles Umweltmanagement der KI eine nachhaltige Beschaffung von Materialien für Rechenzentren und Hardware. Metalle der seltenen Erden wie Lithium und Kobalt sind für die KI unerlässlich, bergen aber bei unverantwortlichem Abbau Risiken für Umwelt und Menschen. Außerdem werden in KI-Hardware häufig giftige Chemikalien und Schwermetalle wie Blei, Kadmium und Quecksilber verwendet. Werden diese nicht ordnungsgemäß entsorgt, können sie in Boden und Wasser gelangen.

Management der sozialen Risiken von AI

Der potenzielle soziale Nutzen der KI - von neuen medizinischen Behandlungen bis hin zu einem verbesserten Zugang zu Bildung - ist bedeutend, wird aber oft weniger diskutiert als die Auswirkungen auf die Umwelt.

Eine 2020 im Nature Journal veröffentlichte Studie ergab, dass KI einen positiven Beitrag zu 134 der 169 (79 %) UN-Ziele für nachhaltige Entwicklung leisten könnte (Abbildung 3)^.7

Sie warnte jedoch auch davor, dass die sozialen Risiken, die mit KI einhergehen, den Fortschritt bei 59 der 169 (35 %) SDGs behindern könnten, wenn sie nicht klug gehandhabt werden^.8 Einige dieser Probleme überschneiden sich mit den oben beschriebenen Governance-Fragen. So besteht zum Beispiel das Risiko, dass KI Vorurteile oder ungerechte Behandlung bei Einstellungsverfahren verschärfen könnte.

Abbildung 3: Positive vs. negative Auswirkungen von KI auf die Erreichung einer Auswahl der SDGs

Quelle: Nature Journal
Anmerkung: Die Stichprobe basiert nur auf den 9 "gesellschaftsbezogenen" SDGs.

Eines der wichtigsten sozialen Anliegen, die im Zusammenhang mit der KI diskutiert werden, sind ihre Auswirkungen auf den Arbeitsmarkt.

Während die KI die Produktivität steigern und neue Aufgaben schaffen wird, prognostiziert McKinsey, dass bis 2030 Tätigkeiten, die bis zu 30 % der derzeit in der US-Wirtschaft geleisteten Arbeitsstunden ausmachen, aufgrund des beschleunigten Einsatzes generativer KI automatisiert werden könnten.
Genau wie beim Klimawandel wird dieser Wandel einen "gerechten Übergang" erfordern, bei dem Regierungen und Unternehmen in die Ausbildung investieren, um die Arbeitnehmer bei der Anpassung zu unterstützen.

Auch wenn dies nicht die ganze Geschichte ist, so ist doch etwas dran an der viel zitierten Aussage, dass "KI nicht Ihren Job übernehmen wird, sondern jemand, der weiß, wie man KI einsetzt".

Erfreulicherweise werden KI-Ethik und -Governance bereits in die Lehrpläne einschlägiger Universitäten und technischer Institute aufgenommen. Wir brauchen mehr davon und mehr öffentliche Aufklärungskampagnen von Regierungen, NGOs und Bildungseinrichtungen, um die Bürger mit dem Wissen auszustatten, das sie brauchen, um die Risiken der KI zu bewältigen.

Ein KI-Spickzettel für Investoren

Institutionelle Anleger beobachten die ESG-Risiken der KI bereits genau. Eine aktuelle Umfrage der Capital Group unter mehr als 1.000 institutionellen Anlegern zeigt, dass diese Risiken über verschiedene Regionen und Themen hinweg als wesentlich angesehen werden. Datenschutz und Privatsphäre stehen an erster Stelle, während andere Governance-, Umwelt- und soziale Themen von mindestens der Hälfte der Befragten in einer oder mehreren Regionen weltweit als wesentlich angesehen werden^.9

Um Investoren bei der Bewältigung dieser Herausforderungen zu unterstützen, werden in Abbildung 4 die wichtigsten Risiken und Maßnahmen zur Risikominderung dargestellt. Diese können beim Einsatz von KI angewandt oder als Kriterien bei der Bewertung von Investitionen in Unternehmen, die KI entwickeln oder einsetzen, verwendet werden.

Abbildung 4: Die wichtigsten ESG-Risiken von KI für nachhaltige Investoren und Management-Strategien

Governance

Risiken

• Unklare Rollen und Verantwortlichkeiten
• Halluzinationen durch GenAI-Modelle
• Verstöße gegen den Datenschutz und die Datensicherheit
• Vorurteil
• Mangelnde Transparenz und Erklärbarkeit

Strategien zur Schadensbegrenzung

• Zuweisung einer klaren Verantwortlichkeit und Aufsicht (auf operativer Ebene und auf Vorstandsebene).
• Anwendung vernünftiger KI-Modelle, die auf den jeweiligen Anwendungsfall zugeschnitten sind und mit den entsprechenden Leitplanken versehen sind (z. B. sind Menschen in den Kreislauf eingebunden, wenn dies erforderlich ist).
• Gewährleistung von Datenschutz, Anonymisierung und Sicherheit, Erlangung ordnungsgemäßer und anerkannter Zertifizierungen und Anwendung bestehender und künftiger Rechtsvorschriften (einschließlich des EU-KI-Gesetzes).
• Kontinuierliche Tests von KI-Modellen, um sicherzustellen, dass sie gegen Cyber-Bedrohungen resistent sind und genau funktionieren.
• Wählen Sie Ihre Datensätze angemessen und fair aus, damit sie die von Ihnen betreute Nutzerpopulation wirklich repräsentieren.
• Vorkehrungen gegen Halluzinationen treffen, z. B. durch Angabe von Referenzen.
• Transparenz der Datenquellen, des Modelldesigns, der verwendeten Faktoren und des Lernansatzes bieten.
• Prüfen Sie die Erklärbarkeit, denn sie ist von zentraler Bedeutung und in verschiedenen Rechtsordnungen gesetzlich vorgeschrieben.

Umwelt

Risiken

• Hoher Stromverbrauch treibt CO2-Emissionen an
• Hoher Wasserverbrauch
• Chemische Abfälle aus der Entsorgung alter Hardware
• Auswirkungen auf den Bergbau aufgrund von Kupfer und anderen spezifischen Rohstoffen, die für Rechenzentren benötigt werden

Strategien zur Schadensbegrenzung

• Auswahl und Förderung des weiteren Wachstums der erneuerbaren Energien.
• Bewirtschaftung der Wasserressourcen, um eine zirkuläre Nutzung zu gewährleisten (z. B. Beheizung von Häusern), die Beeinträchtigung des sonstigen Wasserverbrauchs (durch Menschen oder in der Landwirtschaft) zu begrenzen und die Schädigung der biologischen Vielfalt zu begrenzen (z. B. Vermeidung der Entsorgung von heißem Wasser in Lebensräumen).
• Wählen Sie Modelle, die für bestimmte Anwendungsfälle konzipiert sind, die Verschwendung begrenzen und die Optimierung des Energieverbrauchs vorantreiben.
• Wählen Sie Hardware und Chips, die die Energieeffizienz erhöhen.
• Gewährleistung einer ordnungsgemäßen Verfolgung der Lieferkette, um sicherzustellen, dass die Rohstoffe aus verantwortungsvollen Minen stammen.
• Beaufsichtigung der ordnungsgemäßen Entsorgung von Giftmüll.

Soziales

Risiken

• Arbeitsplatzverlagerung
• Risiko der Verschärfung von Vorurteilen und Diskriminierung
• Verstöße gegen den Datenschutz und die Datensicherheit

Strategien zur Schadensbegrenzung

• Zusammenarbeit mit Regierungen und Regulierungsbehörden, um sicherzustellen, dass wir Maßnahmen für einen gerechten Übergang entwickeln.
• Sicherstellen, dass die Modelle regelmäßig überprüft und überarbeitet werden, um Voreingenommenheit zu vermeiden, insbesondere in Bezug auf Einstellung und Gesundheit.
• Angebot von Schulungs- und Ausbildungsprogrammen für Mitarbeiter, Lieferkette und Endverbraucher.
• Investieren Sie in Umschulungsprogramme, um Mitarbeitern den Übergang zu Rollen zu erleichtern, die KI ergänzen, wie Aufsicht und Strategie.
• Förderung der Zusammenarbeit zwischen Mensch und KI, wobei der Schwerpunkt auf dem Einsatz von KI als Hilfsmittel zur Ergänzung menschlicher Entscheidungen liegt, anstatt diese vollständig zu ersetzen.
• Annahme der oben beschriebenen Governance-Maßnahmen.

Verzögerung ist keine Option

Was bedeutet das alles für nachhaltige Investoren?

KI kann Investitionsentscheidungen über den gesamten Portfoliozyklus hinweg verbessern - von der Datenerfassung bis zur Berichterstattung - und die finanziellen und nachhaltigen Ergebnisse ihrer Investitionstätigkeit verändern. Aber es ist kein kostenloses Mittagessen. Investoren müssen ihre Nutzung von und ihre Investitionen in KI absichern, indem sie ihren eigenen Ansatz für das Risikomanagement entwickeln.

Der Ausgangspunkt ist die Einführung von Rechenschaftspflicht und Governance, um die KI-Strategie und -Implementierung zu überwachen, wobei Grundsätze wie die KI-Prinzipien der OECD anzuwenden sind, die sich an neuen Rahmenwerken und Vorschriften orientieren und ein Gleichgewicht zwischen Risikomanagement und Innovation herstellen.

Sie müssen sich auch mit den ökologischen und sozialen Risiken der KI befassen, indem sie beispielsweise energieeffiziente Modelle und Chips verwenden, sich für KI entscheiden, die auf mit erneuerbaren Energien betriebene Rechenzentren setzt, und in KI-Schulungen für technisches und nichttechnisches Personal investieren und gleichzeitig einen "gerechten Übergang" zur KI unterstützen.

Zögern ist keine Option. Die Technologie entwickelt sich rasant, und institutionelle Anleger, die nicht bald die ersten Schritte unternehmen, laufen Gefahr, den Anschluss zu verlieren.