KI-Risiken und -Chancen in Einklang bringen: Eine Gesamtbewertung für Anleger

408 Seiten, zweispaltig: Was das S-1-Formular von Anthropic verrät

Investoren studieren den S-1-Prospekt von Anthropic eingehend, in Erwartung des größten Börsengangs der Geschichte. Das Dokument dient dazu, die Chancen einer Investition gegen deren Risiken abzuwägen. Erste Berichte deuten jedoch darauf hin, dass die Leser den Großteil ihrer Zeit mit einer dieser Spalten verbringen. Von den 408 Seiten wird keinem Abschnitt mehr Platz eingeräumt als dem Thema Risiko. Leser des S-1-Prospekts – und fast aller Kommentare zum Thema KI – laufen Gefahr, die Arbeit zu vernachlässigen, die sowohl am schwierigsten als auch am notwendigsten ist: die Risiken und Chancen der KI gemeinsam zu bewerten, anstatt sie einzeln zu betrachten.

So sehr die KI-Branche auch für ihre Dramatik und ihre politischen Machenschaften bekannt ist, handelt es sich hierbei um ein äußerst gewichtiges Dokument – nicht um einen Blogbeitrag oder einen hochgestochenen Essay. Es dient als Grundlage für Entscheidungen in Milliardenhöhe. Es handelt sich um eine gesetzliche Verpflichtung, die darauf abzielt, Anlegern wesentliche, genaue und transparente Informationen zur Verfügung zu stellen, damit diese die mit einer Investition verbundenen Risiken und Chancen bewerten können.

Die Wissenschaft, die Chancen und Risiken der KI nebeneinander zu analysieren, ist eine seltene Disziplin, die häufig durch unsere menschliche Neigung zu extremen Sichtweisen untergraben wird. Dennoch ist es eine Wissenschaft, die sowohl Investoren als auch die Gesellschaft insgesamt nicht nur bei der Bewertung von KI-Unternehmen, sondern auch beim Verständnis der vielfältigen Möglichkeiten, die sich aus deren Rechenzentren ergeben, berücksichtigen müssen.

Das Problem der einseitigen Berichterstattung: Warum KI-Berichte entweder Risiken oder Chancen thematisieren – nicht beides

In der öffentlichen Debatte wird meist nur ein Aspekt beleuchtet: entweder die Risiken oder die Chancen. Selten lassen solche Diskussionen Raum für beides. Selbst ein unverbesserlicher Optimist wird zugeben, dass Extreme bessere Schlagzeilen liefern. Was die Sache noch komplizierter macht: Die Billionen Dollar, die auf dem sprichwörtlichen Tisch liegen, sorgen dafür, dass keine Partei unparteiisch ist.

Um nicht der Torheit des „Recency-Bias“ zum Opfer zu fallen, sollten wir bedenken, dass neue Technologien niemals nur eine einzige Facette haben. Transformative Technologien lassen sich nicht einfach in „gut“ oder „schlecht“ einordnen; nach historischen Beispielen muss man nicht lange suchen.

• Die Druckerpresse ermöglichte die Massenproduktion der Malleus Maleficarum und schürte ein Jahrhundert lang Religionskriege.
  • Außerdem trug es dazu bei, wissenschaftliche Erkenntnisse und Bildung in der breiten Bevölkerung zu verbreiten.
• Das Haber-Bosch-Verfahren versorgte Deutschland im Ersten Weltkrieg mit Nitraten für die Herstellung von Sprengstoff.
  • Außerdem ermöglichte es die Herstellung von Kunstdünger und ernährte die Hälfte der Weltbevölkerung.
• Im Internet werden Hassreden, groß angelegte Betrugsmaschen und irreführende Informationen verbreitet.
  • Außerdem verbindet es mehr als sechs Milliarden Menschen mit dem gesamten menschlichen Wissen und untereinander.

Doch es gibt einen offensichtlichen Unterschied zwischen der heutigen Zeit und diesen historischen Beispielen: Die Zeit hat diese Bilanzen ausgefüllt. Wie Steve Jobs so treffend sagte: „Man kann [die Punkte] erst im Rückblick miteinander verbinden.“ Gutenberg und seine Zeitgenossen konnten nicht ahnen, dass dieselbe Maschine Handbücher zur Hexenjagd und zu Religionskriegen verbreiten würde, während sie gleichzeitig die Alphabetisierung der Massen vorantrieb und die wissenschaftliche Revolution befeuerte. Das frühe Internet wurde als Mittel der Vernetzung und des Wissens angepriesen. Groß angelegte Betrugsmaschen und Desinformation tauchten erst viel später in der Bilanz auf.

Bei unserem rasanten Tempo kann niemand jeden Eintrag im AI-Register erfassen. Dieser Beitrag wird dies auch nicht versuchen. Sinnvoller ist es vielmehr, zu verstehen, wie die beiden Spalten – Risiken und Chancen – miteinander in Zusammenhang stehen. Diese Analyse offenbart eine entscheidende Erkenntnis: Fast jeder Eintrag hat sein Gegenstück in der anderen Spalte.

Zwei Blüten desselben Zweigs: Wie KI-Risiken und -Chancen miteinander zusammenhängen

Diese Verbindung ist kein Zufall; Chancen und Risiken der KI hängen eng miteinander zusammen und entspringen demselben Kompetenzbereich. Daher entwickeln sich Risiken und Chancen Hand in Hand.

Betrachtet man fast jeden Durchbruch, lässt sich dasselbe Muster erkennen. Modelle, die Proteine verstehen, können Impfstoffe entwickeln. Dasselbe Verständnis kann jemandem helfen, einen tödlichen Erreger zu erschaffen. Modelle, die Softwarefehler aufspüren, ermöglichen es den Verteidigern, diese schneller zu beheben. Sie versetzen aber auch Angreifer in die Lage, sie schneller auszunutzen. Ein eigenständig handelnder KI-Agent kann die Verwaltungsarbeit eines ganzen Tages erledigen. Er kann aber auch potenziell zerstörerische Handlungen ausführen, denen Sie nicht zugestimmt haben.

Man kann Risiken nicht verringern, ohne gleichzeitig Chancen zu schmälern. Damit bleiben wir Gärtner eines einzigen Astes, und der erste Instinkt eines Gärtners ist es, zu beschneiden. Durch das Beschneiden wird zwar das Risiko beseitigt, doch damit geht auch der Nutzen verloren. Um die Chancen und Risiken der KI in Einklang zu bringen, muss man den Ast so pflegen, dass der Nutzen das Risiko übersteigt.

Zwei Dinge machen dies möglich. Erstens: Maßnahmen innerhalb und außerhalb des Modells: Screening, Sandkästen, „Humans-in-the-Loop“, physikalische Systembeschränkungen (dazu gleich mehr). Zweitens: Die Fähigkeit, die ein Risiko verursacht, ist häufig das beste Mittel, um dieses Risiko zu mindern.

Die Biologie – eine der KI-Fähigkeiten, die in Diskussionen über P(doom) (die Wahrscheinlichkeit, dass KI eine Katastrophe auslöst) aufgrund des potenziellen Ausmaßes der damit verbundenen Katastrophe am häufigsten genannt wird – stellt möglicherweise die größte Herausforderung unter allen oben genannten Risiko-Chance-Paaren dar. OpenAI, Anthropic, xAI und Google DeepMind haben sich alle mit den potenziellen negativen Auswirkungen der Neigung der KI zur biologischen Forschung auseinandergesetzt, indem sie Sicherheitsvorkehrungen in ihre Systeme integriert haben – einige davon robuster als andere. Tatsächlich stufte mich der Klassifikator von Claude im Zuge der Recherchen für diesen Artikel dreimal von Opus 5,5 auf Opus 4,8 herab. 

Auf Opus 4.8 umgestellt Bearbeiten und mit Opus 5.5 erneut versuchen

Die Sicherheitsvorkehrungen von Opus 5.5 haben diese Nachricht als verdächtig markiert. Möglicherweise sehen Sie diese Meldung zum ersten Mal bei einem Opus-Modell: Opus 5.5 ist leistungsfähiger und verfügt daher über strengere Sicherheitsvorkehrungen, die manchmal auch Arbeiten im Umfeld der Biologieforschung als verdächtig markieren können. Wir arbeiten daran, diese Sicherheitsvorkehrungen zu verbessern, um die Anzahl der fälschlicherweise markierten Nachrichten zu reduzieren. Senden Sie uns Feedback oder erfahren Sie mehr.

Details: [Biografie]

Dies ist insofern nützlich, als es potenziellen böswilligen Akteuren Steine in den Weg legt, reicht jedoch nicht aus, da es einen Angreifer mit einem Mindestmaß an Beharrlichkeit kaum davon abhalten wird. Wie O.H. Scharfman und Will Bellamy argumentieren, liegen Modelle mit offenen Gewichten weniger als ein Jahr hinter der Forschungsfront zurück und können privat betrieben werden, ohne durch die Einschränkungen der Sicherheitsvorkehrungen von Spitzenforschungslabors behindert zu werden. Daher liegt die größte Hebelwirkung außerhalb der Modelle, nämlich in physischen Engpässen wie der KYC-Prüfung bei Anbietern von DNA-Synthese und Frühwarnsystemen, die Abwasser und klinische Proben auf Bedrohungen untersuchen, bevor diese sich ausbreiten. KI macht beide Ansätze möglich und wird durch die Tatsache gestützt, dass die Verteidiger, wie Bellamy und Scharfman es formulieren, „im Allgemeinen besseren Zugang zu Kapital, Forschung, Infrastruktur und qualifiziertem Personal haben“.

Wenn man diesen Ansatz mit der einseitigen Betrachtung des Risikos verknüpft, wird deutlich, was auf dem Spiel steht. Wenn wir nur das Risiko betrachten, wird unsere Reaktion darin bestehen, das Modell zu untergraben. Damit geben wir die biologischen Fortschritte auf, die mit Projekten wie AlphaFold (das von über 3 Millionen Forschern genutzt wird, um die Dauer der Laborarbeit um Jahre zu verkürzen) und KI-gestützten Impfstoffen verbunden sind, die bereits die klinischen Studien am Menschen bestehen. Und das, obwohl wir Angreifer, die offene Gewichtungsmodelle nutzen, nach wie vor nicht abwehren können.

Die Reaktion ändert sich, wenn man beide Spalten gleichzeitig betrachtet. Anstelle eines schwächeren Modells sollte man ein leistungsfähiges Modell durch stärkere Abwehrmechanismen absichern. Anstatt den Zweig zu beschneiden, sollte man mehr Zeit und Ressourcen in seine Pflege investieren. Das ist eine Entscheidung, und jemand muss sie treffen.

Die Finanzwelt als Verwalter: Wie Investoren die Entwicklung der KI beeinflussen

Die Finanzbranche ist in einer einzigartigen Position, diese Entscheidung mitzugestalten. Das S-1-Formular von Anthropic ist eine Seltenheit, weil es gesetzlich vorgeschrieben ist. Die Vorschriften verpflichten Emittenten dazu, beide Seiten der Medaille – Risiken und Chancen – in ein und demselben Dokument darzulegen, das geprüft und unterzeichnet ist. Kaum etwas anderes in dieser KI-Saga wird auf diese Weise gebündelt. Erfolge werden in Pressemitteilungen und glanzvollen Demo-Videos präsentiert, Misserfolge sorgen für fettgedruckte Schlagzeilen und Händeringen. Beides erreicht uns jeweils in einer einzigen Spalte.

Damit bleibt die mühsame Aufgabe der Versöhnung dem Leser überlassen. Glücklicherweise hat der Leser im Finanzbereich Einflussmöglichkeiten. Indem sie entscheiden, wohin Kapital fließt, wie über Aktien abgestimmt wird und welche Informationen Unternehmen offenlegen, können Anleger bestimmen, was mit diesen verdrehten Ästen und ihren rivalisierenden Blüten geschieht.

Es dauerte Jahrhunderte, bis diese frühen Verzeichnisse bahnbrechender Technologien gefüllt waren. Angesichts des rasanten Tempos der KI und unseres immensen Zugangs zu Informationen haben wir weder diesen Luxus noch diese Ausrede. Die heutigen Mittelzuweisungen, Abstimmungen und Aktivismusmaßnahmen sind schon morgen Geschichte. Investoren können nicht darauf warten, dass sich die Punkte von selbst verbinden. Sie müssen sie selbst setzen.

Das Mandat zur Abstimmung: Gemeinsame Bewertung der Risiken und Chancen der KI

Wir können das vollständige Protokoll der KI noch nicht genau unter die Lupe nehmen. Sofern die KI die Langlebigkeitsforschung nicht beschleunigt, werden wir diese Gelegenheit in unserem Leben wahrscheinlich nicht mehr haben. Doch die Geschichte lehrt uns, wie solche Protokolle zu lesen sind. Die Druckerpresse brachte die wissenschaftliche Revolution und die Hexenprozesse mit sich; das Haber-Bosch-Verfahren ernährte die Welt und rüstete den Kaiser auf. Unsere Rückschau streicht keine der beiden Spalten aus der Bilanz. Sie lehrt uns, beides gleichzeitig im Blick zu behalten.

Die KI wird nicht auf die Erkenntnisse im Nachhinein warten. Die Disziplin, die der S-1-Antrag von Anthropic gesetzlich vorschreibt, müssen wir uns daher zur Gewohnheit machen. Das ist die Gesamtbewertung. Es handelt sich nicht um ein Urteil, das wir fällen, sobald sich der Staub gelegt hat, sondern vielmehr um einen Ausgleich, den wir schaffen, solange die Lage noch ungewiss ist. Beobachten Sie die Risiken und reagieren Sie darauf, aber kümmern Sie sich auch um das, was neben ihnen wächst.