Conciliare rischi e opportunità dell’intelligenza artificiale: una valutazione complessiva per gli investitori

408 pagine, a due colonne: cosa rivela il documento S-1 di Anthropic

Gli investitori stanno esaminando attentamente il prospetto S-1 di Anthropic in vista della più grande IPO della storia. Lo scopo del documento è valutare l’opportunità di un investimento a fronte del relativo rischio. Tuttavia, i primi resoconti suggeriscono che i lettori stiano dedicando la maggior parte del loro tempo a una sola di queste due colonne. Delle sue 408 pagine, nessuna sezione occupa più spazio di quella dedicata al rischio. I lettori del prospetto S-1, così come di quasi tutti i commenti sull’intelligenza artificiale, rischiano di trascurare il compito più arduo e al tempo stesso più necessario: valutare i rischi e le opportunità dell’IA nel loro insieme, anziché uno alla volta.

Per quanto il mondo dell’intelligenza artificiale si sia guadagnato la reputazione di essere teatro di polemiche e giochi politici, questo è un documento di grande rilevanza, non un post su un blog né un saggio di alto livello. Costituisce la base per decisioni che comportano miliardi di dollari. Si tratta di un obbligo normativo, volto a fornire agli investitori informazioni rilevanti, accurate e trasparenti per valutare i rischi e le opportunità associati a un investimento.

La scienza che analizza parallelamente le opportunità e i rischi dell’intelligenza artificiale è una disciplina rara, spesso compromessa dalla nostra tendenza umana a concentrarci sugli estremi. Tuttavia, è una scienza che sia gli investitori che la società nel suo complesso devono abbracciare, non solo per valutare le aziende che operano nel settore dell’intelligenza artificiale, ma anche per comprendere le ampie potenzialità che derivano dai loro centri dati.

Il problema della “colonna singola”: perché i resoconti sull’intelligenza artificiale riportano i rischi o le opportunità, ma non entrambi

Il dibattito pubblico tende a concentrarsi su un unico aspetto alla volta: i rischi o le opportunità. Sono rari i discorsi che lasciano spazio a entrambi. Anche un ottimista incallito ammetterebbe che gli estremi fanno notizia. A complicare ulteriormente le cose: i trilioni di dollari ammucchiati sul proverbiale tavolo fanno sì che nessuna delle parti sia disinteressata.

Per non cadere nella trappola del “pregiudizio di recency”, è bene ricordare che le nuove tecnologie non si presentano mai sotto una sola luce. Le tecnologie trasformazionali vanno oltre la classificazione binaria in “buone” o “cattive”; non occorre sforzarsi per trovare esempi storici.

• La macchina da stampa ha permesso la produzione in serie del Malleus Maleficarum e ha alimentato un secolo di guerre di religione.
  • Ha inoltre diffuso la conoscenza scientifica e l'alfabetizzazione tra le masse.
• Il processo Haber-Bosch fornì alla Germania della Prima guerra mondiale i nitrati necessari alla produzione di esplosivi.
  • Ha inoltre reso possibile la produzione di fertilizzanti sintetici e ha sfamato metà della popolazione mondiale.
• Internet diffonde discorsi di incitamento all'odio, truffe su larga scala e informazioni fuorvianti.
  • Inoltre, mette in contatto più di sei miliardi di persone con il patrimonio del sapere umano e le une con le altre.

Ma c’è una differenza evidente tra questo momento e quegli esempi storici: il tempo ha riempito quei registri. Come disse famigeratamente Steve Jobs: «Si possono collegare [i punti] solo guardando indietro». Gutenberg e i suoi contemporanei non potevano sapere che quella stessa macchina avrebbe diffuso manuali per la caccia alle streghe e guerre di religione, mentre contemporaneamente avrebbe favorito l’alfabetizzazione di massa e alimentato la Rivoluzione Scientifica. I primi tempi di Internet venivano presentati come sinonimo di connessione e conoscenza. Le truffe su larga scala e la disinformazione sono apparse sul registro molto più tardi.

Al ritmo frenetico con cui procediamo, nessuno può tenere il conto di ogni voce nel registro dell’IA. Questo articolo non tenterà di farlo. È invece più utile cercare di capire come le due colonne, rischi e opportunità, siano correlate tra loro. Tale analisi rivela una verità fondamentale: quasi ogni voce ha una sua controparte nell’altra colonna.

Due fiori dello stesso ramo: come i rischi e le opportunità dell’IA sono correlati

Questa correlazione non è casuale: le opportunità e i rischi legati all’intelligenza artificiale sono strettamente correlati, poiché derivano dallo stesso ambito di competenze. Pertanto, rischi e opportunità crescono di pari passo.

Se si osserva praticamente qualsiasi innovazione rivoluzionaria, si può notare lo stesso schema. I modelli in grado di comprendere le proteine possono progettare vaccini. La stessa comprensione può aiutare qualcuno a creare un agente patogeno letale. I modelli che individuano vulnerabilità nel software consentono ai responsabili della sicurezza di correggerle più rapidamente. Allo stesso tempo, consentono anche agli hacker di sfruttarle più rapidamente. Un agente di intelligenza artificiale che agisce in autonomia può sbrigare il lavoro amministrativo di un’intera giornata. Può però anche compiere azioni potenzialmente distruttive che non sono state approvate.

Non è possibile ridurre il rischio senza ridurre anche le opportunità. Questo ci riduce al ruolo di giardinieri di un unico ramo, e il primo istinto di un giardiniere è quello di potare. La potatura elimina effettivamente il rischio, ma di conseguenza elimina anche il beneficio. Conciliare le opportunità e i rischi dell’IA significa curare il ramo in modo che il beneficio superi il rischio.

Ci sono due fattori che rendono possibile tutto ciò. Innanzitutto, l’attenzione sia all’interno che all’esterno del modello: screening, sandbox, intervento umano (humans-in-the-loop), vincoli fisici del sistema (ne parleremo meglio tra poco). In secondo luogo, la capacità che genera un rischio è spesso lo strumento migliore per mitigarlo.

La biologia, una delle capacità dell’IA più frequentemente citate nei discorsi su P(doom) (la probabilità che l’IA provochi una catastrofe) a causa della potenziale portata del disastro associato, rappresenta quella che potrebbe essere la più impegnativa tra tutte le diadi rischio-opportunità sopra menzionate. OpenAI, Anthropic, xAI e Google DeepMind hanno tutte affrontato i potenziali aspetti negativi della propensione dell’IA alla ricerca biologica integrando misure di sicurezza nei propri sistemi, alcune in modo più solido rispetto ad altre. Infatti, nel corso delle ricerche per questo articolo, il classificatore di Claude mi ha declassato da Opus 5.5 a Opus 4.8 in tre occasioni. 

Sono passato a Opus 4.8 Modifica e riprova con Opus 5.5

I meccanismi di protezione di Opus 5.5 hanno segnalato questo messaggio. Potresti visualizzarlo per la prima volta su un modello Opus: Opus 5.5 è più potente e, di conseguenza, dispone di meccanismi di protezione più rigorosi, che a volte possono segnalare attività correlate alla ricerca biologica. Stiamo migliorando questi meccanismi di protezione per ridurre il numero di messaggi segnalati erroneamente. Invia un feedback o scopri di più.

Dettagli: [biografia]

Ciò è utile nella misura in cui crea ostacoli per i potenziali malintenzionati, ma è insufficiente in quanto non servirà a scoraggiare un aggressore dotato di un minimo di perseveranza. Come sostengono O.H. Scharfman e Will Bellamy, i modelli a peso aperto sono in ritardo rispetto alla frontiera di meno di un anno e possono essere eseguiti in modo privato, senza essere vincolati dalle restrizioni imposte dalle misure di sicurezza dei laboratori all’avanguardia. Pertanto, la maggiore leva d’azione risiede al di fuori dei modelli, in punti nevralgici fisici come lo screening KYC presso i fornitori di sintesi del DNA e i sistemi di allerta precoce che analizzano le acque reflue e i campioni clinici alla ricerca di minacce prima che queste si diffondano. L’intelligenza artificiale rende possibili entrambi questi approcci ed è sostenuta dal fatto che i difensori, secondo le parole di Bellamy e Scharfman, «hanno generalmente maggiore accesso a capitali, ricerca, infrastrutture e personale qualificato».

Sovrapponendo questo approccio alla lettura del rischio basata su un unico criterio, si capisce cosa c’è in gioco. Se ci limitiamo a considerare solo il rischio, la nostra reazione sarà quella di smantellare il modello. Così facendo, rinunciamo ai progressi biologici associati a progetti come AlphaFold (utilizzato da oltre 3 milioni di ricercatori per ridurre di anni il lavoro di laboratorio) e ai vaccini potenziati dall’intelligenza artificiale che stanno già superando le sperimentazioni sull’uomo. Il tutto senza riuscire comunque a respingere gli attacchi sferrati da chi utilizza modelli a peso aperto.

La risposta cambia quando si valutano contemporaneamente entrambe le colonne. Anziché optare per un modello più debole, è meglio rafforzare le difese attorno a uno già valido. Anziché potare il ramo, è meglio investire più tempo e risorse nella sua cura. Si tratta di una scelta, e qualcuno deve pur farla.

La finanza come custode: come gli investitori influenzano lo sviluppo dell’IA

Il settore finanziario si trova in una posizione privilegiata per influenzare tale decisione. Il documento S-1 di Anthropic è una rarità proprio perché la legge lo impone. La normativa obbliga gli emittenti a esporre entrambi i lati della medaglia, rischi e opportunità, nello stesso documento, sottoposto a revisione contabile e firmato. Quasi nient’altro in questa saga sull’IA viene presentato in questo modo. I successi ottengono comunicati stampa e video dimostrativi scintillanti, i fallimenti ottengono titoli in grassetto e mani che si torcono. Ciascuno ci arriva come una singola colonna.

Spetta quindi al lettore il difficile compito di ricomporre il quadro. Fortunatamente, nel mondo della finanza, è il lettore ad avere in mano le leve. Decidendo dove allocare il capitale, come esercitare i diritti di voto e quali informazioni le società devono rendere pubbliche, gli investitori possono determinare quale destino avranno questi rami contorti e i loro fiori in conflitto tra loro.

Ci sono voluti secoli per compilare quei primi registri delle tecnologie rivoluzionarie. Di fronte al ritmo frenetico dell’intelligenza artificiale e al nostro immenso accesso alle informazioni, non possiamo permetterci quel lusso, né addurre quella scusa. Gli investimenti, i voti e l’attivismo di oggi sono la storia di domani. Gli investitori non possono aspettare che i puntini si uniscano da soli: devono essere loro a collegarli.

Il mandato di riconciliazione: valutare insieme i rischi e le opportunità dell’IA

Non siamo ancora in grado di esaminare a fondo il bilancio complessivo dell’IA. A meno che l’IA non acceleri i progressi della scienza della longevità, probabilmente non avremo questa opportunità nel corso della nostra vita. Ma la storia ci insegna come interpretare tali bilanci. La stampa ha portato con sé la rivoluzione scientifica e i processi alle streghe; il processo Haber-Bosch ha sfamato il mondo e armato il Kaiser. Il nostro senno di poi non cancella nessuna delle due voci dal registro. Ci insegna a tenerle entrambe in considerazione allo stesso tempo.

L’intelligenza artificiale non aspetterà che si possa guardare indietro con il senno di poi. Quindi la disciplina che il documento S-1 di Anthropic impone per legge, dobbiamo imporla noi per abitudine. Questa è la valutazione complessiva . Non è un verdetto che emettiamo una volta che la polvere si è posata, ma piuttosto un equilibrio che raggiungiamo mentre la situazione è ancora in evoluzione. Osservate i rischi e reagite ad essi, ma occupatevi anche di ciò che cresce al loro fianco.