Conciliar os riscos e as oportunidades da IA: uma avaliação global para os investidores

408 páginas, em duas colunas: o que o documento S-1 da Anthropic revela

Os investidores estão a analisar minuciosamente o prospeto S-1 da Anthropic, na expectativa da maior oferta pública inicial (IPO) da história. O documento destina-se a ponderar a oportunidade de investimento face ao seu risco. No entanto, os primeiros relatos sugerem que os leitores estão a dedicar a maior parte do seu tempo a uma dessas colunas. Das suas 408 páginas, nenhuma secção recebe mais atenção do que a dedicada ao risco. Os leitores do S-1, e de quase todos os comentários sobre IA, correm o risco de negligenciar o trabalho que é simultaneamente o mais difícil e o mais necessário: avaliar os riscos e as oportunidades da IA em conjunto, em vez de um de cada vez.

Por mais que o mundo da IA tenha ganho fama pelo drama e pelas manobras políticas, este é um documento de grande importância, não uma publicação num blogue nem um ensaio de caráter intelectual. Serve de base para decisões que envolvem milhares de milhões de dólares. Trata-se de uma obrigação regulamentar, criada com o objetivo de fornecer aos investidores informações relevantes, precisas e transparentes para avaliarem os riscos e as oportunidades associados a um investimento.

A ciência que analisa em paralelo as oportunidades e os riscos da IA é uma disciplina rara, frequentemente prejudicada pelo nosso preconceito humano em relação a extremos opostos. No entanto, é uma ciência que tanto os investidores como a sociedade em geral devem adotar, não só na avaliação das empresas de IA, mas também na compreensão das amplas capacidades que emanam dos seus centros de dados.

O problema da coluna única: por que razão a cobertura da IA aborda o risco ou a oportunidade, mas não ambos

O debate público tende a abordar apenas um dos aspetos de cada vez: os riscos ou as oportunidades. São raros os discursos que dão espaço a ambos. Até mesmo uma pessoa excessivamente otimista reconhecerá que os extremos dão melhores manchetes. Para complicar ainda mais a situação: os biliões de dólares empilhados sobre a proverbial mesa significam que nenhuma das partes está desinteressada.

Para não cairmos na armadilha do viés de recência, devemos ter em conta que as novas tecnologias nunca se apresentam apenas sob uma única perspetiva. As tecnologias transformacionais transcendem a classificação binária de «bom» ou «mau»; não é preciso esforçar-se muito para encontrar exemplos históricos.

• A imprensa permitiu a produção em massa do Malleus Maleficarum e alimentou um século de guerras religiosas.
  • Além disso, disseminou o conhecimento científico e a alfabetização junto das massas.
• O processo de Haber-Bosch forneceu à Alemanha da Primeira Guerra Mundial nitratos para a produção de explosivos.
  • Além disso, permitiu a produção de fertilizantes sintéticos e alimentou metade da população mundial.
• A Internet divulga discursos de ódio, esquemas fraudulentos em grande escala e informação enganosa.
  • Além disso, liga mais de seis mil milhões de pessoas ao conjunto do conhecimento humano e entre si.

Mas há uma diferença óbvia entre este momento e esses exemplos históricos: o tempo preencheu esses registos. Como disse Steve Jobs na sua famosa frase: «Só se consegue ligar [os pontos] olhando para trás». Gutenberg e os seus contemporâneos não podiam saber que a mesma máquina iria difundir manuais de caça às bruxas e guerras religiosas, ao mesmo tempo que promovia a alfabetização em massa e alimentava a Revolução Científica. A Internet inicial foi apresentada como sinónimo de conexão e conhecimento. Os esquemas fraudulentos em grande escala e a desinformação só apareceram no registo muito mais tarde.

Ao nosso ritmo frenético, ninguém consegue contabilizar todas as entradas no registo da IA. Este artigo não pretende fazê-lo. O exercício mais útil consiste em compreender como as duas colunas — riscos e oportunidades — se relacionam entre si. Essa análise revela uma verdade fundamental: quase todas as entradas têm o seu equivalente na outra coluna.

Duas flores do mesmo ramo: como os riscos e as oportunidades da IA estão interligados

Essa associação não é uma coincidência; as oportunidades e os riscos da IA estão fortemente correlacionados, surgindo do mesmo ramo de capacidades. Assim, os riscos e as oportunidades crescem em paralelo.

Se analisarmos praticamente qualquer avanço, podemos encontrar o mesmo padrão. Os modelos que compreendem as proteínas permitem conceber vacinas. Essa mesma compreensão pode ajudar alguém a criar um agente patogénico letal. Os modelos que detetam falhas de software permitem que os defensores as corrijam mais rapidamente. Também permitem que os atacantes as explorem mais rapidamente. Um agente de IA que atua de forma autónoma pode dar conta do trabalho administrativo de um dia inteiro. Também pode realizar ações potencialmente destrutivas que não foram aprovadas por si.

Não é possível reduzir o risco sem reduzir a oportunidade. Isso deixa-nos na posição de jardineiros de um único ramo, e o primeiro instinto de um jardineiro é podar. A poda elimina o risco, mas, consequentemente, também retira o benefício. Conciliar a oportunidade e o risco da IA significa cuidar do ramo de forma a que o benefício supere o risco.

Há dois fatores que tornam isto possível. Em primeiro lugar, a atenção prestada tanto ao interior como ao exterior do modelo: filtragem, ambientes de teste, intervenção humana no processo e restrições do sistema físico (falaremos mais sobre isso daqui a pouco). Em segundo lugar, a capacidade que cria um risco é, frequentemente, a melhor ferramenta para o atenuar.

A biologia, uma das capacidades da IA mais frequentemente citadas nos discursos sobre P(doom) (a probabilidade de a IA causar uma catástrofe) devido à escala potencial do desastre associado, apresenta o que poderá ser o mais desafiante de todos os pares risco-oportunidade acima mencionados. A OpenAI, a Anthropic, a xAI e a Google DeepMind abordaram, todas elas, os potenciais aspetos negativos da propensão da IA para a investigação biológica, integrando medidas de segurança nos seus sistemas, algumas de forma mais robusta do que outras. De facto, durante a pesquisa para este artigo, o classificador do Claude fez-me descer do Opus 5,5 para o Opus 4,8 em três ocasiões. 

Mudei para o Opus 4.8 Editar e tentar novamente com o Opus 5.5

Os mecanismos de proteção do Opus 5.5 sinalizaram esta mensagem. É possível que esteja a ver isto pela primeira vez num modelo Opus: o Opus 5.5 é mais avançado e, por isso, possui mecanismos de proteção mais rigorosos, o que, por vezes, pode levar à sinalização de trabalhos relacionados com a investigação biológica. Estamos a aperfeiçoar esses mecanismos para reduzir o número de mensagens sinalizadas incorretamente. Envie os seus comentários ou saiba mais.

Detalhes: [biografia]

Isto é útil na medida em que cria obstáculos para potenciais agentes mal-intencionados, mas é insuficiente, na medida em que pouco contribuirá para desviar qualquer atacante com um mínimo de perseverança. Como argumentam O.H. Scharfman e Will Bellamy, os modelos de peso aberto ficam atrás da vanguarda em menos de um ano e podem ser executados de forma privada, sem as restrições impostas pelas medidas de segurança dos laboratórios de vanguarda. Assim, a maior fonte de influência reside fora dos modelos, em pontos de controlo físicos, como a verificação KYC (Know Your Customer) junto de fornecedores de síntese de ADN e sistemas de alerta precoce que analisam águas residuais e amostras clínicas à procura de ameaças antes que estas se proliferem. A IA torna ambas as abordagens possíveis e é reforçada pelo facto de os defensores, nas palavras de Bellamy e Scharfman, «geralmente terem mais acesso a capital, investigação, infraestruturas e pessoal qualificado».

Sobrepor esta abordagem à interpretação unidimensional do risco revela o que está em jogo. Se nos limitarmos a considerar apenas o risco, a nossa resposta será desmantelar o modelo. Ao fazê-lo, abdicamos dos avanços biológicos associados a projetos como o AlphaFold (utilizado por mais de 3 milhões de investigadores para reduzir em anos o trabalho de laboratório) e às vacinas melhoradas pela IA que já estão a passar nos ensaios em humanos. Tudo isto sem conseguirmos , ainda assim, proteger-nos contra atacantes que utilizam modelos de peso aberto.

A resposta muda quando se avaliam ambas as colunas em simultâneo. Em vez de um modelo mais fraco, defesas mais sólidas em torno de um modelo eficaz. Em vez de podar o ramo, investir mais tempo e recursos a cuidar dele. Trata-se de uma escolha, e alguém tem de a fazer.

O setor financeiro como gestor: como os investidores influenciam o desenvolvimento da IA

O setor financeiro encontra-se numa posição única para influenciar essa decisão. O formulário S-1 da Anthropic é uma raridade porque a lei assim o exige. A regulamentação obriga os emitentes a apresentar os dois lados da moeda — riscos e oportunidades — no mesmo documento, auditado e assinado. Quase nada mais nesta saga da IA é apresentado dessa forma. Os sucessos são alvo de comunicados de imprensa e vídeos de demonstração brilhantes; os fracassos, de manchetes em negrito e de lamentações. Cada um chega até nós numa única coluna.

Isso deixa o árduo trabalho de reconciliação a cargo do leitor. Felizmente, no mundo das finanças, o leitor detém o poder de decisão. Ao decidir para onde o capital é alocado, como os direitos de voto são exercidos e o que as empresas divulgam, os investidores podem determinar o que acontece a estes ramos retorcidos e às suas flores em conflito.

Esses primeiros registos de tecnologias revolucionárias demoraram séculos a preencher-se. No meio do ritmo acelerado da IA e do nosso imenso acesso à informação, não temos esse luxo, nem essa desculpa. As alocações, os votos e o ativismo de hoje são a história de amanhã. Os investidores não podem esperar que os pontos se liguem. Têm de ser eles a ligá-los.

O Mandato de Reconciliação: Avaliar em conjunto os riscos e as oportunidades da IA

Ainda não podemos analisar em pormenor o registo completo da IA. A menos que a IA acelere os avanços na ciência da longevidade, provavelmente não teremos essa oportunidade durante as nossas vidas. Mas a história ensina-nos como esses registos devem ser interpretados. A imprensa trouxe a revolução científica e os julgamentos das bruxas; o processo Haber-Bosch alimentou o mundo e armou o Kaiser. A nossa perspetiva retrospectiva não apaga nenhuma dessas linhas do registo. Ensina-nos a aceitar ambas ao mesmo tempo.

A IA não vai esperar pelo que se sabe depois de tudo ter acontecido. Por isso, a disciplina que o documento S-1 da Anthropic impõe por lei, temos de a impor por hábito. Essa é a avaliação final. Não se trata de um veredicto que proferimos quando a poeira assentar, mas sim de um equilíbrio que alcançamos enquanto a poeira ainda está no ar. Esteja atento aos riscos e reaja a eles, mas cuide também do que cresce ao lado deles.