O livro de Toby Ord de 2020 pintou uma imagem sombria das chances da humanidade neste século, mas quão precisa é sua previsão?
Em 2020, o filósofo Toby Ord, de Oxford, publicou um livro chamado The Precipice sobre o risco de extinção humana. Ele colocou as chances de “catástrofe existencial” para nossa espécie durante o próximo século em uma em cada seis.
É um número bastante específico e alarmante. A alegação ganhou manchetes na época e tem sido influente desde então – mais recentemente apresentada pelo político australiano Andrew Leigh em um discurso em Melbourne.
É difícil discordar da idéia de enfrentarmos perspectivas preocupantes nas próximas décadas, das mudanças climáticas, armas nucleares e patógenos de engenharia biológica (todos os grandes problemas em minha opinião), a IA desonesta e grandes asteróides (que eu consideraria menos preocupantes).
Mas e esse número? De onde vem? E o que isso realmente significa?
Vidros de moedas e previsões meteorológicas
Para responder a essas perguntas, precisamos responder a outra primeiro: o que é probabilidade?
A visão mais tradicional da probabilidade é chamada de freqüentismo e deriva seu nome de sua herança em jogos de dados e cartas. Nesta visão, sabemos que há uma chance em seis de um dado justo chegar a três (por exemplo) observando a frequência de três em um grande número de rolos.
Ou considere o caso mais complicado de previsões meteorológicas. O que significa quando um meteorologista nos diz que há uma em cada seis (ou 17%) chance de chuva amanhã?
É difícil acreditar que o meteorologista queira imaginar uma grande coleção de “amanhã”, dos quais alguma proporção experimentará precipitação. Em vez disso, precisamos examinar um grande número dessas previsões e ver o que aconteceu depois delas.
Se o meteorologista é bom em seu trabalho, devemos ver isso quando eles disserem “uma em cada seis chances de chuva amanhã”, de fato choveu no dia seguinte uma vez a cada seis.
Portanto, a probabilidade tradicional depende de observações e procedimentos. Para calculá-lo, precisamos ter uma coleção de eventos repetidos nos quais basear nossa estimativa.
Podemos aprender com a lua?
Então, o que isso significa para a probabilidade de extinção humana? Bem, esse evento seria único: depois que acontecesse, não haveria espaço para repetições.
Em vez disso, podemos encontrar alguns eventos paralelos para aprender. De fato, no livro de Ord, ele discute uma série de eventos potenciais de extinção, alguns dos quais podem ser examinados à luz de uma história.
Por exemplo, podemos estimar as chances de um asteroide do tamanho de uma extinção atingir a Terra examinando quantas dessas rochas espaciais atingiram a Lua ao longo de sua história. Um cientista francês chamado Jean-Marc Salotti fez isso em 2022, calculando as chances de um sucesso no nível de extinção no século seguinte em cerca de um em cada 300 milhões.
Obviamente, essa estimativa está repleta de incertezas, mas é apoiada por algo que se aproxima de um cálculo de frequência apropriado. Ord, por outro lado, estima o risco de extinção por asteróide em um em um milhão, embora ele observe um grau considerável de incerteza.
Um sistema de classificação para resultados
Há outra maneira de pensar sobre a probabilidade, chamada Bayesianismo, em homenagem ao estatístico inglês Thomas Bayes. Ele se concentra menos nos próprios eventos e mais no que sabemos, esperamos e acreditamos sobre eles.
Em termos muito simples, podemos dizer que os bayesianos veem as probabilidades como uma espécie de sistema de classificação. Nessa visão, o número específico associado a uma probabilidade não deve ser tomado diretamente, mas comparado a outras probabilidades para entender quais resultados são cada vez menos prováveis.
O livro de Ord, por exemplo, contém uma tabela de possíveis eventos de extinção e suas estimativas pessoais de sua probabilidade. De uma perspectiva bayesiana, podemos ver esses valores como fileiras relativas. Ord acha que a extinção de um ataque de asteróide (um em um milhão) é muito menos provável que a extinção das mudanças climáticas (um em mil), e ambos são muito menos propensos que a extinção do que ele chama de “inteligência artificial desalinhada” (um em cada dez).
A dificuldade aqui é que as estimativas iniciais das probabilidades bayesianas (frequentemente chamadas de “priors”) são bastante subjetivas (por exemplo, eu classificaria a chance de extinção baseada em IA muito menor). O raciocínio bayesiano tradicional passa de “priors” para “posteriors”, incorporando novamente evidências observacionais de resultados relevantes para ” atualizar “valores de probabilidade.
E mais uma vez, os resultados relevantes para a probabilidade de extinção humana são escassos no terreno.
Estimativas subjetivas
Existem duas maneiras de pensar sobre a precisão e utilidade dos cálculos de probabilidade: calibração e discriminação.
Calibração é a correção dos valores reais das probabilidades. Não podemos determinar isso sem informações observacionais apropriadas. Discriminação, por outro lado, simplesmente se refere aos rankings relativos.
Não temos uma base para pensar que os valores de Ord estão adequadamente calibrados. Claro, não é provável que essa seja sua intenção. Ele próprio indica que eles são projetados principalmente para dar indicações de “ordem de magnitude.
Mesmo assim, sem qualquer confirmação observacional relacionada, a maioria dessas estimativas simplesmente permanece no domínio subjetivo das probabilidades anteriores.
Não está bem calibrado, mas talvez ainda seja útil
Então, o que devemos fazer de “um em seis”? A experiência sugere que a maioria das pessoas tem uma compreensão menos do que perfeita da probabilidade (como evidenciado, entre outras coisas, pelo volume contínuo de vendas de bilhetes de loteria). Nesse ambiente, se você estiver discutindo em público, uma estimativa de “probabilidade” não precisa necessariamente ser bem calibrada – ela só precisa ter o tipo certo de impacto psicológico.
A partir desta perspectiva, eu diria que “um em cada seis” se encaixa bem na conta. “Um em cada 100” pode parecer pequeno o suficiente para ignorar, enquanto “um em cada três” pode entrar em pânico ou ser descartado como delírio apocalíptico.
Como pessoa preocupada com o futuro, espero que riscos como as mudanças climáticas e a proliferação nuclear recebam a atenção que merecem. Mas, como cientista de dados, espero que o uso descuidado da probabilidade seja deixado no esquecimento e seja substituído pela educação generalizada sobre seu verdadeiro significado e uso apropriado.