“Estão apostando com nossas vidas”, diz ex-pesquisador da OpenAI e da Anthropic

O pesquisador britânico Jacob Coxon, de 27 anos, anunciou sua saída da indústria de inteligência artificial e fez críticas à OpenAI e à Anthropic, empresas nas quais trabalhou nos últimos três anos. Em uma publicação feita na rede social X, ele acusou as companhias de avançarem em direção a uma inteligência artificial capaz de se aprimorar sozinha sem a responsabilidade que considera necessária. “Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon.

O britânico trabalhou inicialmente na OpenAI e, neste ano, mudou-se para a Anthropic por considerá-la uma empresa mais prudente. Nas duas companhias, atuou com pré-treinamento, fase em que os modelos de inteligência artificial absorvem grandes quantidades de informação.

Apesar da mudança, Coxon afirmou ter concluído que nenhuma das duas empresas atua de maneira responsável. Segundo ele, pessoas envolvidas diretamente no desenvolvimento da tecnologia acreditam que sistemas avançados de inteligência artificial podem representar risco à humanidade. “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, declarou.

Diretor da Anthropic concorda com alerta

Evan Hubinger, diretor de segurança da Anthropic, manifestou-se sobre as declarações e deu razão a Coxon. Também por meio do X, Hubinger escreveu: “Nós realmente acreditamos que a IA pode matar seres humanos”. Em uma avaliação pessoal, o diretor calculou em “mais de 10%” o risco de isso acontecer ao longo da próxima década.

As preocupações estão relacionadas ao chamado “autoaperfeiçoamento recursivo”. O termo descreve uma possível etapa do desenvolvimento tecnológico em que sistemas de inteligência artificial poderiam projetar e treinar uma nova geração de IA com pouca participação humana.

Para Coxon, uma empresa não consegue desenvolver de maneira responsável uma inteligência artificial superior aos seres humanos sem que exista uma intervenção governamental ou uma desaceleração coordenada do setor. “Na Anthropic, eles compreendem bem o que está em jogo, mas estão presos em uma corrida para chegar lá primeiro — acreditam que ninguém mais atuará de forma responsável, então precisam fazer isso eles mesmos, apesar do risco”, afirmou.

Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de interromper o desenvolvimento dos modelos caso não conseguisse controlar os riscos.

No fim de julho, mais de mil profissionais do setor, entre eles o presidente-executivo da Anthropic, Dario Amodei, pediram ao governo dos Estados Unidos a preparação de um mecanismo de freio. No domingo, Jakub Pachocki, diretor científico da OpenAI, afirmou que o momento exige “extrema cautela” e coordenação internacional.

A saída de Coxon foi anunciada na terça-feira (8), enquanto a Anthropic se prepara para abrir seu capital na Bolsa. Procuradas pela agência de notícias AFP, OpenAI e Anthropic não haviam respondido.

Leia mais: