“Neste momento, parece que a indústria de inteligência artificial [IA] tem um pedal para acelerar, mas não tem nenhum para travar.” A afirmação poderia ser de um académico dedicado a analisar as consequências sociais da tecnologia, mas pertence a Jack Clark, cofundador do laboratório de IA Anthropic.
Esta quinta-feira, Clark, que também lidera a área de benefícios públicos da companhia, deu entrevistas à CNN internacional e à BBC para explicar o mais recente comunicado da companhia. Numa extensa publicação, a empresa pediu que se abrande o desenvolvimento desta tecnologia. Na ótica da Anthropic, a IA está a evoluir tanto que, em breve, conseguirá “criar de forma autónoma um sucessor mais competente”, sem intervenção humana. “Está a acontecer de forma mais rápida do que pensávamos e as implicações merecem mais atenção”, é possível ler na publicação assinada por Jack Clark e Marina Favaro, a responsável pelo Anthropic Institute, o braço da Anthropic para explorar as consequências sociais da IA.
“Acreditamos que seria bom para o mundo ter a opção de abrandar ou temporariamente colocar em pausa o desenvolvimento de modelos de fronteira de IA para permitir às estruturas societais e à investigação de alinhamento estar a par do avanço da tecnologia”, defendeu a Anthropic na nota. Por alinhamento, a empresa refere-se ao processo em que é desenvolvida IA alinhada com os valores humanos e o processo que tenta reduzir os riscos de resultados prejudiciais ou danos colaterais.
A empresa deu alguns exemplos internos para explicar a razão por que teme que deixem de ser os humanos a ter o papel principal no desenvolvimento tecnológico. Desde que usam o Claude para ajudar a escrever código, os engenheiros da Anthropic “entregam em média oito vezes mais código por trimestre” do que a média registada entre 2021 e 2025. Ou: “mais de 80% da base de código da Anthropic já foi escrita pelo Claude”, o modelo de IA da empresa. Mais um exemplo: a “taxa de sucesso do Claude na maioria das questões abertas atingiu 76% em maio, mais 50 pontos percentuais em seis meses”.
Em jeito de resumo, a Anthropic sugere que “o Claude passou de super-prestável a super-humano em menos de um ano”. E, se por agora a IA ainda “apresenta grandes lacunas no que diz respeito a conseguir escolher objetivos, tanto na engenharia como na investigação”, esta situação poderá alterar-se em breve.
“É altamente provável agora que estejamos a chegar a um ponto de viragem em que um sistema de IA pode criar um sucessor”, disse Jack Clark em entrevista à CNN internacional. “E isso pode acontecer nos próximos anos, em vez de décadas — muito antes do que as pessoas pensavam.” O responsável atribuiu este cenário à ideia de auto-melhoria recursiva — quando um sistema consegue avançar sozinho de forma autónoma.