Pesquisadores como os da OpenAI alertam sobre a aceleração da automação do desenvolvimento de IA

De acordo com pt.wedoany.com-Em 28 de setembro, o projeto de Ciência e Política de Inteligência Artificial da Universidade de Cambridge publicou o relatório de pesquisa "O que aconteceria se a automação do desenvolvimento de IA desencadeasse uma 'explosão de inteligência'?". Mais de 20 pesquisadores de inteligência artificial participaram do relatório, incluindo Jakub Pachocki, cientista-chefe da OpenAI, Jack Clark, cofundador da Anthropic, Eric Horvitz, cientista-chefe da Microsoft, e Dawn Song, relacionada à pesquisa de inteligência artificial da Meta; Geoffrey Hinton e Yoshua Bengio também figuram na lista de autores. Os pesquisadores das empresas envolvidas participaram a título pessoal.

O relatório adota o grau de automação do desenvolvimento de IA como indicador central de monitoramento. A pesquisa cita dados internos da Anthropic segundo os quais, de janeiro de 2025 a maio de 2026, a proporção de código gerado por IA em relação ao código aprovado da empresa subiu de um dígito baixo para mais de 80%; de março a agosto de 2026, a proporção de trabalho de desenvolvimento realizado por IA que exigia apenas supervisão humana reduzida aumentou de cerca de 1% para 26%. Com base nisso, o relatório propõe que, nos próximos anos, os sistemas de IA poderão assumir a maior parte do processo de desenvolvimento de IA, e a velocidade de automação de algumas tarefas de desenvolvimento poderá continuar a aumentar.

O relatório discute um cenário de desenvolvimento recursivo: sistemas de IA participam de pesquisa de modelos, engenharia de software, experimentos e avaliação, e então utilizam os resultados do desenvolvimento para criar uma nova geração de sistemas de IA com capacidades mais fortes. Se esse ciclo continuar a se acelerar, os autores chamam o rápido crescimento de capacidades resultante de "explosão de inteligência", definida como o avanço de capacidades de IA que originalmente levaria anos sendo comprimido em meses ou até menos. O relatório também deixa claro que esse cenário ainda apresenta grande incerteza, e que o fornecimento de computação e dados, os ganhos marginais de capacidade dos modelos, as tarefas de desenvolvimento difíceis de automatizar e os longos ciclos de treinamento de modelos podem limitar a magnitude da aceleração do desenvolvimento.

As recomendações de políticas listadas no relatório incluem o estabelecimento de um mecanismo padronizado de relato do grau de automação do desenvolvimento de IA, aumentando a visibilidade do governo sobre o nível de automação dos processos de desenvolvimento das empresas de IA de fronteira; o estudo de mecanismos técnicos e institucionais para controlar a velocidade do desenvolvimento durante fases de rápido aumento de capacidades; o estabelecimento de planos de resposta de emergência para o rápido crescimento de capacidades, e o estudo de mecanismos de coordenação transnacional. Os autores também propõem que a preparação de políticas relevantes deve abranger cenários como a velocidade de crescimento das capacidades de IA superando a velocidade de adaptação da sociedade, a diminuição da capacidade humana de supervisionar sistemas de IA altamente autônomos e a alta concentração de capacidades avançadas de IA.