Da curva de referência ao ciclo fechado de P&D: avaliação objetiva da probabilidade de “autoaperfeiçoamento recursivo de IA” antes de 2028

Por que uma “probabilidade de 60%” deve ser levada a sério

Fonte da imagem: Tweet do cofundador da Anthropic

Nas discussões sobre IA, as conclusões costumam receber os holofotes, enquanto o raciocínio que as sustenta passa despercebido. Isso é especialmente evidente nos debates sobre Recursive Self-Improvement (RSI). À primeira vista, o ponto central de disputa é uma afirmação ousada: até 2028, existe uma probabilidade significativa de que a IA alcance capacidades de P&D auto-reforçadas. A questão mais profunda, porém, é se já identificamos sinais iniciais “sistemáticos” suficientes para que esse cenário deixe de ser uma hipótese marginal e passe a integrar o núcleo dos riscos que os principais tomadores de decisão precisam considerar.

Essa questão tem impacto tanto para políticas públicas quanto para o setor privado, pois RSI não é apenas um “mito abstrato de inteligência geral”. É um desafio de engenharia: a IA pode assumir cada vez mais etapas de alto valor em fluxos de trabalho de P&D e conectar essas etapas em um ciclo fechado iterativo e contínuo? Uma vez estabelecido esse ciclo, o ritmo do avanço tecnológico se altera, as lacunas de capacidade organizacional são redefinidas e os ciclos regulatórios tradicionais são desestabilizados.

Portanto, o debate sobre RSI precisa ir além de “acreditar ou não” e focar na suficiência das evidências, na prudência das extrapolações e na adequação dos preparativos.

Base de evidências: valor e limites do progresso consistente em múltiplos benchmarks

A evidência mais forte a favor da RSI não está no avanço isolado de um modelo, mas no progresso sincronizado entre tarefas, cenários e estruturas de avaliação. Benchmarks frequentemente citados — reprodutibilidade de pesquisas, otimização pós-treinamento, resolução de problemas competitivos do mundo real e desafios de engenharia de software — apresentam tendências ascendentes em diferentes graus. O verdadeiro valor reside na “consistência direcional”, não apenas nos “valores absolutos”: quando múltiplos indicadores proxy melhoram juntos ao longo do tempo, isso geralmente sinaliza um aprimoramento amplo das capacidades subjacentes.

Entretanto, três limitações essenciais devem ser consideradas:

1. Ambientes de benchmark diferem do mundo real. Benchmarks contam com limites claros, feedback estável e padrões de avaliação repetíveis. Na P&D real, há mudanças de objetivo, colaboração entre equipes, transferência tácita de conhecimento, restrições de recursos e atritos institucionais. O sucesso em ambientes controlados não se traduz automaticamente em resultados organizacionais consistentes.

2. Visibilidade de métricas não significa capacidade plena. Os benchmarks atuais medem com mais facilidade a “capacidade de resolução de problemas”, mas têm dificuldade em capturar plenamente comportamentos de P&D mais complexos — como definição de problemas, priorização, atribuição de falhas e governança entre ciclos. Em resumo, os modelos podem melhorar em “resolver os problemas certos”, mas não necessariamente em “fazer as coisas certas de forma consistente”.

3. A extrapolação de tendências pode ser comprometida pela migração de gargalos. A história mostra que o progresso tecnológico não é sempre linear. Ao superar um gargalo, novos podem surgir em qualidade de dados, custos de hash rate, confiabilidade do sistema, compliance ou aceitação social. Ignorar essas restrições secundárias pode levar à superestimação do avanço e à subestimação da resistência.

Assim, o progresso consistente em múltiplos benchmarks é um sinal forte, mas não uma prova definitiva. Ele indica que “a direção importa”, mas não que “o cronograma está dado”.

O divisor central: ganhos de capacidade podem fechar o ciclo fechado?

O verdadeiro debate sobre RSI não é se “a IA está ficando mais forte”, mas se “os ganhos são suficientes para formar um ciclo fechado”. Um ciclo fechado genuíno envolve pelo menos cinco etapas sequenciais: captação de informações e revisão de literatura, geração de hipóteses, design e execução de experimentos, avaliação de resultados e diagnóstico de erros, atualização de estratégias e reiteração. Melhorar uma etapa aumenta a eficiência, mas apenas a integração robusta entre todas elas gera retornos compostos.

Hoje, observamos avanços principalmente nas três primeiras etapas e parte da quarta: os modelos estão cada vez mais eficientes em geração de código, roteirização de experimentos, sumarização de literatura e busca de parâmetros. Os maiores desafios do ciclo fechado geralmente se concentram em duas capacidades:

• Diagnóstico robusto: o sistema consegue identificar causas-raiz em meio a dados ruidosos, sinais conflitantes ou falhas esporádicas, em vez de aplicar apenas correções superficiais?

• Alinhamento de objetivos: o sistema consegue executar de forma consistente estratégias “eficazes no longo prazo, mas subótimas no curto prazo” sob múltiplas restrições, em vez de apenas maximizar pontuações locais?

Por isso, “poder fazer” não significa “poder ser responsabilizado”. Um ciclo fechado de P&D não é apenas a soma das capacidades do modelo — é o produto da tecnologia, do design de processos e das estruturas de responsabilidade. Sem mecanismos claros de accountability e auditoria, as organizações terão dificuldades para delegar autoridade de forma segura, mesmo que a tecnologia esteja quase pronta.

Calibração metodológica: probabilidade, análise de cenários e limites de decisão

A afirmação “60% até 2028” é útil para comunicação — força o público a reconhecer que a janela pode ser mais curta do que se imagina. Mas, para a tomada de decisão, esses números devem ser vistos como probabilidades subjetivas, não estimativas estatísticas precisas. Uma abordagem mais prática é converter probabilidades pontuais em um framework de “cenário-limite”.

Três níveis de cenário são úteis:

• Básico: a IA está profundamente integrada ao P&D, mas humanos ainda tomam as decisões-chave — um modelo de “alta automação com fallback humano”.

• Aceleração: a IA atinge iteração quase em ciclo fechado em vários domínios, encurtando drasticamente os ciclos de P&D e conferindo vantagem composta aos líderes.

• Alto impacto: capacidades de ciclo fechado entre domínios emergem, a iteração dos modelos supera a adaptação regulatória e as pressões de governança se intensificam.

Para cada cenário, defina métricas-limite claras em vez de debater anos específicos. Exemplos: duração de iteração contínua sem supervisão, taxa de sucesso em transferência entre tarefas, taxa de recall em detecção de anomalias, taxa de sucesso em auto-reversão e proporção de intervenção manual em pontos críticos. Quando os limites são atingidos, ações de governança são acionadas; quando caem, restrições são relaxadas. Assim, previsões abstratas se transformam em gestão acionável.

Impacto na indústria: como as organizações de P&D serão transformadas

Se RSI ou quase-RSI se concretizar, a competição no setor migrará de “performance do modelo” para “operações em ciclo fechado”. O sucesso dependerá menos de quem possui o maior modelo e mais de quem consegue construir ciclos de P&D mais curtos, estáveis e controláveis dentro de organizações reais.

Os limites organizacionais serão redefinidos. Processos tradicionais de P&D — antes uma sequência de funções especializadas — se transformarão em redes colaborativas de “poucas pessoas-chave + grandes afiliados de IA”. As funções não vão simplesmente desaparecer; migrarão para orquestração de sistemas, controle de qualidade e governança de riscos.

Os ganhos de eficiência serão não lineares. Organizações que automatizarem processos primeiro poderão conquistar vantagens geracionais em velocidade de iteração, estrutura de custos e escala de experimentação. Quem introduzir IA apenas em áreas isoladas verá melhorias mais lineares e incrementais — com dificuldade para fechar lacunas estruturais.

A “capacidade de P&D confiável” será o novo fosso competitivo. A competitividade de alto valor no futuro não será apenas questão de ser “rápido”, mas de ser “rápido e comprovadamente seguro”. Logs rastreáveis, experimentos reproduzíveis, auditorias de mudança de estratégia e sistemas de resposta a incidentes deixarão de ser custos de compliance para se tornarem ativos de confiança de mercado.

Agenda de governança: desenho institucional para controlabilidade durante a aceleração

Com a aceleração se tornando possível, a governança não deve buscar frear o progresso, mas estabelecer a “controlabilidade verificável”. Isso exige avanço técnico e institucional em paralelo.

Tecnicamente, a segurança precisa ser integrada ao pipeline de P&D: registro padrão de decisões-chave, dupla aprovação para ações de alto risco, limites sandbox para auto-modificação de modelos e revisão obrigatória de saltos anômalos de performance. O princípio central: “observabilidade antes da delegação”.

Institucionalmente, adote governança em camadas — não uma abordagem única para todos. Permita flexibilidade para aplicações de baixo risco, mas exija maior transparência e accountability para sistemas de alto impacto, com mecanismos de atualização dinâmica. Regras estáticas não acompanham a rápida iteração; a regulação precisa ser capaz de “recalibrar continuamente”.

No âmbito organizacional, “âncoras de responsabilidade humana” devem ser explícitas. Quando a IA participa de decisões de P&D e implantação, pontos-chave precisam ter signatários humanos identificáveis e responsáveis. Automação sem âncoras de responsabilidade apenas aumenta a velocidade, não a qualidade.

Conclusão: navegando a era RSI com “alta vigilância, baixa certeza”

Retornando à questão central: essa perspectiva é válida? A direção é válida, mas a expressão exige cautela. É válida porque evidencia que a IA avança em múltiplas dimensões de P&D, e o ponto de virada do ciclo fechado pode chegar antes do esperado. A cautela é essencial, pois qualquer data ou probabilidade específica envolve pressupostos subjetivos e tende a subestimar as fricções do mundo real.

Para os tomadores de decisão, o melhor caminho não é oscilar entre otimismo e pessimismo, mas construir resiliência diante da incerteza:

De um lado, prepare-se como se a aceleração “pudesse ocorrer antes”, evitando respostas passivas em momentos críticos. De outro, restrinja a expansão do sistema com cenários em camadas, limites quantificáveis e âncoras de responsabilidade, garantindo que o crescimento das capacidades permaneça dentro de limites controláveis.

Se a última fase da IA foi sobre “permitir que máquinas concluam tarefas”, a próxima e mais crucial pergunta é: à medida que as máquinas começam a ajudar a criar a próxima geração de máquinas, a humanidade conseguirá evoluir seus sistemas de governança e responsabilidade no mesmo ritmo?

Esse não é apenas um desafio de previsão técnica — trata-se de redefinir o futuro da inovação.