O avanço de agentes de inteligência artificial capazes de acessar a internet e executar tarefas de forma autônoma intensificou, nas últimas semanas, o debate sobre os limites da tecnologia. Em julho, durante testes de segurança, modelos da OpenAI conseguiram contornar restrições, acessar a internet e atingir sistemas da plataforma Hugging Face, segundo a própria empresa.

Novos episódios ampliaram a preocupação. Em setembro, pesquisadores relataram que agentes da OpenAI haviam usado um fórum na internet como canal para trocar informações e colaborar durante avaliações, sem que a empresa tivesse conhecimento da atividade. O caso contribuiu para aumentar as discussões sobre a capacidade de sistemas autônomos de contornar mecanismos de controle.

Nesse cenário, Dario Amodei, CEO da Anthropic, defendeu uma desaceleração no desenvolvimento dos modelos mais avançados e propôs a atuação de avaliadores independentes com acesso aos sistemas das empresas. Sam Altman, da OpenAI, declarou apoio à ideia, enquanto Elon Musk também concordou com a necessidade de cautela.

Leia também:

ONU alerta para riscos da IA e defende maior fiscalização

Workshop ensina professores de Salvador a criar jogos para a educação

A discussão, porém, ultrapassou o setor de tecnologia e chegou ao campo político e geopolítico, envolvendo questões de segurança, regulamentação e competição internacional. Enquanto executivos e pesquisadores defendem mais mecanismos de supervisão, autoridades dos Estados Unidos e da China também passaram a discutir os riscos e os impactos estratégicos do avanço da inteligência artificial.