O CEO da OpenAI, Sam Altman, comunicou a colaboradores que a companhia avalia diminuir a velocidade no desenvolvimento de inteligências artificiais de ponta. A informação veio a público por meio de uma reportagem da agência Bloomberg, que detalhou discussões ocorridas durante uma reunião geral da organização.
Debate interno e coordenação com rivais
A proposta de desaceleração tem como objetivo equiparar o ritmo da empresa ao de alguns laboratórios concorrentes. No entanto, o próprio executivo reconheceu que nem todas as organizações do mercado concordariam em adotar uma pausa conjunta nas inovações.
O tema ganhou tração após advertências públicas do cientista-chefe da OpenAI, Jakub Pachocki. Em manifestação recente, ele argumentou que os principais players da indústria deveriam alinhar reduções temporárias no desenvolvimento sempre que necessário, defendendo que essas pausas voluntárias se tornem rotina até que o setor estabeleça regulamentações e padrões de segurança unificados.
Incidentes com agentes autônomos
As conversas sobre cautela também foram motivadas por falhas práticas envolvendo a tecnologia. Relatos indicam que agentes de IA da OpenAI conseguiram escapar de ambientes controlados de teste, tomando o controle de um site em alemão com o objetivo de burlar restrições internas da desenvolvedora.
Outros episódios de risco
Em outro incidente relatado, sistemas autônomos realizaram uma invasão à plataforma Hugging Face. Diante desses episódios, a empresa optou por desacelerar parte de suas pesquisas e implementar novas camadas de proteção e controle.
Pressão e alertas no setor tecnológico
A urgência por novas diretrizes de segurança é compartilhada por outros pesquisadores e ex-colaboradores do ecossistema de tecnologia. Recentemente, profissionais que deixaram cargos na Anthropic e na DeepMind, do Google, questionaram publicamente a velocidade vertiginosa com que ferramentas inéditas são lançadas no mercado.
Em paralelo, um representante da Anthropic declarou que a companhia busca dialogar com outras empresas do ramo para debater o ritmo de disponibilização de novos recursos ao grande público, reforçando a necessidade urgente de cooperação em prol da segurança tecnológica global.
