OpenAI Reuters/Dado Ruvic Um ex-funcionário da área de segurança da OpenAI, empresa que criou o ChatGPT, criticou a forma como a companhia lida com a segurança da inteligência artificial (IA). Segundo David Robinson, que deixou recentemente a empresa, a cultura de desenvolvimento acelerado aumenta o risco de falhas. Em um artigo publicado neste sábado (3) na revista americana "The Atlantic", Robinson afirmou que as empresas de IA, incluindo a OpenAI, não estão sendo "nem de perto cuidadosas o suficiente".

🗒️Tem alguma sugestão de reportagem? Envie para o g1 Segundo ele, as companhias deveriam dar mais espaço a especialistas em segurança e à pesquisa antes de desenvolver sistemas mais avançados. "O tempo de tentativa e erro acabou", escreveu David Robinson.

Para ele, sistemas avançados de IA precisam de medidas de segurança semelhantes às adotadas em setores como energia nuclear e aviação. Agora no g1 David Robinson também criticou uma prática que a OpenAI chama de "implantação iterativa": lançar sistemas e reforçar as medidas de segurança à medida que os problemas aparecem. As críticas se somam a um debate no setor de inteligência artificial sobre a velocidade com que as empresas desenvolvem sistemas cada vez mais avançados.

A OpenAI e a concorrente Anthropic têm sido questionadas após episódios em que controles de segurança falharam ou sistemas experimentais apresentaram comportamentos inesperados. David Robinson afirmou ter trabalhado por três anos e meio na OpenAI, onde ajudou a elaborar a estrutura usada pela empresa para lidar com riscos e supervisionou relatórios de segurança de 12 lançamentos de modelos avançados.