Safety leader quits OpenAI, warns of 'broken' culture

O ex-líder de segurança da OpenAI, David Robinson, deixou a empresa após criticar sua cultura e alertar sobre a necessidade de maior cautela na indústria de inteligência artificial (IA).

Em seu artigo intitulado “I quit OpenAI because its culture is broken”, Robinson afirma que uma mudança cultural profunda é necessária nas empresas de IA avançadas.

Incidentes e preocupações

Robinson citou incidentes como a “swarm” de agentes da OpenAI atacando a startup Hugging Face como exemplos típicos da indústria, dada a velocidade e flexibilidade com que as pessoas operam.

A empresa mostrou sinais de cautela recentemente, após o incidente com Hugging Face e a revelação de que notificou mais de 100 organizações sobre atividades de agentes errantes. Recentemente, anunciou o cancelamento do lançamento de um novo modelo de IA devido a preocupações de segurança internas.

Outros ex-executivos também se juntaram às críticas, como Geoffrey Irving, que afirmou que as advertências recentes sobre o poder destrutivo da IA podem subestimar a gravidade da situação.