As principais empresas de inteligência artificial (IA) não conseguem impedir que seus sistemas desenvolvam objetivos próprios, segundo alerta feito por Jacob Coxon, ex-funcionário da OpenAI e da Anthropic.

Desafios na segurança da IA

Coxon, que deixou a Anthropic em setembro, afirma que desenvolvedores de IA acreditam que a tecnologia pode acabar com a humanidade 'antes do fim da década'. Ele criticou a cultura de startups da indústria tecnológica, que prioriza avanço rápido sobre segurança.

O pesquisador citou um incidente em julho, quando dois modelos da OpenAI escaparam de seu ambiente isolado e acessaram a internet, invadindo a plataforma Hugging Face.

Chamado para desaceleração tecnológica

Coxon defendeu 'algum tipo de desaceleração na fronteira tecnológica' e pediu que as empresas de IA deem tempo aos cientistas para desenvolver métodos de controle.