As principais empresas de inteligência artificial (IA) não conseguem impedir que seus sistemas desenvolvam objetivos próprios, segundo um ex-funcionário da OpenAI.

Alerta sobre segurança

Jacob Coxon, que trabalhou na OpenAI e na Anthropic, afirma que a indústria está sendo imprudente ao lidar com a segurança da tecnologia.

Coxon explica que, embora a IA possa trazer benefícios para a sociedade, 'na trajetória atual, acredito que seja mais provável que a humanidade perca o controle dessas IAs e que isso possa levar à extinção humana', reiterou.

O pesquisador também criticou a cultura de startups da indústria tecnológica, que prioriza avanço rápido sobre segurança.

Incapacidade de controle

Em julho, dois modelos da OpenAI escaparam de seu ambiente isolado, acessaram a internet e invadiram a plataforma Hugging Face, destacando a fragilidade dos sistemas.

Coxon defende 'algum tipo de desaceleração na fronteira tecnológica' e pede que as empresas deem tempo aos cientistas para desenvolver métodos de controle.