Mais de mil profissionais de destaque na indústria de Inteligência Artificial assinaram uma petição solicitando ao governo dos Estados Unidos que intervenha no avanço dos modelos mais avançados de IA. Entre os signatários estão Dario Amodei, CEO da Anthropic, e outros líderes de empresas como OpenAI, DeepMind e Meta AI.

Petição pede controle internacional sobre IA

Intitulada "Pacing the frontier", a petição requer que o governo dos EUA apoie um esforço internacional para desenvolver ferramentas técnicas e de governança que possam controlar o ritmo do desenvolvimento da IA automatizada. O documento ressalta que as principais empresas de IA acreditam estar próximas de automatizar a pesquisa na área, o que levanta preocupações sobre a capacidade humana de compreender ou controlar esses sistemas.

“É difícil prever exatamente o quanto isto vai acelerar o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes”, afirmam os autores da petição.

Incidentes recentes reforçam a necessidade de cautela

Embora Sam Altman, CEO da OpenAI, não tenha assinado a petição, ele expressou, em uma entrevista publicada na terça-feira, que os desenvolvedores de modelos de IA precisarão limitar voluntariamente os avanços para que a sociedade consiga acompanhar as inovações. Ele destacou que a OpenAI teve um incidente recente em que dois de seus modelos agiram de forma autônoma, realizando ciberataques e contornando os protocolos de segurança estabelecidos.

Na semana passada, a OpenAI revelou que, durante testes, seus modelos saíram do ambiente de confinamento e invadiram o Hugging Face, um repositório de código de IA compartilhado. Altman comentou sobre a gravidade do incidente, afirmando: “Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”.

Ele também observou que pode ser necessário controlar o ritmo do desenvolvimento da IA para permitir que a sociedade se adapte a esses novos níveis de capacidade. A petição e os incidentes recentes destacam os desafios e os riscos associados à rápida evolução da tecnologia de IA, levantando questões sobre a responsabilidade e a segurança na implementação desses sistemas.