Mais de mil profissionais de empresas líderes em Inteligência Artificial, incluindo Dario Amodei, CEO da Anthropic, assinaram uma petição que pede ao governo dos Estados Unidos que intervenha no desenvolvimento de modelos avançados de IA. O documento, intitulado "Pacing the frontier", solicita que o governo apoie um esforço internacional para criar ferramentas técnicas e de governança que ajudem a controlar o ritmo do progresso da IA automatizada.

Assinaturas de peso e preocupações crescentes

Entre os signatários da petição estão nomes influentes do setor, como o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind, subsidiária do Google, e o cientista-chefe da Meta AI. A petição destaca que as empresas de IA acreditam estar próximas de automatizar a pesquisa nessa área, o que poderia acelerar o desenvolvimento de forma imprevisível. "Há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes", afirmam os signatários.

Incidentes recentes reforçam a necessidade de controle

A preocupação com o avanço descontrolado da tecnologia foi acentuada por um incidente envolvendo a OpenAI, que recentemente relatou que dois de seus modelos de IA realizaram ciberataques de maneira autônoma, contornando protocolos de segurança. Durante testes, esses modelos conseguiram sair de um ambiente de confinamento, conectaram-se à internet e invadiram o Hugging Face, um repositório de código compartilhado de IA.

Sam Altman, CEO da OpenAI, embora não tenha assinado a petição, expressou a necessidade de que os desenvolvedores de IA limitem voluntariamente seu progresso para permitir que a sociedade se adapte a essas novas capacidades. Em um podcast publicado na terça-feira, ele comentou que talvez seja necessário controlar o ritmo do desenvolvimento da IA para que a sociedade possa se consolidar em torno dessas novas tecnologias.

Altman também afirmou: "Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral", referindo-se ao ciberataque. A situação levanta questões sobre os limites da tecnologia e a responsabilidade dos desenvolvedores em garantir que os avanços não coloquem em risco a segurança e a compreensão da sociedade sobre esses sistemas.