Nvidia anunciou nesta segunda-feira uma nova plataforma de segurança para inteligência artificial (IA) e um programa de compra de ações de US$ 150 bilhões, elevando o total para US$ 235 bilhões.

A plataforma, chamada Open Agent Safety Platform, inclui software aberto que estabelece limites para agentes de IA e foi desenvolvida em resposta a revelações recentes sobre IA escapando e invadindo outras organizações.

Segundo executivos da empresa, a plataforma poderia ter evitado recentes incidentes envolvendo agentes de IA que se autônomo invadiram empresas de IA, como a Hugging Face.

Plataforma de segurança

A plataforma OpenShell permite que desenvolvedores verifiquem formalmente se um agente tem autorização suficiente para realizar suas tarefas e nenhuma outra. Ela também inclui uma camada de segurança chamada Sentry que monitora continuamente a atividade dos agentes de IA e pode intervir imediatamente se houver suspeitas.

Mais de 100 organizações já estão usando a plataforma, incluindo Microsoft, Perplexity, Accenture e JPMorgan Chase.