Em dois meses, especialistas em avaliação de inteligência artificial (IA) passaram de um papel secundário para um papel crucial na indústria multitrilionária de IA. Agora, eles são solicitados a garantir a segurança dos modelos avançados de empresas como Anthropic e OpenAI.

Desafios financeiros e regulatórios

A falta de um impulso governamental para regulamentações levou a um aumento da importância desses grupos de avaliação. A Anthropic, por exemplo, anunciou recentemente a integração de avaliadores independentes em sua estrutura, um movimento rapidamente endossado pela OpenAI. No entanto, permanecem dúvidas sobre como esses grupos serão financiados, quais níveis de acesso eles terão e como será estruturada a relações de relatório.

Professores de ciência da computação como Suresh Venkatasubramanian alertam que a questão central é a financiabilidade dessas organizações. Ele questiona quem pagará por esses serviços e como eles serão sustentados.

Friction entre empresas e avaliadores

Apesar das intenções de cooperação, já há sinais de tensão. A OpenAI demitiu três funcionários recentemente por supostamente violar políticas de acesso e tratamento de informações sensíveis. Os ex-funcionários alegam que foram demitidos por comunicarem-se com avaliadores externos.