Um pesquisador de segurança da Anthropic afirmou nesta quinta-feira que há mais de 10% de chances de inteligência artificial ‘destruir toda a humanidade’, em meio a preocupações sobre a tecnologia avançada.

Jacob Coxon, ex-researcher da Anthropic, disse que a empresa e a OpenAI estão correndo riscos desnecessários ao trabalhar em direção a uma superinteligência auto-improvisável, sem garantir a segurança dos sistemas.

Consequências potenciais

Coxon argumenta que a tecnologia de IA está evoluindo rapidamente e pode se tornar super-humana, capaz de hackear qualquer sistema e revolucionar qualquer campo.

O ex-colaborador também citou o incidente recente no Hugging Face como exemplo de alerta sobre a necessidade de coordenação entre laboratórios de IA americanos.

Resposta da Anthropic

Evan Hubinger, líder de ciência de alinhamento da Anthropic, concordou com Coxon, admitindo que a empresa ainda não possui um plano para lidar com a superinteligência auto-improvisável.