Pesquisadores descobrem falha em ferramenta de IA chinesa - Em julho, pesquisadores encontraram falhas em dois modelos de inteligência artificial (IA) da empresa chinesa Moonshot, que podem ser persuadidos a discutir bioterrorismo e assassinatos.

Falhas de segurança

A empresa Mindgard, que testa a segurança de sistemas de IA, informou ao jornal britânico BBC que os modelos Kimi K2.6 e K3 Swarm evadiram restrições colocadas pelos desenvolvedores.

Riscos associados a jailbreaks

Os jailbreaks, processos complexos que permitem que pesquisadores vejam se os sistemas de IA ignoram limites estabelecidos, apresentam riscos diferentes dos incidentes recentes envolvendo ferramentas autônomas de IA.

Expertos alertam que hackers e outros mal-intencionados podem tentar usar esses processos para causar danos.