Circuit Breaker Labs, uma das finalistas do TechCrunch Startup Battlefield 2026, busca tornar a inteligência artificial mais segura, especialmente para crianças e adultos. A startup foi motivada por casos em que assistentes virtuais contribuíram para situações psicologicamente prejudiciais.

Desafios na segurança da IA

A startup identifica que modelos de IA podem ser enganados por nuances linguísticas e contextos culturais. Por exemplo, um assistente virtual pode interpretar mal palavras como 'eu quero estar contigo', levando a ações perigosas.

Para enfrentar esses desafios, Circuit Breaker Labs desenvolveu agentes de IA que imitam pessoas de diferentes idades, culturas e idiomas. Esses agentes são usados para testar a capacidade dos modelos de detectar interações potencialmente perigosas.