Feedzai Research publica OpenL2D: uma estrutura inovadora de colaboração Humano-IA que direciona decisões para humanos quando essas são mais precisas do que o modelo de IA

Disponível no GitHub, o OpenL2D permitirá o desenvolvimento generalizado da IA Responsável na indústria

Nova York, NY e Lisboa, Portugal | 13 de maio de 2025 — A Feedzai, que usa AI para gerenciamento de risco, e é líder global em prevenção de fraudes e crimes financeiros, anunciou um grande marco: o trabalho pioneiro sobre a colaboração para tomada de decisões segura Human-IA que foi publicado na Nature Scientific Data, uma das revistas científicas mais prestigiadas do mundo. A Feedzai Research publicou tanto a nova estrutura OpenL2D quanto o conjunto de dados públicos FiFAR para guiar implementações.

Nova Estrutura de Comparação Para Transformar a Colaboração Humano-IA

• A estrutura OpenL2D da Feedzai permite a criação de assistentes virtuais realistas e personalizáveis que permitem a comparação de decisões de algoritmos de AI e delegar as decisões para humanos quando elas provavelmente são mais precisas do que o modelo utilizado, o que é crucial para setores de alto risco como o de detecção de fraudes.
• O conjunto de dados FiFAR, que foi projetado para ajudar pesquisadores a desenvolver e testar sistemas, é uma base pública que apresenta decisões de 50 analistas sobre 30.000 casos suspeitos de fraude que retratam casos reais, estabelecendo um padrão para avaliar sistemas de IA colaborativos.
• A pesquisa demonstra que o desempenho dos algoritmos de “aprendizagem para delegar” (L2D) varia amplamente dependendo da diversidade e capacidade dos analistas, destacando a necessidade de uma avaliação robusta e realista dos cenários vivenciados dentro das instituições financeiras e tratados por humanos.

Endereçando um Gap Crítico na AI Responsável

A colaboração Humano-AI é cada vez mais vital em setores onde erros podem ter consequências sérias. Até agora, a falta de grandes conjuntos de dados realistas com previsões de especialistas limitou o progresso no campo. O OpenL2D e o FiFAR da Feedzai buscam endereçar essa falta de informação:

• Simulando processos de tomada de decisão de especialistas—incluindo vieses, inconsistências e restrições de capacidade de trabalho—com base nos mais recentes estudos comportamentais e pesquisas específicas do tema.
• Permitindo que pesquisadores e profissionais testem rigorosamente os sistemas de AI sob condições que espelham os desafios do mundo real, como concept drift ( mudança de perfil), fairness concerns ( imparcialidade ), e capacity constraints( recursos limitados).
• Permitindo o desenvolvimento de sistemas de AI mais justos e confiáveis que podem transferir de maneira inteligente a decisão para o julgamento humano, especialmente em negócios sensíveis como a prevenção de fraudes financeiras.

Comentário de Especialista

“Nosso trabalho preenche a lacuna entre a pesquisa acadêmica e a implantação no mundo real de sistemas Humano-AI. Ao tornar essas ferramentas de código aberto, capacitamos a comunidade de pesquisa global a construir AImais segura, justa e eficaz para a tomada de decisões críticas“, disse Pedro Bizarro, autor correspondente, Diretor Científico e cofundador da Feedzai.

Ciência Aberta e Impacto na Indústria

• O OpenL2D já está disponível no GitHub, fornecendo código, conjuntos de dados e ferramentas de avaliação para a comunidade de pesquisa de IA.
• O conjunto de dados FiFAR é projetado especificamente para pesquisa de detecção de fraudes. No entanto, ao modificar as configurações dos assistentes, os pesquisadores podem usar a estrutura OpenL2D para gerar conjuntos de dados semelhantes para outros de .
• A flexibilidade da estrutura suporta comparação de imparcialidade, robustez e diversidade de assistentes—prioridades-chave para reguladores e líderes da indústria.

Recursos Adicionais:

• Artigo: O Futuro da IA Depende da Confiança—E Isso Começa Agora
• Guia: A Estrutura TRUST: Acelere a Inovação com IA Responsável
• Vídeo: Segurança, Privacidade e Precisão: O Núcleo da IA Responsável