Feedzai Research publica OpenL2D: un innovador marco de colaboración humano-IA que dirige las decisiones a los humanos cuando son más precisas que el modelo de IA.

Disponible en GitHub, OpenL2D permitirá que la IA Responsable se desarrolle ampliamente en la industria

Nueva York, NY y Lisboa, Portugal | 13 de mayo de 2025 — Feedzai, la empresa de gestión de riesgos de IA y líder mundial en prevención de fraudes y delitos financieros, anunció un hito importante: su trabajo pionero sobre la colaboración entre humanos e IA para la toma de decisiones segura se ha publicado en Nature Scientific Data, una de las revistas científicas más prestigiosas del mundo. Feedzai Research ha publicado el nuevo marco OpenL2D y el conjunto de datos públicos FiFAR para guiar las implementaciones.

New Benchmarking Framework Set to Transform Human-AI Collaboration

• El marco OpenL2D de Feedzai permite la creación de asistentes virtuales realistas y personalizables que permiten que los algoritmos de IA comparen decisiones y deleguen decisiones a humanos cuando es probable que sean más precisas que el modelo utilizado, lo que es crucial para industrias de alto riesgo como la detección de fraude.
• El conjunto de datos FiFAR, que fue diseñado para ayudar a los investigadores a desarrollar y probar sistemas, es una base de datos pública que presenta decisiones de 50 analistas sobre 30.000 casos sospechosos de fraude que representan casos del mundo real, estableciendo un estándar para evaluar sistemas de IA colaborativos.
• La investigación demuestra que el rendimiento de los algoritmos de “aprender a delegar” (L2D) varía ampliamente dependiendo de la diversidad y capacidad de los analistas, lo que resalta la necesidad de una evaluación sólida y realista de los escenarios experimentados dentro de las instituciones financieras y manejados por humanos.

Abordar una brecha crítica en la IA responsable

La colaboración entre humanos e IA es cada vez más vital en industrias donde los errores pueden tener graves consecuencias. Hasta ahora, la falta de conjuntos de datos grandes y realistas con predicciones de expertos ha limitado el progreso en este campo. OpenL2D y FiFAR de Feedzai buscan abordar esta falta de información:

• Simular procesos de toma de decisiones de expertos, incluidos sesgos, inconsistencias y limitaciones de capacidad de trabajo, basados ​​en los últimos estudios de comportamiento e investigaciones específicas sobre temas.
• Permitir a los investigadores y profesionales probar rigurosamente los sistemas de IA en condiciones que reflejan desafíos del mundo real, como la deriva conceptual, las preocupaciones de equidad y las limitaciones de capacidad.
• Permitir el desarrollo de sistemas de IA más justos y confiables que puedan transferir de manera inteligente la toma de decisiones al juicio humano, especialmente en negocios sensibles como la prevención del fraude financiero.

Comentario de Expertos

“Nuestro trabajo conecta la investigación académica con la implementación práctica de sistemas de IA humana. Al abrir estas herramientas, empoderamos a la comunidad investigadora global para desarrollar una IA más segura, justa y eficaz para la toma de decisiones cruciales”, afirmó Pedro Bizarro, autor correspondiente, director científico y cofundador de Feedzai.

Ciencia abierta e impacto en la industria

• OpenL2D ahora está disponible en GitHub y proporciona código, conjuntos de datos y herramientas de evaluación a la comunidad de investigación de IA.
• El conjunto de datos FiFAR está diseñado específicamente para la investigación de detección de fraudes. Sin embargo, al modificar la configuración de los asistentes, los investigadores pueden utilizar el marco OpenL2D para generar conjuntos de datos similares para otros.
• La flexibilidad del marco favorece la equidad en la comparación, la solidez y la diversidad de asistentes, prioridades clave para los reguladores y los líderes de la industria.