Santander AI Lab ha compartido diferentes proyectos en GitHub (SantanderAI)
La lista de repos es de lo más interesante y algunos de uso inmediato
1️⃣ gen-fraud-graph es un repo que proporciona datos de fraude ficticios para entrenar sin arriesgar datos sensibles:
Para detectar fraude no basta con mirar una transacción aislada; lo que delata a los estafadores son las relaciones entre cuentas (quién manda dinero a quién, cuentas que aparecen siempre juntas, testaferros). Eso se dibuja como una red de puntos conectados, un "grafo". El problema: para enseñarle a un sistema a reconocer esas redes hace falta un montón de ejemplos, y usar datos reales de clientes es un riesgo legal y de privacidad enorme. Esta herramienta inventa redes de fraude falsas pero realistas (millones de cuentas) para que cualquiera pueda entrenar y probar sus detectores sin tocar ni un solo dato real de una persona
2️⃣ mech-gov-framework son frenos y reglas para que una IA no decida sola en cosas serias:
Cuando se usa un modelo de IA para decisiones que importan (aprobar un crédito, bloquear una operación), no puedes dejar que haga lo que quiera. Esto es un sistema de control: pone límites infranqueables ("hard gates" = barreras que la IA no puede saltarse pase lo que pase), define distintos niveles de supervisión según el riesgo de la decisión, y mide si la IA se está portando como debe.
3️⃣ mutatis-mutandis es un detector de injusticia:
Sirve para comprobar si un sistema trata distinto a dos personas que en realidad son iguales en lo que importa. La idea: coges un caso, cambias solo un dato sensible (por ejemplo el género o el origen) dejando todo lo demás idéntico, y miras si la respuesta cambia. Si a una persona le dan el crédito y a su "gemela" idéntica salvo por ese detalle se lo niegan, ahí hay discriminación.
Que bancos como Santander empiecen a compartir parte de ese trabajo en abierto es una señal muy buena la verdad, que se abran a la comunidad da esperanza a que otras compañías lo hagan
Os dejo el GitHub en comentarios porque merece la pena echarle un ojo.