Ver trabajo

Fecha de propuesta: 12/09/2024 (Aceptada)

Descripción:
Este proyecto propone el desarrollo de un framework abierto que, a través de una plataforma web, permita evaluar modelos de inteligencia artificial en términos de confianza y robustez. Los usuarios podrán cargar sus modelos y aplicar distintas pruebas de estabilidad, resiliencia y detección de sesgos. El framework integrará herramientas de explicabilidad como SHAP y LIME, así como análisis de la respuesta del modelo ante perturbaciones o datos fuera de distribución.

Objetivos funcionales:
1.- Desarrollar un framework que permita la evaluación abierta de modelos de IA en términos de confianza y robustez. 2.- Facilitar la carga y análisis de modelos mediante una plataforma web intuitiva. 3.- Implementar pruebas de estabilidad, resiliencia y detección de sesgos en los modelos. 4.- Integrar herramientas de explicabilidad como SHAP o LIME para interpretar las decisiones de los modelos. 5.- Probar la capacidad de los modelos para generalizar ante perturbaciones y datos fuera de distribución. 6.- Integración y despliegue continuo.

Entornos de desarrollo y explotación:
Lenguaje de programación a escoger por el alumno Git Jenkins o Github Actions