agosto 17, 2019

Transparencia en IA

Al rededor de la IA existe una sensación en la opinión publica de que la transparencia sera la forma ideal para poder garantizar que el aprendizaje automático no lleva “daños colaterales” o que las posibles “malas prácticas” no se cumplan (sobre todo cuando hablamos de salud).

Pero como se puede llevar esta transparencia a una práctica operativa?

El hecho que los humanos nos sentimos incómodos con la idea de que alguien prediga lo que haremos con algún sentido de precisión, este malestar aumenta significativamente cuando lo hace una organización  sobre nosotros, para tomar decisiones en base a predicciones, aunque estas decisiones las tomen organismos públicos (bajo los gobiernos de turno)
 
La solución es la transparencia gubernamental, pero como poder disponer de esa transparencia?
 
La transparencia es un sello de una democracia moderna, la transparencia sobre los datos es algo que todavía los gobiernos no han madurado, que las decisiones gubernamentales y las reglas que se aplican sobre los algoritmos que se aplican a sus ciudadanos sean abiertas y publicas es algo que todavía estamos muy lejos, pero el gran reto no solo es la madurez de los gobiernos para desarrollar políticas de transparencia sobre los datos sino el gran reto es como desarrollar la IA para ponerla al servicio de la salud, para ello se necesitan profesionales que definan , y validen algoritmos , como promovemos una investigación en algoritmos bajo un principio de transparencia?
 
En este escenario aparecen nuevas organizaciones, organizaciones que actúen como control sobre el gobierno, organizaciones que evalúen y validen los comportamientos de los algoritmos, organizaciones independientes que bajo su sello garanticen una transparencia para el ciudadano , disponiendo de una plataforma de auditoria independiente ganando la confianza.
Y aquí el ciudadano también ha de evolucionar a ser una parte activa de la transparencia de sus datos y su aplicación, el consentimiento individual y su extensión como procesador de sus datos puede ayudar a desarrollar esa transparencia.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *