Transparencia en IA

Al rededor de la Inteligencia artificial existe la sensación que la transparencia sera la forma en la que se podrá garantizar que el aprendizaje automático no lleva «daños colaterales » o que no hay «malas practicas» y esto tiene especial relevancia cuando hablamos de Ia en el entorno de Salud.

Pero como se puede llevar esta transparencia en una práctica operativa en una IA que cada día más apuesta por el deep learning ?

Los humanos por naturaleza nos sentimos incómodos con la idea de que alguien nos prediga lo que haremos con algún sentido de precisión y sobre todo este malestar aumenta cuando lo hace una organización sobre nosotros , en salud esta incomodidad esta rebajada porque depositamos toda nuestra confianza en los profesionales sanitarios, pero estos cada día toman decisiones en base a soluciones que están prediciendo (o realizarán predicciones ) nuestra salud.

La solución es la transparencia , transparencia gubernamental, pero como poder poner a disposición esta transparencia gubernamental,?

La transparencia es un sello de una democracia moderna, pero la transparencia sobre los datos es algo que todavía la administración publica no ha madurado.

Que los algoritmos y las reglas que se aplican sobre estos algoritmos sean publicas y abiertas es todavía algo que estamos muy lejos, si esto lo llevamos al entorno de salud, es mucho más complejo ya que con los datos de salud, recogidos por los servicios de salud públicos , le aplicamos soluciones que en algunos casos son desarrolladas y puestas en el punto de atención por la industria , que se rige por unas normas de competencia y mercado.

La solución pasa porque los profesionales sean los que definan y validen los algoritmos que se aplican en el sistema de salud y para dar cobertura a esta validación han de aparecer nuevas organizaciones promovidas por los servicios de salud que permitan evaluar y validar los comportamientos de los algoritmos. Estas organizaciones han de disponer de la independencia que necesiten para poder emitir sellos que garanticen la transparencia de las soluciones de IA para el ciudadano, disponiendo de esta forma una plataforma auditoria independiente ganando la confianza del sistema.

Pero el ciudadano ha de ser una parte activa de esta transparencia y esta pasa por una participación más activa del ciudadano sobre sus datos (datos que ha generado el y que son custodiados por el sistema de salud) que el ciudadano conozca todos los datos y su naturaleza y pueda ejercer los derechos para que estos puedan ser utilizados de manera fácil para el desarrollo de la salud.

Porque la transparencia no solo esta relacionada con la confianza sino también con la fiabilidad. Un algoritmo con principios de transparencia claros y certificados es un algoritmo fiable.

Y que principios puede definir la transparencia de un algoritmo:

  • Licito: Se ha de garantizar que cumplimiento de todas las leyes y reglamentos aplicables en salud y su aplicación dentro del proceso asistencial
  • Ético: Asegurar el cumplimiento de los principios y valores éticos (principios y valores que han de ser públicos )
  • Robusto: Robustez desde el punto de vista técnico, porque un algoritmo o una solución de IA puede probocar daños accidentales en la salud si el algoritmo en toma alguna decisión erronea.

Como medir la robusteza de una solución de IA merece un desarrollo especifico….

En resumen la transparencia de IA es una de las lineas de trabajo prioritarias que se deben de abordar para poder incorporar la IA al punto de atención de salud , estamos en las fases iniciales de la incorporación de la IA a salud, crear estructuras robustas que permitan incorporar la IA como un componente más de salud (no como una marca de moda) requiere de crear estructuras solidas que de la confianza y garantía a los profesionales de salud y a los ciudadanos.

Carlos Gallego

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *