Seguridad en algoritmos de IA.

 Seguridad en algoritmos de IA.

Sobre los algoritmos...

Por definición, un algoritmo es una secuencia finita de pasos para resolver una problemática o encontrar la solución a algo. 

Los algoritmos son ampliamente usados en el mundo de la computación, se puede decir que son la base del funcionamiento de las computadoras, el software que ejecuta el hardware de una computadora es en esencia un algoritmo (o un conjunto de ellos). Cuando hablamos de inteligencia artificial, los algoritmos son pieza fundamental, puesto que los algoritmos son la base de esta.

Es gracias a algoritmos muy complejos que la IA es capaz de procesar datos, tomar decisiones, y aprender de la información. Sin el uso de complejos algoritmos, la IA no podría "pensar" o adaptarse a situaciones nuevas.

Habiendo dicho esto, si los algoritmos son un pilar fundamental de la IA podemos deducir que es de vital importancia proteger estos mismos para evitar el mal funcionamiento o la corrupción de la IA. Para llevar a cabo esto, se implementan distintos métodos que aseguran la integridad de los algoritmos de IA, veamos ejemplos de estos métodos a través de la siguiente infografía:

Explicabilidad y transparencia...

Como pudimos ver en la infografía, la explicabilidad y transparencia es un método enfocado a asegurar la integridad de los algoritmos de IA. Gracias a este enfoque, podemos entender, controlar y confiar en los algoritmos. Esto es especialmente crítico en medicina, finanzas y justicia, donde es esencial comprender las decisiones que toma la IA.

Para comprender mejor ambos conceptos, veamos el siguiente video:

Las ventajas que nos trae la Explicabilidad y transparencia son:

• Incrementar la Confianza: Los usuarios y stakeholders tienen más confianza en sistemas de IA cuando comprenden sus fundamentos y limitaciones.
• Cumplir con Regulaciones: Muchas legislaciones emergentes, como el RGPD en Europa, exigen explicabilidad en las decisiones automáticas que afecten a las personas.
• Detectar y Corregir Sesgos: Facilitan la identificación de sesgos en los datos o el modelo, permitiendo correcciones tempranas.

Los sesgos en IA...

Los sesgos en inteligencia artificial (IA) se refieren a errores o tendencias en los modelos de IA que resultan en decisiones o predicciones injustas, desequilibradas o discriminatorias. Estos sesgos generalmente se introducen de forma inadvertida durante el proceso de desarrollo y entrenamiento de los modelos.

Podemos identificar varios tipos de sesgo:

• Sesgo en los Datos de Entrenamiento: Si el conjunto de datos con el que se entrena un modelo es desigual o no representa adecuadamente a la población, el modelo puede aprender y perpetuar esos mismos patrones. 
• Sesgo de Selección: Ocurre cuando los datos utilizados no representan correctamente la realidad o la población objetivo. Si una IA para diagnósticos médicos se entrena solo con datos de personas adultas, podría no funcionar bien en diagnósticos pediátricos, lo cual es un sesgo de selección. 
• Sesgo de Confirmación: Este sesgo ocurre cuando los diseñadores del modelo seleccionan o interpretan los datos de una manera que confirma sus creencias o expectativas preexistentes. Si los diseñadores de IA asumen, consciente o inconscientemente, que ciertos resultados son más probables, podrían ajustar el modelo para confirmar sus hipótesis iniciales, perpetuando prejuicios.
• Sesgo de Representación: Surge cuando ciertas características o grupos están subrepresentados en los datos. Por ejemplo, un modelo de IA que reconoce rostros podría funcionar menos eficientemente para personas de ciertos grupos étnicos si estos no estuvieron bien representados en los datos de entrenamiento. 
• Sesgo de Medición: Ocurre cuando las variables o características que se miden no representan adecuadamente el objetivo del modelo. Por ejemplo, en un modelo para predecir el éxito de empleados, usar solo la productividad actual como métrica podría no capturar otras cualidades importantes, como el trabajo en equipo. 
• Sesgo de Agregación: Este sesgo se da cuando el modelo agrupa datos de personas con características diferentes y las trata de manera uniforme. Un ejemplo es un modelo de diagnóstico médico que no distingue entre géneros o edades, y hace recomendaciones generalizadas sin considerar diferencias individuales. 

Veamos el siguiente video acerca de el sesgo en los modelos de IA:

Para mitigar los sesgos de IA se toman medidas como:

• Recolección de Datos Diversos: Asegurarse de que los datos de entrenamiento representen a todos los grupos relevantes ayuda a reducir sesgos.
• Auditorías y Evaluación de Sesgos: Auditar periódicamente los modelos y evaluar los sesgos con métricas específicas es crucial para su identificación temprana.
• Normalización y Ajuste de Datos: Aplicar técnicas que ajusten los datos para que reflejen mejor una distribución equilibrada o justa.
• Explicabilidad y Transparencia: Hacer que los modelos sean explicables y transparentes permite detectar los puntos donde puede existir sesgo, ayudando a abordarlo de manera eficaz.

En resumen...

La base de la inteligencia artificial es el uso de algoritmos con una gran complejidad, sin los algoritmos la IA no sería capaz de hacer todo lo que ya está haciendo a día de hoy, y por tanto, proteger estos algoritmos y asegurarnos que funcionan y se comportan de forma adecuada es crucial para la integridad de un modelo de IA. Cuando no se tiene el suficiente cuidado sobre el algoritmo que da vida a un modelo de inteligencia artificial, este puede comenzar a corromperse y sufrir de problemas, lo que puede desencadenar en problemas de transparencia, de explicabilidad o incluso llevar al modelo a un sesgo, en donde sus respuestas y salidas serán erróneas. 

Es crucial asegurar la integridad de los algoritmos de IA y reforzarlos para resistir a las anomalías que pueden afectar su funcionamiento esperado.

Fuentes y recursos.

Codificando Bits. INTERPRETABILIDAD y EXPLICABILIDAD en la Inteligencia Artificial. Enlace: INTERPRETABILIDAD y EXPLICABILIDAD en la Inteligencia Artificial - YouTube

Diario Público. IA Desvelada (5/8): Sesgos de la Inteligencia Artificial | Verdaderos riesgos y ventajas. IA Desvelada (5/8): Sesgos de la Inteligencia Artificial | Verdaderos riesgos y ventajas - YouTube

IONOS ¿Qué es un algoritmo? Definición y ejemplos. Enlace: ¿Qué es un algoritmo? - IONOS MX

Brownell,B. Ética y responsabilidad en la IA: transparencia y explicabilidad en la inteligencia artificial. Enlace: Ética y responsabilidad en la IA: transparencia y explicabilidad en la inteligencia artificial | KnowledgeCity