Investigadores del Instituto Fraunhofer de Telecomunicaciones, Instituto Heinrich Hertz (HHI) y la Technische Universität Berlin han desarrollado una tecnología denominada LRP (Propagación de la Relevancia por Capas) que revela los criterios de uso de los sistemas de Inteligencia Artificial (IA) cuando se toman decisiones.
La LRP, por sus siglas en inglés, hace que los pronósticos de IA sean explotables y, al hacerlo, deja al descubierto estrategias poco fiables para la solución de problemas. Además, se ha puesto en marcha un mayor desarrollo de la tecnología LRP denominado Análisis de Relevancia Espectral (SpRAy).
Wojciech Samek, jefe del Grupo de Investigación de Aprendizaje Automático (ML) en Fraunhofer HHI, ha explicado que no sólo se supone que el resultado es correcto, sino la estrategia de solución.
“En el pasado, los sistemas de IA han sido tratados como cajas negras. Se confió en los sistemas para hacer las cosas correctas. Con nuestro software de código abierto, que utiliza la Propagación de la Relevancia de Layer-Wise, hemos logrado que el proceso de búsqueda de soluciones de los sistemas de IA sea transparente”.
Por su parte, Klaus-Rob-ert Müller, profesor de Aprendizaje Automático en la Universidad de Texas, ha agregado que se encuentran utilizando LRP para visualizar e interpretar redes neuronales y otros modelos de Aprendizaje Automático.
“Utilizamos LRP para medir la influencia de cada variable de entrada en la predicción general y analizar las decisiones tomadas por los clasificadores”.
Y es que, para los expertos de Fraunhofer y la Technische Universität Berlin, confiar en los resultados de las redes neuronales significa necesariamente entender cómo funcionan. Los sistemas de IA, de acuerdo con las pruebas del equipo de investigación, no siempre aplican las mejores estrategias para alcanzar una solución.
Un conocido sistema de Inteligencia Artificial, por ejemplo, clasifica las imágenes según el contexto. Ha asignado fotografías a la categoría “Barco” cuando se veía una gran cantidad de agua en la imagen. Esto, al parecer, no estaba resolviendo la tarea real de reconocer imágenes de barcos, incluso si en la mayoría de los casos seleccionaba las fotos correctas.
Para Wojciech Samek, muchos algoritmos de Inteligencia Artificial utilizan estrategias poco confiables y llegan a soluciones poco prácticas, según los resultados de las investigaciones.
Descubriendo las redes neuronales
Desde el Instituto también se ha informado que la tecnología LRP decodifica la funcionalidad de las redes neuronales y descubre qué características se utilizan, por ejemplo, para identificar un caballo como tal y no como un burro o una vaca.
Además, se supo que puede identificar la información que fluye a través del sistema en cada nodo de la red, lo que permite investigar incluso redes neuronales muy profundas.
La tecnología, en la práctica, identifica los elementos de entrada individuales que se han utilizado para hacer una predicción.
“Así, por ejemplo, cuando una imagen de una muestra de tejido se ingresa en un sistema de IA, la influencia de cada píxel individual se cuantifica en los resultados de la clasificación. En otras palabras, además de predecir qué tan ‘maligno’ o ‘benigno’ es el tejido con imágenes, el sistema también proporciona información sobre la base de esta clasificación”.
Se ha precisado que los equipos de investigación de Fraunhofer HHI y la Technische Universität Berlin están actualmente formulando nuevos algoritmos para la investigación de otras preguntas, con el fin de hacer que los sistemas de Inteligencia Artificial sean aún más confiables y sólidos.
Por ahora, los socios del proyecto han publicado sus resultados de investigación en la revista Nature Communications.
La IA en todas partes
En la publicación del Instituto se ha explicado que la Inteligencia Artificial se ocupa del desarrollo de sistemas que pueden resolver problemas de manera independiente y actuar de manera análoga a los patrones de pensamiento y comportamiento humanos.
El mayor progreso, en la actualidad, se está haciendo en el área de Aprendizaje Automático (Machine Learning, ML), un subcampo de la IA. El ML se ocupa de los métodos para extraer el conocimiento de los datos y los contextos de aprendizaje independientes contenidos en los datos.
“El progreso es el resultado del uso de redes neuronales artificiales basadas en conexiones entre unidades de cálculo matemático que, en principio, imitan la estructura neural del cerebro humano”.
Por otro lado, un subcampo de ML, Aprendizaje Profundo (Deep Learning, DL), cubre una clase de nuevos procedimientos que hacen posible enseñar y entrenar redes neuronales artificiales complejas.
“La IA ya está firmemente incrustada en nuestra vida cotidiana y está conquistando cada vez más territorio. Por ejemplo, los asistentes de voz ya son un elemento cotidiano en los teléfonos inteligentes, automóviles y hogares de muchas personas”.
Se ha indicado que el progreso en el campo de la IA se basa principalmente en el uso de redes neuronales. Las redes neuronales, al simular la funcionalidad del cerebro humano, enlazan unidades definidas matemáticamente entre sí; sin embargo, en el pasado no se sabía cómo tomaba decisiones una red neuronal y las predicciones dependían de la calidad de los datos de entrada.
Es por eso que, ahora, el enfoque es conseguir que los sistemas de IA proporcionen estrategias de solución de problemas absolutamente confiables en áreas sensibles de aplicación, tales como los diagnósticos medicinales y en áreas críticas para la seguridad.
