Análisis comparativo entre redes neuronales clásicas y su versión de impulso.

Abstract

Una red neuronal artificial (NN: Neural Network) recibe ese nombre porque busca simular el proceso biológico neuronal. Es un modelo computacional que consiste en un conjunto de unidades interconectadas, llamadas neuronas, que reciben entradas y generan resultados a partir de conexiones ponderadas.

Es sabido que las NN son utilizadas en labores como el procesamiento de lenguaje y el reconocimiento de imágenes (He et al., 2016), las cuales son importantes en campos como la industria, la medicina (P., 2016), la seguridad, la educación, entre otros. A pesar de que las redes neuronales artificiales clásicas han dado solución a una amplia gama de problemáticas, es necesario mencionar que tienen ciertas limitaciones, pues este modelo típicamente requiere bastante memoria y medios computacionales para entrenar y producir resultados (G., 2018), lo que las hace poco prácticas en entornos con recursos limitados, como dispositivos móviles o sistemas embebidos.

Además, las redes clásicas en ocasiones pueden no ser adecuadas para problemas que involucran dinámicas temporales, como por ejemplo predecir el comportamiento futuro de un sistema a lo largo del tiempo (LeCun et al., 2015). Siempre que se busca mejorar o resolver las debilidades de un sistema, se consideran nuevas alternativas; en este caso, nuestra alternativa recibe el nombre de red neuronal por impulsos (SNN: Spiking Neural Network).

Las SNN pertenecen a la tercera generación de redes (W., 1997) y están diseñadas para simular de manera aún más precisa el sistema de red biológico, ya que no solo recrean el estado neuronal y sináptico, sino que también incorporan el concepto de tiempo en su modelo. El uso de neuronas de impulso para modelar redes biológicas se remonta al trabajo de Hodgkin y Huxley en la década de 1950, aunque fue hasta finales de los años 1980 cuando se dio el primer enfoque sistemático para construir este modelo como redes neuronales artificiales, propuesto por Carver Mead (C., 1990).

Las SNN fueron inspiradas en el procesamiento biológico de la información, donde las señales binarias asincrónicas se comunican y procesan masivamente en paralelo (Pfeiffer M., 2018). Así, a pesar de que las redes neuronales clásicas han progresado en términos de eficiencia, en el modelo SNN los eventos de impulsos son escasos en el tiempo y el espacio, lo que facilita la construcción de hardware de baja potencia (Tavanaei et al., 2019). En otras palabras, la energía consumida depende del número de impulsos: si se utilizan pocos impulsos que contengan mucha información, el consumo energético se reduce.

Otra ventaja que ofrece este modelo es su baja latencia de red, entendida como la suma de retardos temporales producidos por la demora en la propagación de paquetes dentro de la red. Es decir, las redes de impulsos son capaces de representar y procesar información con una alta precisión temporal, lo cual es muy importante para aplicaciones en el mundo real que requieren decisiones rápidas y tiempos de respuesta cortos, como el reconocimiento de voz o los sistemas de control en tiempo real.

Un ejemplo de dichas aplicaciones es el chip llamado TrueNorth, que realiza diversas actividades incluyendo reconocimiento de imagen y voz, así como fusión de sensores. Este chip, diseñado para operar con bajo consumo de energía mediante la arquitectura de redes de impulso (Merolla P. A., 2014), materializa la importancia de continuar con la investigación en el modelo SNN.

Este trabajo pretende realizar un análisis de las arquitecturas de redes neuronales clásicas completamente conectadas en comparación con su versión de red de impulsos, con el propósito de comprender en qué medida una versión provee mejores soluciones que su contraparte en una misma tarea. Así, dada la evidencia del uso del modelo SNN en bioingeniería, robótica y otros campos, la realización de este análisis se vuelve importante, ya que puede orientarnos hacia aplicaciones en nuevos contextos o a mejorar las aplicaciones ya existentes.