Sensitivity analysis of the CNN learning process using synthetic images

Uno de los principales objetivos en el campo del Deep Learning hoy en día es aumentar la interpretabilidad de las CNN. Este problema generalmente se ha abordado desde enfoques muy complejos. En este proyecto se presenta una metodología nueva y más sencilla para comprender cómo una CNN aprende a clasificar imágenes logrando niveles tan altos de precisión. Varios modelos compuestos por una capa convolucional con un solo filtro han sido entrenados con conjuntos de datos generados sintéticamente de tal forma que se centran en resolver un problema específico. Se ha demostrado que estos modelos obtienen buenos resultados así como que facilitan la interpretación de características y filtros, incluso permiten aplicar técnicas de ML para realizar los análisis, debido a la menor cantidad de parámetros a estudiar. Los modelos entrenados se centran en extraer detalles muy específicos como características de la imagen, no intuitivas para los seres humanos. Además, es esencial agregar ruido a los conjuntos de datos para evitar sesgos.

One of the main goals in the Deep Learning field nowadays is to increase CNN interpretability. This problem has usually been addressed from very complex approaches. A new and simpler methodology to understand how a CNN learns to classify images achieving such high levels of accuracy is presented in this thesis. Several models comprised of one convolutional layer with a single filter have been trained with datasets generated synthetically so they focus on solving a specific problem. It has been demonstrated that they obtain good results as well as ease feature and filter interpretation, even enable to apply ML techniques to perform the analyses, due to the the lower amount of parameters to study. Trained models are focused on extracting very specific details as image features which are counter-intuivite for human beings. Moreover, it is essential to add noise to the datasets in order to avoid bias.