Artificial Intelligence Machine Learning

Wat is Deep Learning ?

by Arjan Schrauwen

Convolutionele Neurale Netwerken, Artificial Neurale Netwerken, Recurrent Neural Netwerken zijn voorbeelden van Deep Learningtechnieken.

Definitie

Deep Learning is een onderdeel van Machine Learning. Deze Machine Learning techniek bootst daarbij het menselijk brein zo goed mogelijk door middel van een kunstmatige neuraal netwerk. Dit neurale netwerk werkt met behulp van een inputvariabelen (features, sensorgegevens), verborgen lagen (hidden layers) en outputvariabelen (uitkomsten, voorspellingen). De architectuur van een neuraal netwerk lijkt hiermee op het menselijk brein:

Afbeelding 1: Neuron uit menselijk brein

Afbeelding 2: Neuraal netwerk

Een neurale netwerk traint en test men met behulp van een dataset. Inputvariabelen leiden tot bepaalde berekende outputs. Deze berekende outputs vergelijkt men met de daadwerkelijke outputs uit de trainset. De verschillen tussen de berekende output en de daadwerkelijke output leiden tot het bijstellen van de ‘nodes’ uit de verborgen laten. Dit bijstellen gebeurt door bepaalde gewichten toe te kennen aan deze nodes. Het doel van het bijstellen van deze gewichten is om de berekende output zo dicht mogelijk te laten komen bij de daadwerkelijke output uit de trainset. Na het trainen vindt de evaluatie van de gewichten plaats met behulp van de testset. Op basis hiervan bepaalt men de nauwkeurigheid van het model/algoritme.

Black box

Neurale netwerken kunnen erg goed zijn in het maken van voorspellingen op basis van complexe data, maar: een neuraal netwerk is een black box. Data gaat in de blackbox, en het neurale netwerk genereert een uitkomst. Het nadeel van de black box is zoals de naam al aangeeft dat het lastig is om na te gaan waarom het juist een bepaalde uitkomst genereert. Dit gegeven is ontzettend lastig in financiële markten of bij juridische vraagstukken. Het is bijvoorbeeld lastig uit te leggen als een lening wordt geweigerd omdat dit de uitkomst is van een algoritme waarvan de werking niet goed begrepen wordt.

Afbeelding 3: Meme uit Little Britain

Dit is niet uit te leggen en is ook niet houdbaar in juridische discussies. Om die reden worden voor problemen waarbij transparantie vereist is gebruik gemaakt van traditionele machine learningtechnieken zoals Decision Trees, Regressie, k-Nearest Neighbours enzovoorts. Echter waar deze noodzaak niet van toepassing is, kan een neuraal netwerk een goede uitkomst zijn. Het nadeel is wel dat als er in een bepaald stadium begrepen moet worden waarom een neuraal netwerk juist die uitkomst genereert dat dit zeer lastig tot onmogelijk kan zijn!

Toepassing

Neurale netwerken zijn ontzettend handig bij veel inputdata waarbij de uitkomsten van het algoritme bepalend zijn voor het gedrag van het gebouw Dit is vaak het geval bij een gebouwbeheersysteem. Hiermee is het gedrag van het gebouw beter te voorspellen. Het nadeel is wel dat een groot neuraal netwerk veel rekenkracht vraagt, zelfs voor de hedendaagse hardware. Het ontwerp van de architectuur van een neuraal netwerk is hierbij bepalend.