Bits&Chips

Deepmind lost vergeetachtigheid in neuraal netwerk op

15 maart 2017 

Google-dochter Deepmind heeft een nieuw stapje gezet in het verbeteren van zelflerende diepe neurale netwerken. In een artikel in Pnas doen ze een methode uit de doeken om de netwerken te trainen met nieuwe data zonder eerder vergaarde kennis te overschrijven. Dat opent de deur naar ai-systemen die voortdurend blijven leren.

Diepe neurale netten kunnen succesvol verbanden leren leggen door aan de hand van een groot aantal voorbeelden de sterkte van de netwerkverbindingen in te stellen. Maar daarvoor moeten ze wel tijdens de trainingsfase al over een volledige set van voorbeelden beschikken. Wordt netwerk later ‘bijgetraind’ met nieuwe situaties, dan worden de verbindingen daar volledig op aangepast en verleert het netwerk de oude taken, iets dat bekend staat als catastrophic forgetting.

Bij biologische neurale netwerken gebeurt dit echter niet. Neurowetenschappers denken dat daar twee mechanismen aan ten grondslag liggen. De eerste is de aanwezigheid van een langetermijngeheugen, waarnaar het snellerende deel van ons brein kennis overdraagt die over langere tijd steeds terugkomt. Zo’n extra geheugen is echter niet erg aantrekkelijk om in een kunstmatig neuraal netwerk toe te passen. Maar het andere mechanisme blijkt wel goed te gebruiken: synaptische consolidatie, ofwel bescherming van verbindingen die belangrijk zijn voor een specifieke taak tegen overschrijving.

Het team aapte dit in hun kunstmatige neurale netwerken na met een mechanisme om elke verbinding te scoren op zijn belang voor een geleerde taak. Hoe hoger de score, hoe groter de weerstand tegen veranderingen bij latere trainingssessies.

Vervolgens lieten de Deepmind-researchers hun netwerken los op een Atari-emulator. De ai’s moeten hier op basis van normale input en output leren om videospelletjes meester te worden. Dit ging al heel aardig, maar tot nog toe vergaten de netwerken steeds hoe ze een spel moesten spelen wanneer ze op een nieuwe game getraind werden. Met toevoeging van het neurologische mechanisme kunnen ze dit wel onthouden.

Abonneer direct op onze nieuwsbrief

abonneren

Masterclass Machineveiligheid

4 april - 12 april

Pilz, Vianen

Ultra low power for Internet of Things

6 april - 7 april

Eindhoven

Ultra low power for Internet of Things

6 april - 7 april

Eindhoven