Aj neurónové siete sa učia lepšie po dobrom šlofíku

Neurónové siete sú dnes veľmi široko používanou formou umelej inteligencie. Jedným z ich nedostatkov však je, že keď sa nejaká sieť naučí dve úlohy jednu po druhej, tak druhá úloha premaže prvú – tomuto fenoménu sa hovorí katastrofické zabúdanie.

Vedcom z Univerity of California – San Diego sa podarilo vynájsť nový spôsob na odstránenie tohto úkazu. A keďže neurónové siete sú inšpirované neurónmi v mozgu, tak možno nie je prekvapivé, že tento prístup je inšpirovaný ľudským spánkom, keďže spánok u ľudí hrá kritickú úlohu pri učení a uchovávaní spomienok.

Počas spánku sa v mozgu opakovane reaktivujú špecifické neurónové trasy, ktoré boli aktívne počas bdelého učenia. Vedci sa teda pokúsili napodobniť tento proces v neurónovej sieti prehrávaním náhodného šumu, ktorý bol skonštruovaný tak, aby v sieti aktivoval neuróny s podobnou pravdepodobnosťou ako pôvodné dáta. Trénovanie druhej úlohy bolo potom striedané s púšťaním takéhoto náhodného šumu, čo viedlo k posilneniu váh v synapsiách, ktoré boli dôležité pre správne riešenie prvej úlohy a teda nedošlo k zabúdaniu.

Zdroj: https://journals.plos.org/ploscompbiol/article?id=10.1371/journal.pcbi.1010628#sec010

Autor: Mgr. Peter Guba