Normalisoinnin ja epänormalisoinnin ymmärtäminen syväoppimisessa

Syväoppimisen yhteydessä normalisoimalla tarkoitetaan prosessia, jossa syöttötietojen skaalataan uudelleen siten, että niiden keskiarvo on 0 ja keskihajonnan arvo 1. Tämä tehdään tyypillisesti sen estämiseksi, että malli ei ole herkkä syötetietojen mittakaavalle. mallin yleistämisen parantamiseksi uuteen dataan.

Unnormalisointi on prosessi, jolla kumotaan syöttötietoihin sovellettu normalisointimuunnos. Tämä tehdään tyypillisesti mallin eteenpäinsiirron jälkeen, jotta mallin tulos on samassa mittakaavassa kuin tulo.

Jos meillä on esimerkiksi malli, joka ottaa kuvan syötteenä ja tulostaa piirrekartan, saatamme Käytä normalisointia syötekuvaan vähentämällä keskiarvo ja jakamalla keskihajonnalla. Eteenpäin kulkemisen jälkeen poistamme lähtöpiirrekartan normaalista lisäämällä keskiarvon ja kertomalla keskihajonnan. Tämä varmistaa, että tulosteen ominaisuuskartalla on sama mittakaava kuin syöttökuvalla.

Epänormalisointi on tärkeä askel monissa syvän oppimisputkien menetelmissä, koska sen avulla voimme verrata mallin tulostetta syötteeseen ja visualisoida mallin oppimia ominaisuuksia. malli. Sen avulla voimme myös käyttää samaa syöttödataa useille malleille ilman, että meidän tarvitsee huolehtia tuloksiin vaikuttavan syötteen laajuudesta.