Баггинг (Боотстрап Аггрегатинг) у машинском учењу: смањење варијансе и побољшање генерализације

Баггинг (Боотстрап Аггрегатинг) је техника која се користи у машинском учењу за смањење варијансе модела и побољшање његове способности генерализације. То укључује креирање више инстанци истог модела, свака са различитим подскупом података за обуку, и комбиновање њихових предвиђања да би се направило коначно предвиђање.ӕӕЕво како то функционише:ӕӕ1. Боотстрап узорковање: Насумични подскуп података за обуку се бира са заменом (тј. неки узорци могу бити изабрани више пута). Ово ствара нови скуп података који је насумичан приказ оригиналног.ӕ2. Обука модела: Свака инстанца модела се обучава на узорку за покретање.ӕ3. Предвиђање: Свака инстанца модела чини предвиђање на основу података теста.ӕ4. Комбиновање предвиђања: Предвиђања из свих инстанци модела се комбинују коришћењем технике као што је усредњавање или гласање да би се направила коначна предвиђања.ӕӕИдеја која стоји иза прикупљања је да насумични избор података о обуци и различитих подскупова карактеристика које користи свака инстанца модела ће смањити варијансу модела и побољшати његову способност генерализације на нове податке. Комбиновањем предвиђања више модела, складиштење у врећама такође може помоћи да се смањи прекомерна опрема и побољша робусност модела.ӕӕБаггинг се обично користи у стаблима одлучивања, случајним шумама и другим методама учења ансамбла. Посебно је корисно када у скупу података постоји много карактеристика и када је однос између карактеристика и циљне варијабле сложен.