Makine Öğreniminde Torbalama (Önyükleme Toplama): Varyansı Azaltma ve Genellemeyi İyileştirme

Bagging (Bootstrap Aggregating), bir modelin varyansını azaltmak ve genelleme yeteneğini geliştirmek için makine öğreniminde kullanılan bir tekniktir. Her biri eğitim verilerinin farklı bir alt kümesine sahip olan aynı modelin birden fazla örneğini oluşturmayı ve son tahmini yapmak için tahminlerini birleştirmeyi içerir.

İşte şu şekilde çalışır:

1. Önyükleme örneklemesi: Eğitim verilerinin rastgele bir alt kümesi değiştirilerek seçilir (yani bazı örnekler birden fazla seçilebilir). Bu, orijinal veri kümesinin rastgele temsili olan yeni bir veri kümesi oluşturur.
2. Model eğitimi: Modelin her örneği önyükleme örneği üzerinde eğitilir.
3. Tahmin: Modelin her örneği, test verileri üzerinde bir tahmin yapar.
4. Tahminlerin birleştirilmesi: Modelin tüm örneklerinden elde edilen tahminler, nihai tahmini yapmak için ortalama alma veya oylama gibi bir teknik kullanılarak birleştirilir. modelin her örneği modelin varyansını azaltacak ve yeni verilere genelleme yeteneğini geliştirecektir. Torbalama, birden fazla modelin tahminlerini birleştirerek aşırı uyumu azaltmaya ve modelin sağlamlığını artırmaya da yardımcı olabilir.

Bagging, karar ağaçlarında, rastgele ormanlarda ve diğer topluluk öğrenme yöntemlerinde yaygın olarak kullanılır. Veri setinde çok sayıda özellik bulunduğunda ve özellikler ile hedef değişken arasındaki ilişkinin karmaşık olduğu durumlarda özellikle kullanışlıdır.