Transfer Öğrenme ve Foundation Modeller Nedir?
Transfer Öğrenme Nedir?
Transfer öğrenme (transfer learning), milyonlarca görüntüyle önceden eğitilmiş bir modelin öğrendiklerini, çok daha az veriyle başka bir probleme aktarmaktır. Endüstriyel projelerde etiketli veri pahalı olduğu için neredeyse her zaman bu yolla başlanır.
Omurga ve Kafa
Bir görüntü modeli kabaca iki parçadan oluşur:
- Omurga (backbone): Görüntüden genel özellikler (kenar, doku, şekil) çıkarır. Ön eğitimden gelir.
- Kafa (head): Bu özellikleri sizin görevinize (ağaç maskesi, bina poligonu) çevirir. Sıfırdan eğitilir.
Ne Kadarını Eğitmeli?
- Omurga dondurulur, yalnız kafa eğitilir: Hızlı, az veriyle çalışır.
- Omurganın son blokları açılır (kısmi ince ayar): Genelde en iyi denge. Açılan katmanlara daha düşük öğrenme hızı verilir.
- Tüm model eğitilir: Çok veri ister, aşırı öğrenme riski yüksektir.
Foundation Modeller
Foundation model, çok geniş ve çeşitli veriyle eğitilip pek çok göreve uyarlanabilen büyük modeldir. Görüntüde Vision Transformer (ViT) tabanlı DINOv3 gibi modeller öne çıkıyor; bazılarının uydu görüntüleriyle ön eğitilmiş sürümleri, hava fotoğraflarında genel görüntü modellerinden belirgin şekilde daha iyi genelliyor.
Ortofotodan bina ve sınır çizimi yaptığımız bir projede, uydu ön eğitimli bir ViT omurgasının son 8 bloğunu açmak, eğitimde görülmeyen bölgede bina F1 skorunu 0,54'ten 0,67'ye çıkardı. Kazanç modelin adından değil, büyük ve alana uygun bir omurgadan ve kısmi ince ayardan geldi.