75 görüntülük ablation: Reddit eleştirisi FLUX-LoRA pipeline'ını yeniden düşünmemizi nasıl sağladı
Sistematik bir çalışma: 5 pipeline varyantı, Kiril metni üzerinden eğitim verisi sızıntısı ve "sandviç" yaklaşımının neden bir çözüm değil geçici bir yöntem olduğu.
Sovyet kibrit kutusu sanatı tarzında illüstrasyonlar üretmek için bir FLUX-LoRA eğittik. İlk sonuçlar iyi görünüyordu — ta ki Reddit onları paramparça edene kadar. Bu eleştiri bizi dürüst bir ablation çalışması yapmaya zorladı.
Birden fazla random seed üzerinde 5 pipeline varyantını test ettik: saf LoRA, iki geçişli "sandviç," farklı LoRA scale değerleri, Kiril prompt'larla ve prompt'lar olmadan. 75 görüntü, kör karşılaştırma.
Temel bulgu: iki geçişli "sandviç" sorunları çözmüyor, maskeliyordu. Eğitim verisi sızıntısı, görüntülerde Kiril metni olarak ortaya çıktı. LoRA scale optimalin altındaydı — doğru değerde, tek geçişli üretim "sandviç" sonuçlarıyla eşleşti.
Gerçek çözüm, pipeline hilelerine güvenmek değil, veri setini genişletmek ve LoRA'yı yeniden eğitmek. Reddit eleştirisi rahatsız ediciydi ama bizi doğru cevaba götürdü.
LoRA eğitenler için çıkarım: sonuçlarınız pipeline hilelerine bağlıysa, bu sorunun inference'ta değil eğitimde olduğunun bir işaretidir. Ablation çalışması, sonuçları ilan etmeden önce zorunlu bir adımdır.
Tablolar ve görselleştirmelerle tam makale Habr'da (Rusça). Görüntü üreteci pinock.io adresinde canlı.