Dil modeli ince ayarı için veri seti hazırlama: örnekten eğitim dosyasına
Dil modeli ince ayarı için örnek toplama, biçimlendirme, temizleme, etiketleme ve eğitim, doğrulama, test ayrımı: adım adım veri hazırlığı.
Veri seti ince ayarın sonucunu neden belirler?
İnce ayar (fine-tuning), önceden eğitilmiş bir dil modelini örnek girdi-çıktı çiftleriyle belirli bir göreve uyarlar. Model bu örneklerden davranışı öğrendiği için çıktı kalitesi, büyük ölçüde veri setinin kalitesine bağlıdır. Hatalı, tutarsız ya da amaçla uyumsuz örnekler modele doğrudan yanlış davranış öğretir.
Bu nedenle veri hazırlığı, eğitim çalıştırmasından önce harcanması gereken asıl emektir. Genel kural kalite miktardan önce gelir: az sayıda ama temiz, tutarlı ve göreve uygun örnek, çok sayıda dağınık örnekten genellikle daha iyi sonuç verir.
Veri hazırlamaya başlamadan önce şu soruları yazılı cevaplayın: model hangi girdiyi alıp nasıl bir çıktı verecek, iyi çıktı neye benzer ve hazır modele istemle (prompt) yaptırılamayan ne var? Son soru kritiktir; istemle çözülebilen bir işi ince ayarla çözmeye çalışmak gereksiz emek ve maliyettir.
Adım adım hazırlık akışı
Veri seti hazırlama şu sırayla ilerler: • Görev tanımı: Girdi türü, çıktı biçimi, ton ve kısıtlar yazılır • Kaynak belirleme: Gerçek kayıtlar (destek yazışmaları, uzman cevapları), uzmanların elle yazdığı örnekler ya da başka bir modelle üretilmiş sentetik örnekler kullanılabilir • Toplama: Kaynak veri görevle ilgili çeşitliliği temsil edecek şekilde seçilir • Temizleme: Kişisel veriler çıkarılır, mükerrer ve hatalı kayıtlar ayıklanır • Biçimlendirme: Örnekler modelin ya da eğitim aracının beklediği şemaya çevrilir • Kalite kontrolü: Örneklem üzerinden insan incelemesi yapılır • Ayrıştırma: Eğitim, doğrulama ve test kümeleri ayrılır • Yineleme: İlk eğitim sonuçlarına göre veri eksikleri tamamlanır
Her adım kayıt altına alınmalıdır. Hangi kaynaktan, hangi tarihte, hangi filtrelerle veri alındığını yazmak, sonraki sürümlerde sonuç farklılıklarını anlamayı mümkün kılar.
Örnek biçimi: talimat ve cevap çiftleri
Çoğu ince ayar aracı örnekleri satır başına bir kayıt olacak şekilde JSONL dosyasında bekler. Sohbet biçimindeki bir kayıt, sistem talimatı, kullanıcı mesajı ve beklenen asistan cevabını rol ve içerik alanlarıyla taşır. Alan adları araca göre değişebilir, bu yüzden kullanacağınız aracın güncel belgesini kontrol edin.
Örneğin müşteri e-postalarını kategorilere ayıran bir model için kayıt şöyle olabilir:
{"messages": [ {"role": "system", "content": "E-postayı kategoriye ayır: fatura, teknik, iade, diğer."}, {"role": "user", "content": "Faturamdaki tutar yanlış görünüyor, kontrol eder misiniz?"}, {"role": "assistant", "content": "fatura"} ]}
Biçimle ilgili kurallar: sistem talimatı bütün örneklerde aynı olmalı, çıktı biçimi (kısa etiket, JSON, uzun cevap) tutarlı olmalı ve modelin canlıda alacağı girdi biçimi eğitimdekiyle birebir uyuşmalıdır. Eğitimde bir biçimde, canlıda başka biçimde girdi vermek en sık görülen sorunlardan biridir.
Temizleme, etiketleme ve çeşitlilik
Temizleme aşamasında şunlara bakılır: • Kişisel veri: Ad, telefon, kimlik numarası, adres gibi bilgiler anonimleştirilir ya da çıkarılır; kişisel veri mevzuatına uyum için hukuk birimine danışılmalıdır • Mükerrer kayıtlar: Aynı örnek tekrar tekrar bulunursa model onu ezberler; yakın kopyalar da ayıklanmalıdır • Çelişkili etiketler: Benzer girdiye farklı cevap verilmişse model kararsız kalır • Gürültü: Kırık metin, kodlama hataları, yanlış dil, alakasız içerik • Uzunluk dengesi: Çok kısa ya da çok uzun örnekler eğitim aracının sınırlarına göre kontrol edilmeli
Etiketleme gerektiren görevlerde kural kitabı yazın: sınır durumlarda hangi etiket seçilecek, belirsiz örnek ne yapılacak? Birden fazla kişi etiketliyorsa küçük bir ortak örneklemde aynı örnekleri etiketleyip uyumu karşılaştırın; uyumsuzluk kural kitabının eksik olduğunu gösterir.
Çeşitlilik de önemlidir. Veri, canlıda karşılaşılacak girdi çeşitliliğini kapsamalıdır: kısa ve uzun mesajlar, hatalı yazılmış metinler, sınır durumlar ve modelin reddetmesi ya da yönlendirmesi gereken örnekler. Hep ideal örneklerden oluşan veri seti, gerçek dünyada kırılgan bir model üretir.
Eğitim, doğrulama ve test ayrımı
Veri seti genellikle birkaç kümeye ayrılır. Eğitim kümesi modelin öğrendiği örnekleri içerir. Doğrulama kümesi eğitim sırasında ilerlemeyi izlemek ve aşırı öğrenmeyi (overfitting) fark etmek için kullanılır. Test kümesi ise eğitim bittikten sonra, hiç görülmemiş örneklerle gerçek başarıyı ölçmek için saklanır.
Ayrımda dikkat edilecek noktalar: aynı kaynaktan gelen yakın örnekler farklı kümelere dağılırsa test sonucu olduğundan iyi görünür (sızıntı). Örneğin aynı müşterinin bir e-posta zincirindeki mesajlar hem eğitim hem testte yer alırsa model testte ezberi gösterir. Bu yüzden ayrım örnek bazında değil, mümkünse kaynak ya da konu bazında yapılmalıdır.
Test kümesi gerçek kullanımı yansıtmalıdır. Başlangıçta, ince ayarsız hazır modelin istemle verdiği sonuçları da bu test kümesinde ölçün; ince ayar bu referanstan daha iyi değilse emek karşılığını vermemiştir.
Sentetik veri ve model destekli üretim
Gerçek veri azsa büyük bir model yardımıyla örnek üretmek yaygın bir yöntemdir. Bu yaklaşımın güçlü yanı hız ve çeşitlilik, riski ise üretilen örneklerin hatalı ya da homojen olmasıdır. Güvenli kullanım için şunlara dikkat edin: • Üretim talimatını açık yazın ve farklı senaryo, ton ve zorluk düzeyleri isteyin • Üretilen örneklerin bir örneklemini insan gözüyle kontrol edin • Gerçek veriyle karıştırırken oranı izleyin; modelin yalnız sentetik veriyle öğrenmesi gerçek girdiyle uyumsuzluk yaratabilir • Üretimde kullanılan modelin kullanım koşullarının, başka bir modeli eğitmeye izin verip vermediğini kontrol edin • Telif ve gizlilik açısından kaynak materyali denetleyin
Yalnızca modelin çıktısını doğrudan eğitime katmak, hatalarını da öğretmektir. İnsan denetimi bu zincirin vazgeçilmez halkasıdır.
Sık yapılan hatalar ve kontrol listesi
- Hedef tanımlanmadan veri toplamak
- Eğitim ve canlı girdi biçimini uyuşturmamak
- Kişisel veriyi temizlemeden eğitime göndermek
- Test kümesini eğitime karıştırmak
- Etiket kurallarını yazmamak ve tutarsız etiketle model eğitmek
- Sadece kolay örnekler toplamak
- Sürüm kaydı tutmamak
Veri setini eğitime vermeden önce kısa bir kontrol: görev yazılı mı, biçim tutarlı mı, mükerrer ve kişisel veri temizlendi mi, kümeler ayrıldı mı, örneklem elle incelendi mi, referans sonuç ölçüldü mü?
Mindset'in Uygulamalı AI Fine-Tuning ve Model Özelleştirme Eğitimi, fine-tuning'e giriş, veri hazırlığı ve etiketleme, fine-tuning teknikleri, model değerlendirme ve iyileştirme, canlıya alma ve entegrasyon ile etik ve güvenlik başlıklarını içerir. Veri bilimi ve yapay zeka ekiplerinin, kendi kurum verisiyle bir model özelleştirmeyi planlayan geliştiricilerin veri hazırlığını sistematik yapmasına yöneliktir.
İlgili Mindset programı
Uygulamalı AI Fine-Tuning ve Model Özelleştirme Eğitimi
Sık sorulan sorular
Fine-tuning için kaç örnek gerekir?
Sabit bir sayı yoktur; görevin zorluğuna, çıktı biçimine ve model boyutuna bağlıdır. Dar ve biçimsel görevlerde az sayıda temiz örnek bile fark yaratabilir. Küçük bir veri setiyle başlayıp sonuçları ölçmek, ardından eksik kalan durumlar için örnek eklemek en güvenli yoldur.
Veri setimde kişisel veri varsa ne yapmalıyım?
Eğitime göndermeden önce anonimleştirmek ya da çıkarmak gerekir; çünkü model kişisel bilgiyi ezberleyip çıktıda ifşa edebilir. Hangi verinin kullanılabileceği kişisel verilerin korunması mevzuatına ve kurum politikasına bağlıdır, bu nedenle hukuk ve bilgi güvenliği birimlerine danışın.
Sentetik veri tek başına yeterli olur mu?
Genellikle önerilmez. Sentetik örnekler çeşitlilik ve hız sağlar ama gerçek kullanım dağılımını tam yansıtmayabilir ve model hatalarını taşıyabilir. Gerçek örneklerle karıştırmak, bir örneklemi elle incelemek ve testi gerçek veriyle yapmak daha güvenilir sonuç verir.
İnce ayar yerine ne zaman RAG kullanmalıyım?
Modelin güncel ya da şirkete özel bilgiye erişmesi gerekiyorsa genellikle bilgiyi dışarıdan getiren RAG daha uygundur. İnce ayar ise çıktı biçimi, ton ve belirli bir görevdeki tutarlılık gibi davranış sorunlarında anlamlıdır. İkisi birlikte de kullanılabilir.