Fine-tuning (ince ayar), hazır bir modeli kendi örneklerinizle yeniden eğitmektir. Otocropper'ın ince ayarlı modeli, eğitimde görmediği 238 sayfalık bir kitapta %97,1 duyarlılık gösterdi.

Kısaca

  • İnce ayar, iyi yazılmış bir istemin ve belgelerden arama yapan RAG'in yetmediği dar, ölçülebilir işlerde düşünülür.
  • LoRA modelin ağırlıklarını dondurur, yalnızca eklenen küçük matrisleri eğitir; makaledeki GPT-3 175B deneyinde eğitilen parametre sayısı 10.000 kat azaldı.
  • Otocropper'da bir RT-DETRv2 modeli, taranmış sayfalarda yedi bölge türünü bulmak için beş kitaptan etiketlenen sayfalarla ince ayarlandı.
  • İlk sürümü Mayıs 2025'te çıkan optik form okuma sisteminde işaretleri LoRA ile ince ayar yapılmış, açık kaynaklı bir görsel-dil modeli okur.
  • Bütçede veri hazırlama, etiketleme ve ölçümü ayrı kalemler olarak görün; eğitim çalıştırması işin yalnızca bir adımıdır.

İnce ayar ne zaman gerekir?

Bir yapay zekâ özelliğine üç yoldan biriyle başlanır: iyi yazılmış bir istem (prompt), belgelerinizden arama yapan RAG ya da modelin kendisini eğitmek. İlk iki yol modeli değiştirmez, ince ayar değiştirir. Biz ince ayarı, ilk iki yol denendikten sonra şu durumlardan biri varsa öneririz:

  • Çıktı her seferinde aynı biçimde olmalıysa. Örneğin bir cevap kâğıdının her satırı için yalnızca işaretlenen şık; ne açıklama ne fazladan metin.
  • Hazır model işi istenen doğrulukla yapamıyorsa. Bunu söyleyebilmek için önce modelin görmediği örneklerle ölçüm yapılır. Ölçüm yoksa ince ayar kararı da tahminden ibarettir.
  • Görüntüde yeni bölge ya da nesne türleri bulunacaksa. Otocropper'ın modeli, taranmış sayfalarda soru, paragraf, şekil ve cevap anahtarı gibi bölge türlerini ayırt etmek için etiketli sayfalarla eğitildi.
  • Küçük bir modelin yetmesi gerekiyorsa. Veri dışarı çıkmamalıysa ya da model kullanıcının cihazında çalışacaksa küçük bir model seçilir ve ince ayarla işe uydurulur. InstructGPT makalesindeki insan değerlendirmelerinde, insan geri bildirimiyle ince ayarlanan 1,3 milyar parametrelik bir modelin cevapları, 100 kat daha büyük 175 milyar parametrelik GPT-3'ün cevaplarına tercih edildi.

Cevap şirket belgelerinizde duruyor ve bu belgeler sık değişiyorsa, model eğitmek yerine arşivi güncel tutmak daha kolaydır. Bu yolu RAG rehberimizde anlattık.

Denetimli ince ayar nedir?

Denetimli ince ayarda (supervised fine-tuning) model, bir girdi ile o girdi için istenen çıktının yan yana durduğu örneklerden öğrenir. Long Ouyang ve arkadaşlarının 2022 tarihli InstructGPT makalesinde, istenen davranışı gösteren ve insanların yazdığı örnek cevaplar toplanmış, GPT-3 bu örneklerle denetimli öğrenmeyle ince ayarlanmıştır. İkinci bir adımda model, cevap sıralamalarından öğrenerek bir kez daha eğitilmiştir.

Görüntü modellerinde mantık aynıdır. Girdi sayfanın kendisi, istenen çıktı ise sayfadaki her bölgenin doğru kutusu ve türüdür. Otocropper'da bu örnekler COCO biçiminde üç bölüme ayrıldı: eğitim, doğrulama ve test.

LoRA ve QLoRA nedir?

Tam ince ayarda modelin bütün parametreleri yeniden eğitilir. Edward Hu ve arkadaşlarının 2021 tarihli makalesi, modeller büyüdükçe bunun giderek zorlaştığını belirtir ve LoRA'yı (Low-Rank Adaptation, düşük ranklı uyarlama) önerir: önceden eğitilmiş ağırlıklar dondurulur, Transformer mimarisinin her katmanına eğitilebilir düşük ranklı matrisler eklenir ve eğitimde yalnızca bunlar güncellenir.

Makaledeki karşılaştırmada LoRA, Adam optimizasyon algoritmasıyla tam ince ayarlanan GPT-3 175B'ye göre eğitilen parametre sayısını 10.000 kat, GPU bellek ihtiyacını 3 kat azalttı. RoBERTa, DeBERTa, GPT-2 ve GPT-3 üzerinde model kalitesi tam ince ayarla aynı düzeyde ya da daha iyi çıktı. Yazarlara göre LoRA, adaptör yöntemlerinden farklı olarak çıkarım sırasında ek gecikme getirmez.

QLoRA (Tim Dettmers ve arkadaşları, 2023) bir adım daha atar: dondurulmuş model 4 bitlik bir biçime nicemlenir (quantization) ve gradyanlar bu modelin üzerinden LoRA katmanlarına aktarılır. Makaleye göre bu yöntem, 65 milyar parametrelik bir modeli tek bir 48 GB'lık GPU'da, 16 bitlik tam ince ayarın görev başarımını koruyarak eğitecek kadar bellek tasarrufu sağlar.

Pratikteki anlamı şu: büyük bir dil modeline ince ayar yapmak, eskisi kadar büyük donanım gerektirmeyebilir. Ancak bu yöntemler veri hazırlama ve ölçüm işini küçültmez; ikisi de aşağıdaki maliyet kalemlerinde aynen durur.

Maliyeti ne belirler?

Bir ince ayar teklifi şu kalemlerden oluşur:

  • Veri toplama ve temizleme: Sistemin gerçekte göreceği örnekler toplanır; zayıf ışıkta çekilmiş fotoğraflar, eğik taranmış sayfalar ve yarım silinmiş işaretler de dahil.
  • Etiketleme: Her örnek için doğru cevabın yazılması ya da doğru kutunun çizilmesi, ardından bir kontrol adımı.
  • Değerlendirme kümesi: Eğitimde hiç kullanılmayacak, sona saklanan örnekler ve sonucun hangi ölçütle doğru sayılacağı.
  • Eğitim süresi ve donanım: Modelin boyutuna, yönteme (tam ince ayar, LoRA ya da QLoRA) ve deneme sayısına bağlıdır.
  • Yayına alma: Modelin nerede çalışacağı (bir sunucu ya da kullanıcının cihazı), nasıl güncelleneceği ve nasıl izleneceği.

Bu sayfada rakam vermiyoruz. Teklif, 15 dakikalık ücretsiz ön görüşmenin ardından yazılı kapsamla ve tek bir sabit fiyatla gelir. Görüntü modellerinde nasıl çalıştığımızı model eğitimi ve ince ayar adımlarımızda anlattık.

Eğitim verisinde kişisel veri varsa

Eğitim verisi gerçek belgelerden geldiğinde kişisel veri içerebilir: öğrenci cevap kâğıtları, müşteri formları ya da kimlik bilgisi taşıyan fotoğraflar gibi. 6698 sayılı Kişisel Verilerin Korunması Kanunu'nun 12. maddesi veri sorumlusuna, kişisel verilerin hukuka aykırı işlenmesini ve bunlara hukuka aykırı erişilmesini önlemek ve verilerin muhafazasını sağlamak için gerekli teknik ve idari tedbirleri alma yükümlülüğü verir.

Bu yüzden teklifte şunlar da yazılmalıdır: etiketleme kimin bilgisayarında ve hangi hesapta yapılacak, eğitim verisi proje sırasında nerede duracak, proje bittiğinde kimde kalacak ya da nasıl silinecek. Bu bir hukuki görüş değildir; kendi durumunuzu bir hukukçuyla konuşun.

Projelerimizden: kendi verisiyle eğitilen iki model

Otocropper

Erkan Ulu'da öğretmenlerin kullandığı bu Mac uygulamasında, taranmış soru bankası sayfalarındaki yedi bölge türünü (soru, paragraf, şekil, yönerge, bölüm başlığı, üst ve alt bilgi, cevap anahtarı) bulmak üzere bir RT-DETRv2 nesne tespit modeline ince ayar yapıldı. RT-DETRv2, gerçek zamanlı çalışan ve Transformer tabanlı RT-DETR modelinin geliştirilmiş sürümüdür.

Sonuç, eğitimde hiç kullanılmamış 238 sayfalık bir kitapta (554 soru) ölçüldü. Bir tahminin doğru sayılması için kutusunun referans etiketle örtüşme oranının (IoU) en az 0,9 olması gerekiyordu. Duyarlılık %97,1, kesinlik %96,9 çıktı; 238 sayfanın 222'si hiç düzeltme gerektirmedi. İlk sürüm 8 Eylül 2026'da okula teslim edildi ve model öğretmenlerin Mac'lerinde internet bağlantısı olmadan çalışıyor. Ayrıntılar Otocropper vaka çalışmasında.

Optik form okuma

Erkan Ulu'da öğretmenler cevap kâğıtlarının fotoğrafını çeker. Önce bir YOLO modeli kâğıttaki cevap satırlarını tek tek bulur; ardından LoRA ile ince ayar yapılmış, açık kaynaklı bir görsel-dil modeli öğrencinin hangi şıkkı işaretlediğini okur. Güven puanı eşiğin altında kalan satır bu kez başka bir istemle bir daha okunur; yine belirsizse sonuç tahmin edilmez, öğretmenin inceleme listesine gider. Sistemin ilk sürümü Mayıs 2025'te çıktı. Ayrıntılar optik form okuma vaka çalışmasında.

Bütçede veriyi ve ölçümü ayrı kalem yapın

Otocropper'ın eğitim tarafındaki işlem hattı altı adımdan oluşuyordu: beş kitaplık etiketli veri kümesi; taslak etiketleri denetleyen bir doğrulayıcı; kutuların düzenlendiği bir araç; eğitim, doğrulama ve test bölümleri; RT-DETRv2 ince ayarı; doğrulama verisinde eşik ayarı. Bu altı adımdan yalnızca biri modeli eğitmekti.

Eğitimden sonra da iş bitmedi. Kalan hataların her biri gözle incelendi ve buradan üç son işlem kuralı çıktı; her kural, test kitabına geçmeden önce doğrulama verisinde ölçüldü. Mürekkep kontrolü ve sınıf rekabeti adlı iki kural, test kitabındaki yanlış pozitiflerden sırasıyla 12 ve 5 tanesini temizledi ve bunu yaparken tek bir doğru tespiti düşürmedi. Üçüncüsü olan sağ kenar kırpma 4 doğru tespit kazandırdı.

Bir ince ayar teklifinde veri hazırlama, etiketleme, değerlendirme kümesi ve hata analizi ayrı satırlar olarak görünmüyorsa iki soru sorun: veriyi kim hazırlayacak ve sonuç neyle ölçülecek?

Sık sorulan sorular

LoRA ile fine-tuning aynı şey mi?

Hayır. Fine-tuning, hazır bir modeli kendi verinizle eğitmenin genel adıdır; LoRA bunun yollarından biridir. Tam ince ayarda bütün ağırlıklar güncellenir, LoRA'da asıl ağırlıklar donuk kalır ve yalnızca eklenen küçük matrisler eğitilir.

Büyük dil modellerinde ince ayar mı, RAG mı?

Model bir işi her seferinde aynı biçimde yapmalıysa ince ayar; cevap belgelerde duruyor ve belgeler değişiyorsa RAG. Gerekirse ikisi bir arada kurulur; RAG modellerini tanıtan Patrick Lewis ve arkadaşlarının makalesinde de arama bileşeni ile metni üreten bileşen birlikte eğitilir.

Eğitilen model nerede çalışır?

İşe göre değişir: bir sunucuda ya da kullanıcının cihazında. Sunucuda çalışacak dil modelleri için vLLM gibi açık kaynaklı kütüphaneler kullanılabilir; vLLM, dil modellerini çalıştırmak ve sunmak için geliştirilmiştir. Otocropper'ın ince ayarlı modeli ise PyTorch ile Apple GPU üzerinde, öğretmenin Mac'inde çalışır.

İlgili hizmet

Görüntü işleme ve OCR yazılımı geliştirme: kendi verinizle eğitilen, modelin görmediği verilerle ölçülen tespit ve okuma sistemleri.

İlgili rehberler

Kaynaklar

  1. Edward J. Hu ve diğerleri, “LoRA: Low-Rank Adaptation of Large Language Models”, arXiv:2106.09685, 2021: arxiv.org/abs/2106.09685 (kontrol: 16.10.2026)
  2. Tim Dettmers ve diğerleri, “QLoRA: Efficient Finetuning of Quantized LLMs”, arXiv:2305.14314, 2023: arxiv.org/abs/2305.14314 (kontrol: 16.10.2026)
  3. Long Ouyang ve diğerleri, “Training language models to follow instructions with human feedback”, arXiv:2203.02155, 2022: arxiv.org/abs/2203.02155 (kontrol: 16.10.2026)
  4. Patrick Lewis ve diğerleri, “Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks”, arXiv:2005.11401, 2020: arxiv.org/abs/2005.11401 (kontrol: 16.10.2026)
  5. Wenyu Lv ve diğerleri, “RT-DETRv2: Improved Baseline with Bag-of-Freebies for Real-Time Detection Transformer”, arXiv:2407.17140, 2024: arxiv.org/abs/2407.17140 (kontrol: 16.10.2026)
  6. vLLM belgeleri: docs.vllm.ai (kontrol: 16.10.2026)
  7. 6698 sayılı Kişisel Verilerin Korunması Kanunu, md. 12: mevzuat.gov.tr/MevzuatMetin/1.5.6698.pdf (kontrol: 16.10.2026)

Kendi verinizle eğitilecek bir model mi düşünüyorsunuz? Modelin yapmasını istediğiniz işten birkaç tipik ve birkaç zor örnek ayırın; ince ayarın gerekip gerekmediğine ön görüşmede birlikte bakalım.

Görüşme planlayın +90 533 644 73 73