Belge sınıflandırma otomasyonu nasıl kurulur: sınıf yapısından üretime

Belge sınıflandırma otomasyonu neyi çözer?

Bir kurumun gelen kutusuna, paylaşımlı klasörüne ya da evrak servisine her gün farklı türde belge düşer: faturalar, sözleşmeler, dilekçeler, kimlik fotokopileri, teklifler, form başvuruları. Bunları elle ayırıp ilgili ekibe yönlendirmek zaman alır ve hata riski taşır.

Belge sınıflandırma otomasyonu, her belgeyi içeriğine bakarak önceden tanımlı bir türe atar ve bu türe göre bir sonraki adımı tetikler. Örneğin fatura olarak etiketlenen belge muhasebe kuyruğuna, sözleşme olarak etiketlenen belge hukuk birimine gider. Model emin değilse belgeyi insan incelemesine bırakır.

Otomasyon, belge içinden veri çıkarmanın (alan okuma) önündeki adımdır. Önce belgenin ne olduğunu bilmeniz gerekir; ardından o türe uygun alanlar okunur. Bu sırayı korumak, her belge için aynı veri çıkarma kurallarını uygulama hatasını önler.

Önce sınıf yapısını kurun

Yöntemden önce sınıfları belirleyin. Sınıf yapısı, projenin başarısını modelden daha çok etkiler.

Dikkat edilecek noktalar: • Sınıflar birbirini dışlamalı ve iş akışına karşılık gelmelidir. Sınıf sayısı, gerçekten farklı bir işlem gerektiren türlerle sınırlı tutulmalıdır. • Bir "diğer" sınıfı ekleyin. Modelin tanımadığı belge zorla bir sınıfa atılırsa yanlış yönlendirme olur. • Bir belge birden fazla türe girebiliyorsa (örneğin hem teklif hem sözleşme eki) çok etiketli yapı gerekir. • Türlerin alt türleri varsa hiyerarşik bir yapı düşünün: önce ana tür, sonra ayrıntı.

Her sınıf için kısa bir tanım ve birkaç örnek yazın; etiketleyecek kişilerin aynı kararı vermesi için bu tanımlar gerekir. Etiketleyiciler arasında anlaşmazlık varsa sorun model değil sınıf tanımıdır. İş birimlerinden (muhasebe, hukuk, insan kaynakları) bu tanımlar için onay alın.

Belgeyi metne dönüştürmek

Sınıflandırma modeli genellikle metinle çalışır. Belge dijital olarak üretilmiş bir PDF ise metin doğrudan okunabilir. Taranmış ya da fotoğraflanmış belgeyse önce OCR (optik karakter tanıma) gerekir.

Bu adımda kalite kritiktir: • Eğik taranmış belgeleri düzeltin, gürültüyü azaltın ve kontrastı iyileştirin. • Çok sayfalı belgeleri sayfa bazında mı yoksa bütün olarak mı sınıflandıracağınıza karar verin. Birçok belge türü ilk sayfadan tanınır; bir dosyada farklı belgeler birleşikse sayfa bazlı ayırma gerekir. • Başlık, logo ve düzen gibi görsel ipuçları metinden fazla bilgi taşıyabilir. Düzen bilgisini kullanan yaklaşımlar bu durumda yararlıdır.

Açık kaynak OCR araçlarından Tesseract, komut satırından görüntüden metin çıkarabilir: örnek olarak görüntü dosyası ve dil kodu verilerek çalıştırılır, çıktı düz metin ya da koordinat içeren biçimlerde alınabilir. Hata oranı yüksek tarama kalitesinde sınıflandırma doğruluğu da düşer; bu nedenle OCR kalitesini ayrıca ölçün.

Yöntem seçimi: kural, klasik makine öğrenmesi, BERT, büyük dil modeli

Birkaç yaklaşım yaygındır; seçim veri miktarına, belge çeşitliliğine ve bakım kapasitesine bağlıdır.

Kural tabanlı: "Fatura No" ifadesini içeren belge fatura sayılır. Hızlı kurulur ve açıklanabilir, ama format değiştiğinde ya da yeni tedarikçi gelince bozulur.

Klasik makine öğrenmesi: kelime ağırlıklarına (TF-IDF) dayanan özellikler ve doğrusal sınıflandırıcılar. Etiketli örnek varsa güçlü ve hızlı bir başlangıçtır, eğitimi hafiftir.

Transformer tabanlı (BERT gibi) modeller: anlam bağlamını daha iyi yakalar; az sayıda etiketli örnekle ince ayar yapılabilir. Daha fazla işlem gücü ve bakım ister.

Büyük dil modeli (sıfır örnek ya da birkaç örnek): sınıf tanımlarını komut içinde verip modelin belgeyi sınıflandırmasını istersiniz. Etiketli veri azsa pratiktir; ancak maliyet, gecikme ve tutarlılık takip edilmelidir. Hassas belgelerde verinin nereye gittiği ayrıca değerlendirilmelidir.

Karar ölçütü: etiketli veriniz yeterince varsa klasik yöntemle başlayın ve temel çizgi oluşturun; etiket yoksa büyük dil modeliyle hızlı bir prototip kurun; zor sınıflarda transformer ince ayarını deneyin.

Kısa uygulama: metin sınıflandırma temel çizgisi

Şuna benzer küçük bir uygulama, bir temel çizgi oluşturmak için yeterlidir. Belge metinleri ve etiketleri bir listede hazır olduğunu varsayalım. Önce veriyi eğitim ve sınama olarak ayırın; bu, modelin görmediği belgelerde nasıl davrandığını görmenizi sağlar.

from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.linear_model import LogisticRegression from sklearn.metrics import accuracy_score

vectorizer = TfidfVectorizer(sublinear_tf=True) x_train = vectorizer.fit_transform(train_texts) x_test = vectorizer.transform(test_texts)

model = LogisticRegression() model.fit(x_train, train_labels) predictions = model.predict(x_test) print(accuracy_score(test_labels, predictions))

Burada önemli olan kodun kendisinden çok düzendir: vektörleştiriciyi yalnız eğitim verisine uydurup sınama verisine yalnızca dönüştürme uygulamak, bilgi sızıntısını önler. Doğruluk tek başına yeterli değildir; dengesiz sınıflarda her sınıfın kesinlik ve duyarlılığına ayrı bakın.

Değerlendirme, güven eşiği ve insan incelemesi

Üretimde modelin hata yapması kaçınılmazdır; önemli olan hatanın maliyetinin kontrol altında tutulmasıdır.

Değerlendirmede şunlara bakın: • Karışıklık matrisi: hangi türler birbirine karışıyor? Örneğin fatura ile irsaliye sürekli karışıyorsa sınıf tanımı ya da özellikler gözden geçirilmelidir. • Sınıf bazlı kesinlik ve duyarlılık: hukuki belgelerde yanlış yönlendirme maliyeti yüksekse eşik sıkılaştırılır. • Gerçek dağılım: sınama verisi gerçek belge akışını yansıtmalıdır.

Güven eşiği kullanın. Modelin tahmin güveni belirli bir seviyenin altındaysa belge otomatik yönlendirilmez, bir kişinin incelemesine gider. Kişinin düzelttiği her belge, sonraki eğitim turu için yeni etiketli veri olur. Bu döngü, otomasyonun zamanla iyileşmesini sağlar.

Üretime alma, izleme ve veri güvenliği

Pilot sonrası canlıya geçerken şu başlıkları planlayın: • Entegrasyon: sınıflandırma sonucu hangi sisteme, hangi alanla yazılacak? • İzleme: sınıf dağılımının değişmesi, yeni belge formatlarının gelmesi ve düşük güvenli belge oranının artması model bozulmasının işaretidir. • Sürüm yönetimi: model, sınıf listesi ve eşikler birlikte sürümlenmelidir. • Gizlilik: belgeler kişisel veri içerebilir. Verinin saklanması, erişim yetkisi ve harici hizmetlere gönderilmesi kişisel verilerin korunması mevzuatı çerçevesinde değerlendirilmeli; gerekirse hukuk ve bilgi güvenliği ekipleriyle birlikte karar verilmelidir.

Sık hatalar: sınıf yapısını modele bırakmak, "diğer" sınıfını unutmak, OCR hatasını ölçmemek, tek seferlik bir doğruluk skoruyla üretime çıkmak ve geri bildirim döngüsünü kurmamak.

Mindset programlarında belge sınıflandırma

Mindset kataloğundaki Doküman Sınıflandırması programı, sınıflandırma problemine girişi, klasik makine öğrenmesi ve derin öğrenme yöntemlerini, transfer öğrenme ve BERT ile sınıflandırmayı, çok etiketli ve hiyerarşik yapıları, kurumsal sınıflandırma uygulamalarını ve model dağıtımı ile izlemeyi kapsar. OCR ve Belge İşleme programı ise görüntü ön işleme, belge düzeni analizi ve kurumsal belge işleme hattı tasarımını işler.

Programlar veri bilimi ve yazılım ekipleri, belge yoğun süreçleri yöneten operasyon ve dönüşüm ekipleri için uygundur; kurumlar kendi belge türlerine göre sınıf yapısı ve değerlendirme düzeni kurmak için uyarlayabilir.