AI Denetim İzi: Öneriden İnsan Kararına Eksiksiz Kayıt Zinciri

Denetim izi yalnız sohbet geçmişi değildir

Bir AI sistemi “bu belgeyi ofis gideri olarak sınıflandır” önerisi verdiğinde, aylar sonra yalnız son cümleyi görmek yeterli olmaz. Hangi belge sürümünün kullanıldığı, hangi kuralların uygulandığı, modelin hangi sürümde olduğu, çıktıyı kimin incelediği ve gerçek kayda neyin geçtiği de bilinmelidir. Denetim izi, AI konuşmasını saklamak değil; iş kararının oluşum zincirini yeniden kurabilmektir.

AB Yapay Zekâ Tüzüğü’nün 12. maddesi, yüksek riskli sistemler için yaşam döngüsü boyunca otomatik olay kaydı kabiliyetini düzenler. 26. madde ise belirli yüksek riskli sistemleri kullanan tarafların kontrolündeki günlükleri saklamasına ve insan gözetimine ilişkin yükümlülükler içerir. Bu hükümler her AI kullanımına aynı şekilde uygulanmaz. Yine de izlenebilirlik ilkesi, düşük etkili görünen finans süreçlerinde de hata araştırması ve hesap verebilirlik için yararlıdır.

Üç ayrı kayıt katmanı

Sağlıklı tasarımda üç kayıt birbirine bağlanır fakat birbirine karıştırılmaz. Birinci katman AI çalıştırma kaydıdır: istek, kaynak, model ve çıktı burada bulunur. İkinci katman insan karar kaydıdır: kimin neyi kabul ettiği, düzelttiği veya reddettiği ve gerekçesi yazılır. Üçüncü katman işlem kaydıdır: onaylanan sonucun faturaya, cari hesaba, bildirim taslağına ya da başka bir iş nesnesine nasıl yansıdığı tutulur.

Bu ayrım önemlidir. AI’nin “ödendi” tahmini, insanın onayı ve bankada gerçekleşmiş tahsilat aynı olay değildir. Tek bir durum alanı bunların geçmişini silebilir. Bağlantılı ama ayrı kimlikler kullanmak, önerinin kesin finansal gerçek gibi görünmesini önler.

Asgari kayıt şeması

Her kuruluş kullanım amacına göre alanlarını belirler. Başlangıç için şu yapı kullanılabilir:

Benzersiz istek ve oturum kimliği
İş nesnesi kimliği; örneğin fatura veya gider kaydı
Kullanıcı, rol ve yetki bağlamı
Açık iş amacı ve izin verilen kullanım
Prompt şablonu ile politika sürümü
Ham veriyi gereksiz çoğaltmadan girdi referansı veya bütünlük özeti
Getirilen kaynakların kimliği, sürümü ve erişim zamanı
Sağlayıcı, model ailesi, model veya API sürümü ve önemli ayarlar
Üretilen çıktı ile yapılandırılmış doğrulama sonucu
Belirsizlik, uyarı veya politika ihlali işaretleri
İnsan inceleyen, karar zamanı, karar türü ve gerekçe
Sonraki sistem işlemi, işlem kimliği ve geri alma bağlantısı
Hata, yeniden deneme, olay ve düzeltme kayıtları

Promptun tamamını kaydetmek her zaman doğru değildir. İçinde kişisel veri, ticari sır veya kimlik bilgisi bulunabilir. Denetim ihtiyacı ile veri minimizasyonu birlikte tasarlanmalı; gerektiğinde maskeleme, özet, hash ve kısa saklama süresi kullanılmalıdır.

Değiştirilemezlik ile düzeltilebilirlik dengesi

Denetim izi, hiç kimsenin hiçbir alanı değiştirememesi anlamına gelmez. Hatalı bir kişisel verinin düzeltilmesi veya saklama süresi sonunda silinmesi gerekebilir. Kritik nokta, iş kararının geçmişini sessizce yeniden yazmamaktır. Finansal etkili düzeltmeler yeni bir ters kayıt veya düzeltme olayıyla ilişkilendirilebilir. Eski kararın kim tarafından, ne zaman ve neden geçersiz kılındığı görülebilmelidir.

Bütünlük için zaman damgası, sıralı olay kimliği, erişim kontrolü ve uygun yerlerde kriptografik özet kullanılabilir. Ancak hash tek başına kaydın doğru olduğunu kanıtlamaz; yalnız sonradan değişip değişmediğini kontrol etmeye yardımcı olur. Kaydı oluşturan kaynağın güvenilirliği ayrıca değerlendirilmelidir.

İnsan gözetiminin gerçek kanıtı

Ekrandaki onay düğmesine basılması, anlamlı inceleme yapıldığını otomatik olarak göstermez. Denetim izi; inceleyenin kaynak belgeyi görüp görmediğini, uyarıları okuyup okumadığını ve sonucu değiştirme yetkisinin olup olmadığını gösterecek şekilde tasarlanabilir. Riskli senaryolarda seçilen gerekçe kodu, yapılan alan düzeltmesi ve ikinci onay da tutulabilir.

Bunun karşı tarafı aşırı günlüklemedir. Her fare hareketini kaydetmek, anlamlı kanıt üretmeden mahremiyet ve güvenlik riski büyütebilir. Kayıt alanı, açıklanabilir bir kontrol amacına dayanmalıdır.

Örnek: gider sınıflandırması

Bir model, yüklenen belgeyi seyahat gideri olarak öneriyor. Çalıştırma kaydı belge özetini, kullanılan model sürümünü, önerilen kategoriyi ve düşük güven uyarısını tutar. İnsan inceleyen belgenin aslında temsil gideri olduğunu seçer ve kısa gerekçe ekler. İşlem katmanı, yalnız insan tarafından onaylanan kategoriyi muhasebe hazırlık kaydına gönderir. Daha sonra hata incelendiğinde model önerisi ile kesin kayıt ayrıştırılabilir; AI çıktısı geriye dönük olarak gerçekmiş gibi görünmez.

Saklama ve erişim kararı

AB AI Act’in yüksek riskli sistemlere ilişkin resmi metninde belirli günlükler için en az süreler bulunsa da bu rakam evrensel politika olarak kopyalanmamalıdır. Kişisel veri, vergi, muhasebe, iş ve sözleşme yükümlülükleri birlikte değerlendirilmelidir. Loglara erişen roller sınırlandırılmalı, erişimin kendisi de kaydedilmeli ve olay halinde inceleme prosedürü önceden yazılmalıdır.

Sonuç

İyi denetim izi daha çok veri değil, doğru bağların korunmasıdır. Kaynak, model, politika, insan ve iş işlemi ayrı kimliklerle tutulduğunda bir karar yeniden kurulabilir. AI önerisi hiçbir zaman tek başına muhasebe gerçeği, ödeme kanıtı veya hukuki değerlendirme sayılmamalıdır. Kesin finansal etki, yetkili insan kontrolü ve doğrulanmış kaynaklarla oluşmalıdır.

Kayıt kalitesini örneklemle sınayın

Belirli aralıklarla birkaç karar seçip kaynak veriden nihai sonuca kadar yeniden yürütün. Eksik model sürümü, kopuk kaynak bağlantısı veya sahibini göstermeyen onay bulunursa yalnız kaydı tamamlamayın; sürecin neden eksik ürettiğini araştırın. Denetim izi karar sonrası süs değil, kararın yeniden anlaşılmasını sağlayan kontroldür.