Bir Rakamın Nereden Geldiğini Soramıyorsanız, O Rakam Yoktur

Finansta eski bir kural vardır: Kaynağını gösteremediğiniz rakam, rakam değildir.

Bir denetçi bilançoda bir sayı görür ve ilk refleksi şudur:

Bu nereden geliyor?

Hangi belgeye dayanıyor? Nasıl hesaplandı? Kim üretti? Son kontrolü kim yaptı?

Çünkü sayının kendisi tek başına pek bir şey ifade etmez. Onu güvenilir kılan, arkasındaki izdir. O iz yoksa rakam doğru bile olsa henüz güvenilir değildir.

Şimdi aynı denetçiyi bir yapay zekânın karşısına oturtun.

Yapay zekâ bir cevap veriyor. Rakam net. Cümle düzgün. Üslup kendinden emin.

Denetçi yine aynı soruyu soruyor:

“Bu nereden geliyor?”

Asıl mesele burada başlıyor.

Kurumsal yapay zekâ kullanımında bugün en az konuşulan konulardan biri, cevabın doğruluğundan önce izlenebilirliği.

Bir sayı doğru olabilir. Ama sistem o sayının hangi belgeye, hangi veri setine, hangi hesaplamaya dayandığını gösteremiyorsa, finans diliyle söyleyelim: o rakam henüz denetlenmemiştir.

Üstelik yapay zekânın tehlikeli tarafı yanlış yapması değil. İnsan da hata yapar.

Sorun, yanlışla doğruyu çoğu zaman aynı özgüvenle söylemesidir.

Bir rakamı bulduğunda da, tahmin ettiğinde de ekranda aynı düzgün cümleyi görürsünüz.

Peki neden uyduruyor?

“Halüsinasyon” kelimesini sık kullanıyoruz. Fakat kelime bazen sorunu olduğundan daha tuhaf gösteriyor; sanki sistem ara sıra arızalanıyor ve saçmalıyor.

Oysa mesele bundan daha temel.

Büyük dil modellerinin temel öğrenme mekanizması, metindeki bir sonraki parçayı tahmin etmeye dayanıyor. Daha sonraki eğitim aşamalarında doğruluk, talimatlara uyum ve güvenlik gibi davranışlar da sisteme kazandırılıyor.

Ama modelin önünde yeterli bilgi olmadığında hâlâ çok temel bir problem var:

Boşluğu ne yapacak?

OpenAI araştırmacıları Adam Tauman Kalai, Ofir Nachum, Santosh Vempala ve Edwin Zhang’ın 2025’te yayımladığı Why Language Models Hallucinate çalışması bu noktada önemli bir meseleye dikkat çekiyor: Birçok değerlendirme sistemi, belirsizliği ifade etmekten çok doğru cevabı vermeyi ödüllendiriyor.

“Bilmiyorum” ile yanlış cevap aynı sonucu doğuruyorsa, tahmin etmek sistem açısından daha cazip hale geliyor.

Bir sınavda cevabı bilmeyen öğrencinin soruyu boş bırakmak yerine şıklardan birini işaretlemesi gibi.

Sorun burada modelin “ahlakı” değil. Teşvik yapısı.

Bu yüzden kurumsal kullanımda asıl soru “Model ne kadar zeki?” olmamalı.

Daha önemli soru şu:

Bilmediği yerde ne yapıyor?

Daha iyi model her zaman çözüm değil

Şirketler halüsinasyon sorunuyla karşılaşınca genellikle ilk refleks daha güçlü modele geçmek oluyor.

Prompt’ları iyileştiriyoruz. Ayarları değiştiriyoruz. Daha yeni model deniyoruz.

Bunların faydası var.

Ama bazen yanlış katmanı onarıyoruz.

Çünkü sorun yalnızca modelin kapasitesinde değil; modelin beslendiği bilginin kalitesinde de yatıyor.

Bir şirketin fiyat listesi üç farklı Excel dosyasında üç farklı rakam içeriyorsa, müşteri tanımları departmanlara göre değişiyorsa, sözleşmeler güncel değilse ve hangi verinin “doğru” olduğunun sahibi belli değilse, yapay zekâdan kusursuz cevap beklemek pek gerçekçi değil.

Finansçı için yabancı bir problem değil bu.

Kötü kayıttan iyi bilanço çıkmaz.

Bir analist ne kadar yetenekli olursa olsun, önündeki veri dağınık ve güvenilmezse hazırladığı raporun kalitesi de sınırlı kalır.

Yapay zekâda da temel prensip değişmiyor.

Tahmin eden değil, gösterebilen bir sistem

Kurumsal yapay zekâ açısından hedef yalnızca “doğru cevap veren model” kurmak olmamalı.

Daha değerli hedef şu:

Cevabının dayanağını gösterebilen sistem kurmak.

Modeli doğrulanmış belgelere ve güncel kurumsal verilere dayandırmak, uydurma alanını ciddi biçimde daraltır.

Ama tek başına yeterli değildir.

Model doğru belgeyi bulup yanlış yorumlayabilir. Belgede olmayan bir ayrıntıyı ekleyebilir. İki farklı kaynaktaki bilgiyi yanlış birleştirebilir.

Bu nedenle kurumsal kullanımda kritik kural bence çok basit:

Her önemli iddianın bir dayanağı olacak. Dayanağı yoksa sistem bunu açıkça söyleyecek.

“Bu bilgiyi doğrulayamıyorum.”

Bazen yapay zekânın verebileceği en iyi cevap budur.

Finansta bir çalışana “emin değilsen imzalama” demekten çok farklı değil.

Yapay zekâya iç kontrol sistemi kurmak

Aslında mesele teknik olmaktan çok tanıdık.

Kurum içinde yapay zekâ kullanıyorsanız, ona da bir çeşit iç kontrol sistemi kurmanız gerekiyor.

İlk adım, kurumun “doğru bilgi”sinin nerede olduğunu belirlemek.

Şirket ne satıyor? Hangi fiyatla satıyor? Hangi müşteri grubuna? Hangi sözleşme yürürlükte? Hangi rakam güncel?

Bunların farklı klasörlerde, kişisel bilgisayarlarda veya eski sunumlarda dağınık halde bulunması yerine, sahibi belli ve güncel bir kaynak yapısında tutulması gerekiyor.

Bir anlamda şirketin yapay zekâ için kendi ana defterini oluşturması.

İkinci adım, kaynağı görünür hale getirmek.

Model yalnızca cevabı vermemeli; mümkün olduğunda cevabın hangi belgeye veya hangi veriye dayandığını da göstermeli.

Üçüncü adım daha da önemli:

Sisteme “bilmiyorum” deme hakkı vermek.

Kaynakta yoksa tahmin etmemeli. Yaklaşık bilgiyle kesin bilgi arasındaki farkı göstermeli.

Ve son olarak cevap tekrar kontrol edilmeli.

Küçük yapılarda bunu insan yapar. Daha büyük sistemlerde otomatik doğrulama katmanları devreye girebilir.

Muhasebedeki en eski kontrol prensiplerinden birinin dijital karşılığı:

Kaydı yapanla kontrol eden aynı kişi olmasın.

Yapay zekâ üretiyorsa başka bir mekanizma doğrulasın.

Bu neden IT departmanının konusu değil?

Çünkü mesele sonunda teknolojiye değil yönetime dayanıyor.

Gartner’ın 2025 tarihli öngörüsüne göre, AI-ready data ile desteklenmeyen yapay zekâ projelerinin önemli bir bölümü 2026 boyunca terk edilecek.

Bu şaşırtıcı değil.

Bir şirket en gelişmiş modeli satın alabilir. En iyi entegrasyonu yaptırabilir. Çok etkileyici bir arayüz kurabilir.

Ama şirketin kendi verisinin ne anlama geldiği konusunda şirketin kendisi anlaşamıyorsa, yapay zekânın bunu çözmesini bekleyemezsiniz.

Burada sorumluluk teknoloji ekibinin sınırlarını aşıyor.

Finansın, operasyonun, hukuk biriminin, veri sahiplerinin ve yönetimin birlikte cevaplaması gereken sorular var:

Hangi bilgi gerçektir?

Kim onaylar?

Ne zaman güncellenir?

Eski bilgi ne zaman geçersiz olur?

Bir rakamın sahibi kimdir?

Yapay zekâ bunları sizin yerinize belirleyemez.

Ancak belirlediğiniz düzenin içinde çalışabilir.

Tek bir soru yeter

Bir kurumda kullanılan yapay zekânın güvenilirliğini anlamak için bazen onlarca teknik soru sormaya gerek yok.

Tek bir soru yeter:

“Bu cevabın nereden geldiğini gösterebilir misin?”

Gösteremiyorsa cevap doğru olabilir.

Ama tahmin de olabilir.

Ve asıl risk, ikisinin dışarıdan birbirine çok benzemesidir.

Finansta yıllardır bildiğimiz şey burada da geçerli:

Hızlı cevap değerlidir.

Ama arkasında durabildiğiniz cevap çok daha değerlidir.

Çünkü kaynağı olmayan bir rakam nasıl yalnızca bir rakamsa, kaynağı gösterilemeyen bir yapay zekâ cevabı da yalnızca bir cevaptır.

Henüz bilgi değildir.

Kaynaklar

• Kalai, A. T., Nachum, O., Vempala, S. & Zhang, E. — Why Language Models Hallucinate, OpenAI, 2025. arXiv:2509.04664.

• OpenAI — Why Language Models Hallucinate, 2025.

• Atlan — Kurumsal veri yönetişimi, bağlam yönetimi ve yapay zekâ güvenilirliği üzerine çalışmalar.

• Gartner — Lack of AI-Ready Data Puts AI Projects at Risk, 26 Şubat 2025.