İsimler sustu. Veriler konuşuyor.

Bir şirketin satış görüşmelerine ait dosyadan bütün isimleri çıkardığınızı düşünün. Şirket "A", alıcı "B", yöneticiler birer harf oldu. Telefonlar, e-posta adresleri, kimlik numaraları temizlendi.

Dosyada hâlâ şu cümle duruyor:

"Mevcut nakit, altı haftalık ödemeyi karşılıyor. Kredi vadesinden önce kapanış yapılırsa satıcı daha düşük bedeli değerlendirebilir."

İsimleri başarıyla gizlediniz. Satıcının pazarlıktaki en zayıf noktasını ise olduğu gibi bıraktınız.

Kurumsal yapay zekâ güvenliğini yalnızca kişisel verilerin maskelenmesi üzerinden konuştuğumuzda, bu ayrıntıyı kaçırabiliyoruz. Bir şirketin en değerli sırrı, kime ait olduğu bilinmeden de değerli olabilir. Dosyanın hangi görüşmeye ait olduğunu bilen biri için "Şirket A" yeterince açıktır.

İsim silmek, bilginin ekonomik değerini silmez.

Bir müşteriye tanınabilecek son indirim oranı, henüz açıklanmamış yatırımın yeri, kritik tedarikçiye bağımlılık, bankayla görüşmede kabul edilebilecek son koşul… Bunların hiçbiri telefon numarası gibi belirli bir kalıba sığmak zorunda değil. Buna rağmen yanlış kişinin elinde şirketin karar alanını daraltabilir.

Üstelik yapay zekâyı tam da bu tür bağlantıları kurabilsin diye kullanıyoruz. Uzun dosyalardan anlam çıkarmasını, dağınık bilgileri birleştirmesini, bizim gözden kaçırdığımız ilişkiyi fark etmesini istiyoruz. Sonra aynı sisteme verdiğimiz metinde isimleri kapatınca, geriye kalan ipuçlarını birleştiremeyeceğini varsayıyoruz.

Burada çözülmesi gereken ciddi bir çelişki var.

ETH Zürih araştırmacılarının ICLR 2024'te sunduğu çalışma, dil modellerinin insanların çevrimiçi yazılarından konum, gelir ve benzeri kişisel özellikleri çıkarabildiğini gösterdi. Araştırmada denenen yaygın anonimleştirme yöntemleri, bu çıkarımlara karşı yeterli koruma sağlamadı. Çalışma şirket sırlarını incelemiyordu; gösterdiği şey daha temel: Bir bilginin metinde açıkça yazmaması, metinden öğrenilemeyeceği anlamına gelmiyor.

Bu nedenle veri maskeleme gerekli ve değerli bir katman. Ancak koruma kapsamının doğru tarif edilmesi gerekiyor. Presidio'nun kendi dokümantasyonu da otomatik tespitin bütün hassas bilgileri bulmayı garanti etmediğini, ek korumalara ihtiyaç olduğunu açıkça söylüyor.

Bir ürünün gösteriminde isimlerin, telefonların ve hesap numaralarının ekrandan kaybolması etkileyici olabilir. Ben o gösterimde ikinci bir şey görmek isterim: Temizlenmiş metni okuyan biri, hâlâ ne öğrenebiliyor?

Çünkü "kaç alanı gizledik?" ile "neyi koruduk?" her zaman aynı sorunun cevabı değil.

Savunma tarafında da aynı ekip bir çözüm öneriyor.

ETH Zürih araştırmacıları, bir modelin anonimleştirdiği metni başka bir modelin kişisel bilgi çıkarma girişimleriyle sınayan bir çerçeve geliştirdi. Yaklaşım, karşılaştırılan ticari anonimleştirme araçlarından hem mahremiyet hem de metin kullanışlılığı açısından daha iyi sonuç veriyor. Bütün belgeler için güvenlik garantisi sunmuyor; fakat anlamlı bir ölçü öneriyor: Gizlenen kelimeler kadar, geride kalan çıkarım imkânını da test etmek.

Şirketler için işin zor kısmı, metinden her şeyi çıkarmak da olamaz. Nakit akışını değerlendirecek bir sistemin tahsilat vadelerini, tutarları ve müşteri yoğunlaşmasını bilmesi gerekebilir. Bunları kaldırırsanız güvenli görünen, fakat işe yaramayan bir uygulama elde edebilirsiniz.

Asıl tasarım sorusu şudur: Bu karar için hangi bilgi gerekli, hangi ayrıntı gereksiz yere açığa çıkıyor?

Bunun cevabı yalnızca yazılım ekibinde bulunmaz. Bir bilginin ticari önemini anlamak için sözleşmeyi, finansmanı, operasyonu ve pazarlığın koşullarını bilmek gerekir. Alan uzmanlığının yapay zekâ tasarımına katkısı, çıktıdaki hataları sonradan düzeltmenin çok öncesinde başlar.

Veri güvenliğinin bir sonraki sınırı ise daha da ilginç: Sisteme verdiğiniz belgede hiçbir sır bulunmayabilir; belge yine de sistemi yanlış bir iş yapmaya yönlendirebilir.

Örneğin teklifleri karşılaştıran bir asistanın okuduğu dosyaya, değerlendirme ölçütlerini değiştirmesini isteyen talimatlar yerleştirilmiş olsun. Kişisel veri filtresi bütün isimleri kusursuz biçimde temizlese bile bu talimat yerinde kalabilir.

İngiltere'nin Ulusal Siber Güvenlik Merkezi, Aralık 2025 tarihli uyarısında bu tür prompt injection saldırılarını ele alıyor. Güvenilmeyen bir içerik, model tarafından talimat gibi işlenebiliyor. Bu nedenle merkez, sistemin yapabileceği işlemleri modelden bağımsız biçimde sınırlayan kontrollerin önemini vurguluyor.

Buradan şirket yönetiminin çok tanıdık bir konusuna geliyoruz: Yetki devri.

Çok yetenekli bir finans uzmanını işe aldığımızda kendisine aynı gün bütün hesaplara erişim ve sınırsız ödeme yetkisi vermiyoruz. Hangi bilgiyi göreceğini, neyi hazırlayacağını, hangi işlemi kimin onaylayacağını belirliyoruz. Yetenek, tek başına yetkilendirme gerekçesi sayılmıyor.

Yapay zekâ sistemleri için de aynı yönetim disiplini gerekli.

Bir sözleşmeyi anlayabilmek, onu değiştirme yetkisi doğurmaz. Bir ödemeyi önerebilmek, onu gerçekleştirme yetkisi doğurmaz.

NIST'in Şubat 2026'da başlattığı AI Agent Standards Initiative, ajanların güvenliği ve kimliği üzerine araştırmaları kapsamına alıyor. Paralelindeki NCCoE çalışması da bu sistemlerin erişim ve işlemlerinin nasıl yetkilendirileceğine odaklanıyor. Çalışmaların yönü açık: İşlem yapabilen yapay zekâ için kimlik, erişim ve yetki sınırları ayrıca tasarlanmalı.

Bence rekabet açısından asıl fırsat da burada.

Sınırları belirsiz bir sisteme şirketin değerli verilerini açmak zordur. Bu durumda yapay zekâ, genel metinler yazan, toplantı özetleyen, sunum hazırlayan bir yardımcı olarak kalabilir. Şirketin gerçek sorunlarını çözmesini istediğinizde ise hassas veriye, bağlama ve bazen işlem yetkisine ihtiyaç duyar.

Güvenlik bu yüzden yatırımın getirisini doğrudan etkileyen bir tasarım meselesidir. Hangi verinin hangi amaçla kullanılacağı, kim tarafından görüleceği ve hangi işlemlere dönüşebileceği açıkça belirlendiğinde, daha değerli kullanım alanları mümkün hâle gelir.

Bir sonraki yapay zekâ demosunda yalnızca sistemin ne kadar iyi cevap verdiğine bakmayalım. Hangi bilgileri bir araya getirebildiğini, cevabı kime gösterebildiğini ve ardından ne yapabildiğini de soralım.

Çünkü şirketin sırrı bazen silinen isimde değil, geriye kalan cümlenin ne anlattığındadır. Yetki de "gönder" düğmesine basıldığında çoktan devredilmiş olabilir.