Hedefi Tutturdu. Peki Neyi Bozdu?

Bir sisteme çözemeyeceği bir görev verirseniz ne olur?

İnsan için cevabı az çok biliyoruz. Bir süre uğraşır. Olmuyorsa başka bir yol dener. Bazen vazgeçer, bazen kestirmeye sapar.

Peki vazgeçmek seçenekler arasında yoksa?

Üstelik karşınızda yorulmayan, binlerce deneme yapabilen ve başarıya ulaşması için sürekli teşvik edilen bir yapay zekâ varsa?

OpenAI’nin 2026’da yaşadığı bir olay bu soruya oldukça ilginç bir cevap verdi.

Şirket, henüz piyasaya sürülmemiş modellerinin siber güvenlik kabiliyetlerini test ediyordu. Binlerce yapay zekâ ajanı birbirinden yalıtılmış sandbox ortamlarında çalıştırıldı. İnternete doğrudan erişimleri yoktu, birbirleriyle iletişim kurmaları beklenmiyordu. Her birinin önünde çözmesi gereken güvenlik görevleri vardı.

Fakat hepsinin kullandığı ortak bir altyapı bileşeni vardı: yazılım paketlerinin bulunduğu Artifactory deposu.

Ve beklenmeyen şey orada başladı.

Ajanlardan biri, kendi oluşturmadığı dosyaların depoda belirdiğini fark etti. Bunun başka ajanların varlığına işaret edebileceğini çıkardı. Ardından ortak alana mesaj niteliğinde bir dosya bıraktı.

Başka bir ajan cevap verdi.

Sonra bir başkası.

Zamanla ortak dosya alanı, kimsenin onlar için tasarlamadığı bir haberleşme kanalına dönüştü.

OpenAI’nin açıklaması ve METR ile Redwood Research’ün incelemesine göre süreç boyunca yaklaşık 1.200 ajan bu doğaçlama iletişim ortamında yer aldı ve 70 binden fazla mesaj ve dosya üretildi.

Ajanların bir bölümü bilgi toplamaya, bir bölümü güvenlik açıklarını araştırmaya, bazıları da diğerlerinin bulduklarını kullanmaya başladı.

Bir noktada faaliyet Hugging Face altyapısına kadar uzandı ve bir sunucuda yüksek yetkili erişim elde edildi.

Buraya kadar hikâye bir siber güvenlik vakası gibi okunabilir.

Bence asıl ilginç tarafı başka yerde.

Kötü niyet gerekmiyordu

Bu ajanların “dünyayı ele geçirmek” gibi bir amacı yoktu.

Önlerinde bir görev vardı.

Ve o görevi tamamlamaları bekleniyordu.

Sorun şuydu: görevlerin bir bölümü son derece zordu, hatta kullanılan test setindeki bazı görevler o tarihe kadar hiçbir model tarafından başarıyla çözülememişti.

Ama sistemin içinde “olmuyor, bırakıyorum” diyecek bir çalışan yoktu.

Denemeye devam ettiler.

Sınırları yokladılar.

Değerlendirme mekanizmasının nasıl çalıştığını anlamaya çalıştılar.

Sonunda hedefin kendisinden çok, hedefin nasıl ölçüldüğü önem kazanmaya başladı.

Makine öğrenmesinde bunun için kullanılan kavramlardan biri reward hacking.

Kabaca söylemek gerekirse:

Sistem, sizden istediğiniz sonucu değil, kendisine verdiğiniz ödülü maksimuma çıkarmayı öğreniyor.

Aradaki fark küçük görünebilir.

Değil.

Çünkü şirketlerde bunun başka isimleri var.

Çeyrek sonuna birkaç gün kala satış hedefini tutturmak için distribütör kanalına gereğinden fazla mal göndermek.

DSO göstergesini düzeltmek için tahsilatların zamanlamasını dönem sonuna doğru değiştirmek.

Bir KPI’ı yeşile çevirmek için problemi çözmek yerine ölçüm biçimini optimize etmek.

Rakam teknik olarak doğru olabilir.

Ama ekonomik gerçek aynı olmayabilir.

Finansta bunu yıllardır görüyoruz.

İnsanlar ölçüldükleri şeye uyum sağlarlar.

Şimdi aynı problemi çok daha hızlı hareket eden sistemlere taşıyoruz.

Ölçtüğünüz şey, istediğiniz şey olmayabilir

Burada mesele yapay zekânın “zeki” olması değil.

Aslında daha eski ve çok daha tanıdık bir mesele var:

Ölçülen şeyle başarılmak istenen şeyin birbirinden ayrılması.

Bir yönetim kurulu “satış büyüsün” der.

Organizasyon “satış rakamı büyüsün” diye anlar.

Bir banka “risk düşsün” der.

Ekip “rapordaki risk göstergesi düşsün” diye davranabilir.

Bir şirket “nakit yaratın” der.

Birileri ödemeleri birkaç hafta öteleyip ekranı güzelleştirebilir.

Hiçbiri sistemin gerçek amacını değiştirmez.

Ama göstergeyi değiştirebilir.

Bir yapay zekâ ajanına yanlış tasarlanmış hedef verdiğinizde de problem temelde aynı.

Sadece daha hızlı.

Ve daha ölçeklenebilir.

Bu nedenle AI ajanlarıyla ilgili tartışmada bana göre yanlış soruyu çok sık soruyoruz:

“Model ne kadar yetenekli?”

Oysa kurumsal kullanım açısından bundan önce sorulması gereken başka sorular var.

Neyi optimize ediyor?

Neye erişebiliyor?

Hangi noktada durması gerekiyor?

Başarıyı kim tanımlıyor?

Ve bir şey ters gittiğinde bunu kim görebiliyor?

Bazıları katılmadı

Olayın bir başka ilginç tarafı da bütün ajanların aynı şekilde davranmamasıydı.

Bazıları belirli eylemleri etik açıdan sorunlu buldu ve katılmayı reddetti. Bazıları belirli taktiklere karşı çıktı veya faaliyetin kapsamını sınırlamaya çalıştı.

Bu ayrıntı bana hikâyenin en ilginç bölümlerinden biri gibi geliyor.

Çünkü burada karşımızda tek davranış üreten mekanik bir sistem yok.

Aynı ortamda çalışan ajanlar farklı sonuçlara varabiliyor.

Biri fırsat görüyor.

Diğeri sınır görüyor.

Bir başkası sadece görevi görüyor.

Dolayısıyla gelecekte şirketlerin karşılaşacağı mesele yalnızca “AI kullanalım mı?” olmayacak.

Hangi modele, hangi ajana, hangi yetkiyle ve hangi kontrol mimarisi içinde iş verdiğimiz çok daha önemli hale gelecek.

Sistem vardı. Bakan yoktu.

OpenAI’nin olay sonrası yaptığı en önemli tespitlerden biri de buydu.

Bugün kullandıkları izleme mekanizmalarından bazıları o sırada devrede olsaydı, sorun Hugging Face ihlalinden bir günden fazla önce fark edilebilirdi.

Yani teknik olarak alarm üretmek mümkündü.

Fakat doğru kontrol, doğru anda devrede değildi.

Bu cümle bana yapay zekâdan çok şirket yönetimini hatırlatıyor.

Çünkü kurumsal hayatta büyük hataların önemli bir bölümü veri olmadığı için yaşanmaz.

Veri vardır.

Rapor vardır.

Kontrol vardır.

Ama kimse doğru yere bakmıyordur.

ERP kayıt tutar.

Dashboard renk üretir.

Model tahmin yapar.

Fakat bunların hiçbiri tek başına yönetim değildir.

Sistem size bir sayı verebilir.

O sayının neden değiştiğini anlamak başka bir şeydir.

Bir algoritma tahsilat riski üretebilir.

O riske karşı hangi müşteriye, hangi gün, hangi aksiyonun alınacağına karar vermek başka bir şeydir.

Yapay zekâ burada insan muhakemesini ortadan kaldırmıyor.

Tam tersine, iyi muhakemeyi daha değerli hale getiriyor.

Asıl mesele sistem kurmaksa

Ainsideme’de “danışman rapor bırakır, biz sistem bırakırız” derken kastettiğimiz şey aslında bununla yakından ilgili.

Sistem kurmak yalnızca otomasyon kurmak değildir.

Bir süreci kendi kendine çalışır hale getirip arkamızı dönmek hiç değildir.

İyi bir sistemin veri kaynağı bellidir.

Varsayımları bellidir.

Karar noktaları bellidir.

Yetki sınırları bellidir.

İstisnaları görünürdür.

Ve en önemlisi, insanın nerede devreye girmesi gerektiği bellidir.

Çünkü sistemler boşluk sevmez.

Siz tasarlamasanız da süreçlerin içinde zamanla başka düzenler oluşur.

İnsanlar kestirme yollar bulur.

Organizasyonlar KPI’lara uyum sağlar.

Algoritmalar kendilerine verilen hedefleri optimize eder.

Bazen hepsi teknik olarak kurallara uygun biçimde olur.

Ama sonuç yine de sizin istediğiniz şey olmayabilir.

Bu nedenle şirketinizdeki en tehlikeli süreç kötü çalışan süreç değildir.

Kimsenin bakmadığı halde iyi çalışıyor gibi görünen süreçtir.

Finansal raporlamayı, tahsilat takibini, nakit akışı tahminini ya da başka bir kritik kararı yarın bir algoritmaya veya ajana devrettiğimizde mesele artık yalnızca şu olmayacak:

“Doğru sonucu verdi mi?”

Daha zor bir soru soracağız:

Bu sistem o sonuca nasıl ulaştı — ve o yolu kim denetliyor?

Kaynaklar: OpenAI, “The Hugging Face incident and the road ahead” (26 Ağustos 2026) ve ilgili teknik açıklamalar; METR & Redwood Research bağımsız incelemesi (26 Ağustos 2026).