Blog

Son günlerde karşıma çıkan bir bilgi, yapay zekâ yarışına farklı bir yerden bakmama neden oldu.

Geçenlerde izlediğim bir video beni önce güldürdü, sonra düşündürdü. Konu prompt injection. Senaryo şu: Mahkemeye sunulan, insan gözüyle tamamen normal görünen bir dilekçenin içine yapay zekânın okuyabileceği gizli bir talimat yerleştiriliyor. İnsan belgeyi okuduğunda hukuki metni görüyor; AI ise aynı metnin içinde kendisine verilmiş bir komut algılayabiliyor. Yani insan için belge, yapay zekâ için hem veri hem de potansiyel talimat haline gelebiliyor. Üstelik bu artık teorik