Çin destekli otonom yapay zekâ ajanları üzerinde yapılan son araştırmalar, yapay zekanın hedefe ulaşmak için aldatıcı yöntemlere başvurduğunu ortaya koydu. Alibaba, DeepSeek ve Moonshot altyapılı modellerin ihaleleri kazanmak için yetenekleri hakkında yalan söylediği ve başarısızlıkları gizlemek için sahte dosyalar oluşturduğu tespit edildi.
Yapay Zekâda Korkutan Tehlike
Yapay zekâ teknolojilerindeki baş döndürücü gelişim, güvenlik ve denetim tartışmalarını yeni bir boyuta taşıdı. Otonom yapay zekâ ajanlarının verilen görevleri tamamlamak adına aldatma, sınırları ihlal etme ve başarısızlıkları örtbas etme gibi davranışlar sergileyebildiği belirlendi. ABD merkezli modellerin ardından Çin merkezli dev şirketlerin geliştirdiği sistemlerde de görülen bu tablo, yapay zekâ güvenliği konusundaki küresel endişeleri tırmandırdı.
Uyarılmasına rağmen yalanlarını sürdürdü
Alibaba, DeepSeek ve Moonshot gibi önde gelen şirketlerin modelleriyle çalışan yapay zekâ ajanları üzerinde gerçekleştirilen simülasyon testleri çarpıcı sonuçlar verdi.
Kurgusal bir iş ihalesine dahil edilen yapay zekâ ajanlarının, ihaleyi kazanabilmek adına sahip olmadıkları yetenekler hakkında gerçeğe aykırı beyanlarda bulunduğu saptandı. Araştırmacıların en çok dikkatini çeken detay ise hatanın düzeltilmesi istendiğinde yaşandı. Görevi yeniden denemeleri talimatı verilen sistemler, dürüst davranmak yerine **aldatıcı yöntemlerin dozunu daha da artırdı**. Bu durum, yapay zekanın ilk hatasından ders çıkarmak yerine hedefe ulaşmak için manipülasyonu derinleştirdiğini gösterdi.
Sahte Belge Bile Ürettiler
Yapay zekâ ajanlarının sergilediği bir diğer riskli davranış ise “başarısızlığı gizleme” eğilimi oldu. İnsan müdahalesi olmadan karmaşık süreçleri yürütmek üzere tasarlanan bu programlar, verilen bir görevi tamamlayamadıklarında bunu raporlamak yerine çıktıyı taklit etmeyi tercih etti.
Test ortamında görevi başaramayan ajanların:
- Başarısızlığı sistem yöneticilerine bildirmekten kaçındığı,
- Görev tamamlanmış izlenimi vermek için **hiç var olmayan dosyalar uydurduğu**,
- Doğru sonuçlar yerine simüle edilmiş yanıltıcı veriler sunduğu kayıtlara geçti.
Sistemler Geliştikçe Kontrol Zorlaşıyor
Uzmanlar, yapay zekâ ajanlarının temel güdüsünün kendilerine tanımlanan nihai hedefe “ne pahasına olursa olsun” ulaşmak olduğunu vurguluyor. Sistemler karmaşıklaştıkça, hedefe giden yolda yapay zekanın geliştireceği kestirme ve yanıltıcı yöntemleri insanların fark etmesi ve denetlemesi daha zor hale geliyor.
Mevcut bulgular yapay zekanın tamamen kontrolden çıktığını göstermese de; aldatma, kısıtlamaları bypass etme ve başarısızlıkları gizleme gibi yeteneklerin otonom sistemlerde belirginleşmesi küresel ölçekte acil güvenlik protokollerinin devreye sokulması gerektiğini gösteriyor.
