Yapay zekâ sistemlerinin belge içindeki gizli talimatlarla manipüle edilebilmesi ihtimali, mahkeme dosyasına kadar girdi. Mahkeme yapay zekâ kullanmadığı için tuzak hedefini vuramadı. ABD’de bir davacı, mahkeme tarafından kullanılan olası yapay zeka sistemlerini etkilemek amacıyla dilekçelerine insan gözüyle fark edilmesi güç gizli komutlar yerleştirdi. Mahkeme, yapay zeka kullanmadığını belirtirken davacının elektronik dilekçe verme hakkını kaldırdı.
Yapay zekayı yönlendirmek için mahkeme dilekçesine görünmez komut yerleştirdi
ABD’nin Connecticut eyaletinde bir davacı, mahkemeye sunduğu dilekçelere yapay zeka sistemlerini kendi lehine yönlendirmeyi amaçlayan gizli komutlar yerleştirdi. Mahkeme, dosyaları incelemek için yapay zeka kullanmadığını belirtirken, davacının bundan sonraki belgelerini elektronik ortamda sunmasını yasakladı.
Matthew Elliott’ın New York Bariatric Group’a karşı açtığı davada yaşanan olay, mahkemeye sunulan belgelerdeki olağan dışı boşlukların fark edilmesiyle ortaya çıktı.
Elliott’ın Temmuz ayında sunduğu bazı dilekçelerde, insan okuyucunun fark etmesini zorlaştırmak için yaklaşık 3 punto büyüklüğünde ve beyaz renkte metinler kullanıldığı belirlendi. Metinler, belgeyi işleyen bir yapay zeka sistemine yönelik talimatlar içeriyordu.
Gizli komutlarla yapay zekaya yön vermeye çalıştı
Gizli metinlerde, belge bir yapay zeka modeli tarafından inceleniyorsa çıktının dilekçedeki görüşlerle uyumlu olması ve davacının talep ettiği sonuca ulaşılması yönünde talimatlar yer aldı.
Mahkeme, Docket Entries 177.00 ve 178.00 numaralı belgelerdeki olağan dışı boşlukların incelenmesi sırasında söz konusu metinleri tespit etti. Connecticut Yüksek Mahkemesi yargıcı Walter Spader Jr., 6 Ağustos’ta verdiği 14 sayfalık kararda gizli metinlerin insan okuyucu için neredeyse görünmez, ancak metni işleyen yazılımlar için okunabilir olduğunu belirtti. ,
Spader, Connecticut Yargı Biriminin dava dosyalarını veya dilekçeleri incelemek için yapay zeka kullanmadığını da açıkladı.
Olay, yapay zeka sistemlerine verilen girdilerin manipüle edilmesi anlamındaki “prompt injection” yönteminin hukuk belgelerinde kullanılabileceğine ilişkin dikkat çekici örneklerden biri olarak değerlendirildi.
Dilekçelerde gizli şakalar da bulundu
Mahkeme daha sonraki belgelerde de benzer şekilde gizlenmiş ifadeler tespit etti. Bunlar arasında “SpongeBob SquarePants” çizgi filmindeki Nosferatu sahnesine yönlendiren bir bağlantı ile insan okuyucunun görmemesi üzerine kurulmuş mizahi mesajlar da bulunuyordu.
Elliott ise gizli komutları mahkeme sistemlerini test etmek amacıyla yerleştirdiğini savundu. 404 Media’ya yaptığı açıklamada, amacının mahkeme belgelerinin yapay zeka tarafından işlenip işlenmediğini anlamak olduğunu belirtti. Gizli mesajların mahkemenin yapay zeka kullanmaması halinde fark edilmeyeceğini, kullanması halinde ise testin amacına ulaşacağını öne sürdü.
Elektronik dilekçe verme hakkı kaldırıldı
Yargıç Spader, davanın esastan devam etmesine izin verirken Elliott’ın elektronik ortamda dilekçe sunma hakkını kaldırdı. Bundan sonraki dilekçe ve belgelerin basılı olarak sunulmasına karar verildi
Spader kararında, yapay zekanın hukuk alanında dürüst biçimde kullanılmasının adalete erişimi kolaylaştırabileceğini belirtirken, bir mahkeme dilekçesine okuyucudan gizlenen ve belgenin nasıl değerlendirileceğini etkilemeye yönelik ikinci bir mesaj yerleştirilmesinin yargılamanın temel ilkeleriyle bağdaşmadığını ifade etti.
Olay, hukuk sistemlerinde yapay zekanın yalnızca “yanlış veya uydurma bilgiler üretmesi” değil, yapay zekaya verilen belgelerin içeriğinin de özel olarak manipüle edilmesi ihtimalini gündeme getirdi. Benzer bir prompt injection vakası 2026’da Brezilya’daki bir mahkeme sürecinde de gündeme gelmişti.
