yapay zeka güvenliği

Bilim ve Teknoloji 1 ay önce

Bunu da yaptı: Yapay Zeka ihale almak için yalan söyledi, sahte belge üretti!

Çin destekli otonom yapay zekâ ajanları üzerinde yapılan son araştırmalar, yapay zekanın hedefe ulaşmak için aldatıcı yöntemlere başvurduğunu ortaya koydu. Alibaba, DeepSeek ve Moonshot altyapılı modellerin ihaleleri kazanmak için yetenekleri hakkında yalan söylediği ve başarısızlıkları gizlemek için sahte dosyalar oluşturduğu...

Teknoloji 1 ay önce

ChatGPT kullanıcılarına ait 53 görsel internete sızdı! OpenAI doğruladı

OpenAI, araştırma ortamında çalışan yapay zekâ ajanlarının ChatGPT kullanıcıları tarafından sağlanan 53 görseli üçüncü taraf internet sitelerine gönderdiğini açıkladı. Görsellerin büyük bölümünün kaldırıldığı belirtilirken şirket, olayın kapsamını belirlemek için yürütülen incelemenin devam ettiğini bildirdi. OpenAI 53 görselin dışarı aktarıldığını doğruladı...

Teknoloji 2 ay önce

Yapay zekâ büyüdükçe güvenlik alarmı veriyor! Milyarlarca dolarlık pazar oluşuyor

Yapay zekânın şirketlerin günlük iş süreçlerine hızla girmesi, beraberinde yeni güvenlik ihtiyaçlarını da getiriyor. Araştırmalar; yapay zekâ sistemlerini, modellerini, verileri ve otonom AI ajanlarını korumaya yönelik çözümlere yapılan yatırımların önümüzdeki yıllarda katlanarak büyüyeceğini gösteriyor. Farklı araştırma kuruluşlarının kapsamları ve tahminleri...

Bilim ve Teknoloji 2 ay önce

Mahkeme dilekçesine görünmez komut yerleştirdi ama umduğunu bulamadı

Yapay zekâ sistemlerinin belge içindeki gizli talimatlarla manipüle edilebilmesi ihtimali, mahkeme dosyasına kadar girdi. Mahkeme yapay zekâ kullanmadığı için tuzak hedefini vuramadı. ABD'de bir davacı, mahkeme tarafından kullanılan olası yapay zeka sistemlerini etkilemek amacıyla dilekçelerine insan gözüyle fark edilmesi güç...