İddia: Microsoft, DALL-E 3 yapay zekasından endişelenen bir mühendisi susturdu

Shane Jones, ABD senatörleri ve Washington eyaleti Başsavcısına yazdığı mektupta "DALL-E 3'ün bir kamu güvenliği riski oluşturduğu ve OpenAI bu modelle ilişkili riskleri ele alana kadar kamu kullanımından kaldırılması gerektiği sonucuna vardım" dedi.

Ayrıca Bkz.Meta, Code Llama 70B ile GPT-4 ile aradaki farkı kapatıyor

Jones, aralık ayı başlarında DALL-E 3'ün güvenlik bariyerlerini aşmasını sağlayan bir açık keşfettiğini iddia ediyor. Sorunu Microsoft'taki üstlerine bildirdiğini, onların da kendisine "sorunu doğrudan OpenAI'a şahsen bildirmesi" talimatını verdiklerini söylüyor. Bunu yaptıktan sonra, açığın "şiddet içeren ve rahatsız edici zararlı görüntülerin" oluşturulmasına izin verebileceğini öğrendiğini iddia ediyor.

OpenAI ve Microsoft'a göre açık yok

Jones, sonrasında ise kamuoyunu bildirmek için LinkedIn'de bir gönderi paylaşmış ve bunu Microsoft’a bildirmiş. Belirtilenlere göre Microsoft, ilgili paylaşımın derhal kaldırılmasını talep etmiş. Jones, kendisine Microsoft’un hukuk ekibinden detaylı açıklama yapılacağının söylendiğini ancak bunun hiçbir zaman gerçekleşmediğini de aktarıyor.

OpenAI ise incelemeler sonucunda DALL-E 3’te böyle bir açığın bulunmadığını açıkladı. Ayrıca cinsel veya şiddet içerikli istemleri engellemek için modelde ciddi eğitimler ve sınırlamalar yaptıklarını belirtiyor. Benzer şekilde Microsoft da böyle bir açığın olmadığını aktardı. Bununla birlikte bazıları bu açığın veya farklı bir açığın gündemde olan Taylor Swift'in pornografik deepfake'leriyle ilişkili olabileceğini söylüyor. Ancak bu konu hakkında net bir söylem yok.