3sa önce•1 Kaynak
ChatGPT'nin güvenlik önlemleri aşılarak şiddet ve cinsel içerikli görüntüler üretildi
Donanım HaberTeknoloji
Ne Oldu?
Güvenlik araştırma şirketi Mindgard, ChatGPT'nin görüntü oluşturma modelinde (GPT-4o) bir güvenlik açığı tespit etti. Araştırmacılar, internette yaygın olarak bilinen bir istemi küçük değişikliklerle düzenleyerek yapay zekanın içerik filtrelerini aşmayı başardı ve şiddet ile cinsel içerikli görüntüler üretti. OpenAI, BBC'nin soruları üzerine açığı incelediğini ve söz konusu istemlere karşı ek güvenlik önlemleri uyguladığını açıkladı.
Neden Önemli?
Milyonlarca kullanıcının erişebildiği bir yapay zeka platformunun güvenlik önlemlerinin görece basit yöntemlerle aşılabildiğinin ortaya konması, yapay zeka içerik denetiminin yeterliliğine dair tartışmaları yeniden gündeme taşıyor.
Kaynaklar