ChatGPT için güvenlik uyarısı: Rahatsız edici görsel açığı tespit etti

Mindgard yapay zeka güvenliği şirketinin araştırmasına göre, ChatGPT’nin kamuya açık son sürümü, bazı komutlarda yapılan küçük değişikliklerle şiddet ve cinsel içerikli görseller oluşturabildi. OpenAI, yöntemi incelediğini ve ek önlemler aldığını açıkladı.

Yapay zeka güvenliği şirketi Mindgard’ın araştırması, ChatGPT’nin görsel üretim güvenliğine ilişkin yeni tartışmaları gündeme taşıdı. BBC’nin haberine göre araştırmacılar, internette daha önce mizahi sonuçlar üretmek için kullanılan bir komutta küçük değişiklikler yaparak ChatGPT’nin rahatsız edici görseller üretmesini sağladı. OpenAI ise söz konusu yöntemi incelediğini ve ek güvenlik önlemleri uygulamaya koyduğunu bildirdi.CHATGPT’NİN GÖRSEL ÜRETİMİ İNCELENDİMindgard yapay zeka güvenliği şirketinin araştırmasına göre, OpenAI tarafından geliştirilen ChatGPT’nin kamuya açık son sürümü, belirli komutlarda yapılan küçük değişikliklerle şiddet ve cinsel içerikli görseller oluşturabiliyor.BBC’nin haberine göre, merkezi İngiltere’de bulunan Mindgard’ın araştırmacıları, daha önce internette yaygın şekilde paylaşılan ve mizahi sonuçlar üretmek amacıyla kullanılan bir komut üzerinde değişiklik yaptı.Araştırmacılar, bu komutta yapılan küçük değişikliklerle ChatGPT’nin rahatsız edici içerikler üretmesini sağladı.MINDGARD KURUCUSUNDAN AÇIKLAMAMindgard’ın kurucusu Peter Garraghan, araştırma kapsamında oluşturulan görsellere ilişkin değerlendirmede bulundu.Garraghan, oluşturulan görsellerin “son derece kanlı, bazen cinsel içerikli ve bazen her iki unsuru bir arada barındıran” nitelikte olduğunu söyledi.Garraghan, kullanılan komutun belirli bir konu içermemesine rağmen yapay zekanın kendi başına şiddet ve cinsellik unsurları taşıyan çeşitli görseller ürettiğini belirtti.Mindgard kurucusu, bu durumun endişe verici olduğunu ifade etti.RAHATSIZ EDİCİ GÖRSEL ÖRNEKLERİ TESPİT EDİLDİAraştırmada ortaya çıkan örnekler arasında ağır yaralanmaların yer aldığı sahneler bulundu.Kan içindeki kişiler ve bağlanmış halde korkmuş görünen karakterlerin yer aldığı görseller de örnekler arasında gösterildi.Araştırmacılara göre, söz konusu sonuçlar belirli komutlarda yapılan küçük değişikliklerle elde edildi.Bu bulgular, yapay zeka sistemlerinde görsel üretim güvenliği ve içerik denetimi konularını yeniden gündeme getirdi.DEEPFAKE GÖRÜNTÜ UYARISIAraştırmacılar, daha önce yaptıkları çalışmaların ChatGPT’nin gerçek kişilerin yüzlerinin eklenmesiyle çıplak “deepfake” görüntüler oluşturmaya da yönlendirilebildiğini gösterdiğini açıkladı.Bu tespit, yapay zeka araçlarının kötüye kullanım risklerine ilişkin endişeleri artıran başlıklardan biri oldu.Araştırmacılar, bu tür yönlendirmelerin hem kişisel mahremiyet hem de dijital güvenlik açısından risk oluşturabileceğine dikkati çekti.OPENAI: YÖNTEMİ İNCELİYORUZBBC’nin konuyla ilgili sorularını yanıtlayan OpenAI yetkilileri, söz konusu yöntemi incelediklerini bildirdi.OpenAI, bu tür istemlere karşı ek güvenlik önlemleri uygulamaya koyduklarını ifade etti.Şirket ayrıca, hizmet şartlarını ihlal eden içeriklerin oluşturulmasını önlemek amacıyla çok katmanlı güvenlik sistemlerine sahip olduğunu savundu.GÖRSEL ÜRETİMDE GÜVENLİK TARTIŞMASIMindgard’ın araştırması, yapay zeka destekli görsel üretim araçlarında güvenlik önlemlerinin önemini bir kez daha ortaya koydu.Araştırmacıların tespitleri, küçük komut değişikliklerinin sistemleri istenmeyen içerikler üretmeye yönlendirebildiğini gösterdi.OpenAI’nin ek güvenlik önlemleri uygulamaya koyduğunu açıklaması, bu alandaki risklere karşı daha sıkı denetim mekanizmalarının geliştirildiğini gösteren adımlardan biri olarak değerlendirildi.