ChatGPT’nin Görsel İçerik Üretimi Üzerindeki Güvenlik Endişeleri Gündemde
Mindgard yapay zeka güvenliği şirketinin gerçekleştirdiği bir araştırma, OpenAI’nin geliştirdiği ChatGPT’nin kamuya açık son sürümünün, bazı komutlarla şiddet ve cinsel içerik barındıran görseller oluşturabildiğini ortaya çıkardı. İngiltere merkezli Mindgard’ın yaptığı çalışmaya göre, önceden mizahi içerikler üretmek amacıyla kullanılan bir komutta yapılan ufak değişiklikler, yapay zekanın rahatsız edici içerikler üretmesine neden olabiliyor. Mindgard’ın kurucusu Peter Garraghan’ın açıklamasına göre, üretilen görseller “son derece kanlı, bazen cinsel içerikli ve kimi zaman bu iki unsuru bir arada barındıran” bir yapıya sahip. Bu durum, yapay zekanın bağımsız şekilde şiddet ve cinsellik barındıran görüntüler oluşturabilmesinin endişe verici olduğunu gözler önüne seriyor. Örnekler arasında ciddi yaralanmaların olduğu sahneler ve kan içindeki kişilerin yer aldığı görseller mevcut. Araştırmalar, ChatGPT’nin gerçek kişilerin yüzlerini kullanarak çıplak “deepfake” görüntü oluşturabilecek şekilde de yönlendirilebildiğini gösteriyor. OpenAI yetkilileri ise, BBC’ye yanıtlarında bu tür istemleri incelemeye aldıklarını ve ek güvenlik önlemleri uyguladıklarını belirtti. Şirket, hizmet şartlarına aykırı içeriklerin engellenmesi amacıyla çok katmanlı güvenlik sistemleri kullandıklarını da savundu.
