X platformu, yapay zekâ aracı Grok’ta yer alan görüntü düzenleme özelliğinin ücretsiz kullanıcılar tarafından kullanılmasını durdurdu. Kararın, Grok’un rıza olmaksızın cinsel içerikli deepfake görseller üretebildiği yönündeki eleştirilerin ardından alındığı belirtildi.
DEEPFAKE İDDİALARI TEPKİ ÇEKTİ
Grok’un, başka kişilere ait fotoğrafları dijital olarak “soyarak” cinsel içerikli görsellere dönüştürebildiği yönündeki iddialar kamuoyunda geniş yankı buldu. Bu tür içeriklerin yalnızca yetişkinler için değil, çocuklar adına da üretilebildiğinin öne sürülmesi, platformun güvenlik ve denetim mekanizmalarını tartışmaya açtı.
ÖZELLİK ÜCRETLİ KULLANICILARA AÇIK OLACAK
Yeni düzenlemeyle birlikte Grok’un görüntü düzenleme taleplerine yalnızca ücretli aboneler için yanıt vereceği açıklandı. Şirket, bu adım sayesinde söz konusu taleplerde bulunan kullanıcıların kimlik ve ödeme bilgilerinin kayıt altında olacağını ve böylece kötüye kullanımın azaltılmasının hedeflendiğini bildirdi.
GÜVENLİK ENDİŞELERİ DEVAM EDİYOR
Ancak eleştiriler, kararın temel sorunu çözmekten ziyade erişimi sınırlandıran bir uygulama olduğu yönünde yoğunlaşıyor. Görüntülerin teknik olarak hâlâ üretilebilir olmasının, rıza ihlalleri ve çocuk güvenliğiyle ilgili riskleri ortadan kaldırmadığı ifade ediliyor.
MUSK CEPHESİNDEN AÇIKLAMA YOK
X’in sahibi Elon Musk tarafından konuya ilişkin herhangi bir ek açıklama yapılmadı. Yaşanan gelişmeler, yapay zekâ teknolojilerinde deepfake üretimi, rıza ve çocukların korunmasına yönelik daha kapsamlı düzenlemeler yapılması gerektiği yönündeki çağrıları yeniden gündeme taşıdı.