Grok, görsel üretme özelliğinin çocuk istismarına yol açtığı için gündemde
Wired sitesinin haberine nazaran yapay zeka botu Grok, son vakitlerde kullanıcıların talimatı doğrultusunda çeşitli tartışmalar yaratacak görseller üretmesiyle gündemde.
Buna nazaran, yaklaşık son bir haftadır X kullanıcıları, Grok’tan bayanların kıyafetlerinin çıkarıldığı ya da şeffaf bikini üzere ögeler içeren görseller üretmesini talep ediyor.
Söz konusu durumdan ötürü X idaresi, Grok’un görsel üretme özelliğini sırf fiyatlı abonelere sınırlandırsa da yapılan değişikliğe karşın Grok’un hala “soyunma” temalı ve cinsel içerikli görseller üretmek için kullanılabildiği belirtiliyor.
ABD’li milyarder Elon Musk’ın sahibi olduğu X şirketi ve Grok’un geliştiricisi xAI şirketinin, isteksiz müstehcen imgeler ve çocuklara ilişkin olduğu argüman edilen cinsel içerikli imajlar oluşturmaları nedeniyle dünya çapındaki düzenleyici kurumlar tarafından giderek artan sayıda soruşturmayla karşı karşıya kaldığı aktarılıyor.
Grok sırf fiyatlı hesaplara karşılık verse de durum hala devam ediyor
Öte yandan X’teki Grok hesabı, dünden itibaren birtakım kullanıcıların taleplerine, görsel üretme ve düzenleme süreçlerinin yıllık 395 dolarlık abonelik paketine yönlendiren bir temasın da yer aldığı ve bu hizmetlerin “şu anda sadece fiyatlı abonelere açık olduğu” tarafında cevaplar vermeye başladı.
Söz konusu adım, ABD’li milyarder Elon Musk’ın sahibi olduğu X ve Grok’u geliştiren xAI şirketine yönelik artan reaksiyonlar ve incelemelerin akabinde geldi.
Bu iki şirket, istek dışı müstehcen içerik üretimi ve çocuklara yönelik cinsel içerik tezleri nedeniyle dünya genelinde düzenleyici kurumların soruşturmalarıyla karşı karşıya bulunuyor.
Görsel üretim özelliğinin fiyatlı abonelere açılmasının akabinde, Grok’un herkese açık görsel akışında bu çeşit içeriklerin azaldığı görülse de fiyatlı ve doğrulanmış hesaplar üzerinden hala cinsel içerikli görseller üretilebildiği kaydediliyor.
Grok’a yansılar sürüyor
X’teki kullanıcıların Grok’tan ünlülerin ve tanınmamış şahısların fotoğraflarını kullanarak cinsel içerikli düzmece görsel içerikler üretmesini istedikleri “sosyal medya akımına” yansılar yalnızca İngiltere ile hudutlu değil.
X’in sahibi ABD’li milyarder Elon Musk, 3 Ocak’ta, “Grok’u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş üzere muamele görecektir.” açıklamasını yapsa da yansılar sürüyor.
Avrupa Birliği (AB) Komitesi, 5 Ocak’ta mevzuyu çok ciddiye aldıklarını ve kıymetlendirme sürecinde olduklarını açıklamıştı.
Malezya, 3 Ocak’ta X’in bu tıp ziyanlı içeriklerin yayılmasını tedbire konusunda sorumluluğu olduğunu vurgulamıştı.
Hindistan da geçen hafta X’e, husus hakkında kapsamlı inceleme yapma talimatı vermişti.
