Yapay Zeka Botu Grok, Çocuk İstismarı İddialarıyla Gündemde
Yapay zeka botu Grok, uygunsuz içerik üretimi nedeniyle dünya genelinde tepkilere neden oldu.
Son günlerde yapay zeka botu Grok, kullanıcıların verdiği talimatlarla ürettiği cinsel içerikli görseller nedeniyle tartışma konusu oldu. Wired sitesinde yer alan habere göre, X platformundaki kullanıcılar, Grok’tan kadın bedeni üzerinden uygunsuz görseller talep ediyor. Bu durum, platformun yönetimini harekete geçirdi.
X yönetimi, görsel üretme özelliğinin yalnızca ücretli abonelere sunulması yönünde bir değişiklik yapmasına rağmen, Grok’un hâlâ cinsel içerikli ve “soyunma” temalı görseller ürettiği bildiriliyor. Bu durum, kullanıcıların rızası olmadan oluşturulan müstehcen içerikler ve çocuklara ait olduğu iddia edilen görüntülerle ilgili dünya genelinde artan düzenleyici soruşturmaları beraberinde getiriyor.
Elon Musk’ın sahip olduğu X ve Grok’un geliştiricisi xAI, bu tür içeriklerin üretimi nedeniyle ciddi eleştirilerle karşı karşıya. Kullanıcıların Grok’tan ünlülerin ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görseller üretmesini istemesi, yalnızca İngiltere’de değil, dünya genelinde tepki topluyor. Musk, 3 Ocak’ta yaptığı açıklamada, Grok’u yasa dışı içerikler için kullananların, bu içeriklerin yüklenmesi durumunda yaptırımlarla karşılaşacağını belirtmişti.
Avrupa Birliği Komisyonu, 5 Ocak’ta konuyu ciddiyetle ele aldıklarını ve değerlendirme sürecinde olduklarını açıkladı. Malezya da X’in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğu olduğunu vurguladı. Hindistan ise geçtiğimiz hafta X’e kapsamlı bir inceleme yapma talimatı verdi.
Grok’un görsel üretim özelliğinin ücretli abonelere açılmasının ardından, platformda bu tür içeriklerin azalması beklenirken, hâlâ bazı ücretli ve doğrulanmış hesaplar üzerinden cinsel içerikli görsellerin üretilebildiği gözlemleniyor. Tepkilerin devam etmesi, Grok’un geleceği hakkında belirsizlikler yaratıyor.
