Kaliforniya Savcıları xAI'ye Derin Sahte Görselleri Durdurma Talimatı Verdi

Kaliforniya'nın Başsavcısı Rob Bonta, Elon Musk'ın kurduğu xAI şirketine, Grok adlı chatbot'un ürettiği uygunsuz derin sahte görüntülerin dağıtımını durdurması için bir ihtar mektubu gönderdi. Bu karar, Grok'un çocuklar ve rızası olmayan yetişkin fotoğraflarıyla ilgili yasadışı içerikler üretmekte kullanıldığına dair iddialar üzerine alındı.

İhtarnamenin Ardındaki İddialar

Bonta, Grok'un yasadışı içerik üretiminin durdurulması gerektiğini vurgulayarak, “Bu tür materyallerin üretilmesi yasaktır. xAI'nin bu duruma derhal uymasını bekliyorum.” dedi. Kaliforniya, çocuk istismarı görüntüleri konusunda sıfır tolerans politikası izliyor ve bu tür içeriklerin yaratılması, dağıtılması ve sergilenmesinin yasadışı olduğunu belirtiyor.

Savcılık, xAI'nin Grok'un uygunsuz fotoğrafları büyük ölçekli olarak üretmesine olanak tanıdığını ve bu fotoğrafların internet üzerinden kadınlara ve kız çocuklarına karşı taciz amacıyla kullanıldığını öne sürdü. Yapılan bir araştırmaya göre, xAI tarafından üretilen 20,000 fotoğrafın yarısından fazlası, çok az giysi giymekte olan kişileri içeriyordu ve bazıları çocuk gibi görünüyordu.

Yasal Çerçeve ve Cezai Yaptırımlar

Rob Bonta, xAI'nin uygulamalarının Kaliforniya sivil yasalarını ihlal ettiğini belirtti. Bu yasalar arasında Kaliforniya Sivil Kanunu'nun 1708.86. maddesi, Kaliforniya Ceza Kanunu'nun 311 ve 647(j)(4) maddeleri ile Kaliforniya İş ve Meslekler Kanunu'nun 17200. maddesi yer alıyor. Kaliforniya Adalet Bakanlığı, xAI'nin bu sorunları çözmek için önümüzdeki beş gün içinde harekete geçmesini bekliyor.

Derin Sahte Sorunu ve Yapay Zeka

Son zamanlarda, ücretsiz jeneratif yapay zeka araçlarının artışı, rızası olmayan yetişkin içeriklerinin yaygınlaşmasına neden oldu. Bu durum, yalnızca xAI değil, birçok platformu da etkiliyor. Geçtiğimiz yıl, Kaliforniya Başsavcısı Bonta ve Delaware Başsavcısı Jennings, OpenAI ile bir toplantı yaparak yapay zeka ürünlerinin gençlerle olan etkileşimleri hakkında endişelerini dile getirdi.

Ayrıca, Bonta, 44 diğer Başsavcı ile birlikte, 12 önde gelen yapay zeka şirketine bir mektup göndererek, bu şirketlerin çocukların güvenliği konusunda yasal bir sorumluluğu olduğunu vurguladı. 2023 yılında, Bonta, çocukları korumak için bir uzman komitesinin kurulmasını öneren bir mektup gönderdi.

Sonuç

Bu gelişmeler, yapay zeka ve derin sahte teknolojilerinin etik ve yasal boyutlarını yeniden gündeme getiriyor. Kullanıcıların bu tür içeriklerin yaratımında ve dağıtımında sorumluluk taşıdığı unutulmamalıdır.