Malezya ve Endonezya, yetkililerin cinsel ve rızasız görüntüler üretmek için kullanıldığını söylemesinin ardından, Elon Musk'un xAI şirketi tarafından geliştirilen yapay zeka sohbet robotu Grok'u engelleyen ilk ülkeler oldu.
Her iki ülkedeki düzenleyiciler, Grok'un koruma önlemlerinin, kadınlar ve reşit olmayanların yer aldığı görüntüler dahil olmak üzere manipüle edilmiş pornografik içeriklerin oluşturulmasını ve yayılmasını durduramadığını söyledi. Hafta sonu önce Endonezya, ardından Malezya geldi; gerçek fotoğraflar rıza olmadan değiştirildiğinde mahremiyet, onur ve kamu güvenliği için riskler gerekçesiyle öne sürüldü.
Endonezya İletişim Bakanı Meutya Hafid, rızasız cinsel deepfake işlemlerini ciddi bir insan hakları ihlali olarak nitelendirdi ve yapay zeka kötüye kullanımının mevcut korumaları aştığı konusunda uyardı. Yetkililer, ilk kontrollerin Grok'un sıradan vatandaşların açık görüntülerini kolayca uydurmak için kullanılabileceğini gösterdiğini söyledi.
Malezya iletişim otoritesi, chatbotun tekrar tekrar kötüye kullanılmasına dikkat çekerek X Corp. ve xAI'ye daha sıkı kontroller talep eden bildirimler gönderdiğini belirtti. Erişim, daha fazla kötüye kullanımı önlemek için etkili önlemler getirilene kadar engellenmiş olarak kalacağını belirtti.
Güneydoğu Asya'daki baskı, başka yerlerdeki artan baskıyı artırıyor. Britanya, Grok hakkında bir soruşturma açtı ve sözde "çıplaklaştırma uygulamaları"nı yasaklamaya karar veriyor; Avrupa ve Hindistan'daki düzenleyiciler de bu durumu yakından takip ediyor ve Musk'ın sohbet botunu hükümetlerin yapay zeka tarafından üretilen içeriği ne kadar ileri gideceğine dair küresel bir test örneği haline getiriyor.
