İspanyol yetkilileri, dolandırıcıların TikTok'ta yapay zeka tarafından oluşturulan videoları kullanarak İspanya tahtının 20 yaşındaki varisi Prenses Leonor'u taklit etmesinin ardından, sosyal medya kullanıcılarını hedef alan çevrimiçi bir dolandırıcılıkla uyarı yaptı.
Sahte hesaplar, "Leonor"un binlerce dolar finansal yardım vaat ettiği gerçekçi görünümlü videoları gösteriyor; karşılığında birkaç yüz dolarlık peşin ücret vaadi veriliyor. Asturias Prensesi Vakfı'na göre, ödeme yapan mağdurlardan, dolandırıcılar ortadan kaybolmadan önce ek ödemeler talep ediliyor.
Prenses Leonor'un yer aldığı iddia edilen yapay zeka kullanılarak oluşturulmuş sahte bir TikTok videosunun fotoğrafı
Vakıf, ne kendisinin ne de Prenses Leonor'un para, hibe veya kişisel mali yardım sunan herhangi bir program yürütmediğini vurgulayarak, bu tür mesajların hepsini "tamamen yanlış" olarak nitelendirdi. El País'in ( The Guardian aracılığıyla) yaptığı bir soruşturma, dolandırıcılıkla bağlantılı telefon numaralarının Dominik Cumhuriyeti'ne kadar izlendiğini ve bazı videoların bir milyondan fazla izlenme topladığını ortaya koydu.
TikTok'un taklit ve sahte faaliyetleri yasaklayan kurallarına rağmen, gazete sahte Leonor hesaplarıyla ilgili tekrarlayan şikayetlerin reddedildiğini ve platformun içeriğin politikalarını ihlal etmediğini belirttiğini bildirdi. Bu durum, yapay zeka kaynaklı taklit dolandırıcılıkları konusunda artan endişeleri ortaya koyuyor; çünkü giderek gerçekçi olan sahte videolar, kullanıcıların resmi figürleri sofistike sahtekarlıktan ayırt etmesini zorlaştırıyor.
