Reddit'in yapay zeka sohbet robotu, kullanıcıların eroin denemesini öneriyor

Yapay zeka sohbet robotlarının Dr. Google'ın yerini alabileceğini umuyorsanız, Reddit'in son deneyi şunu öneriyor... belki henüz değil. Platformun yapay zeka asistanı Reddit Answers, yakın zamanda eroini ağrı kesici olarak önermesiyle manşetlere çıktı.

404Media tarafından bildirildiği üzere, tuhaf tavsiye, bir sağlık çalışanının moderatörler için bir alt dizinde yanıtı fark etmesiyle ortaya çıktı. Bir etkileşimde chatbot şu gönderiye işaret etti: "Eroin, ironik bir şekilde, bu durumlarda hayatımı kurtardı."

Başka bir soruda, birçok ülkede yasa dışı olan ve "karaciğer toksisitesi, nöbetler ve madde kullanım bozukluğu dahil olmak üzere ciddi advers olay riski nedeniyle" FDA tarafından işaretlenen bir ağaç özü olan kratom'u bile önerdi.

Reddit Answers, standart yapay zekanız değil. Yalnızca seçilmiş veritabanlarına güvenmek yerine, Reddit'in kullanıcı tarafından oluşturulan geniş içerik havuzundan yararlanır. Bu onu ilginç, bazen anlayışlı kılıyor. Ama açıkçası, her zaman güvenli değil.

Başlangıçta ayrı bir sekmeyle sınırlı olan Reddit, Yanıtları normal konuşmalarda test ediyordu, bu da bu özel bölümün fark edilmemesinin nedeniydi... şimdiye kadar. Reddit'in yapay zeka sohbet robotu, kullanıcılara eroin denemelerini önerdikten sonra.

Raporun halka açılmasının ardından Reddit, sağlıkla ilgili hassas sohbetler altında yapay zekanın görünürlüğünü azaltarak yanıt verdi. Moderatörlerin tavsiyeler üzerinde hiçbir kontrolü yoktu, bu da aracın hala ne kadar deneysel olduğunu vurguluyordu.

Elbette bu Reddit'in ilk yapay zeka hıçkırığı değil. Google'ın Yapay Zeka Genel Bakışları ve ChatGPT gibi diğer botlar da, peynirin kaymasını önlemek için pizzalarda toksik olmayan yapıştırıcı kullanmak gibi "ipuçları" da dahil olmak üzere şüpheli sağlık rehberliği sağladı.

Açıkçası, tıbbi tavsiye söz konusu olduğunda, yapay zekalar eğlencelidir, ancak insanlar hala üstünlüğe sahiptir. Bu yüzden belki de henüz tıbbi tavsiye istemeyin.