Anthropic, Claude Mythos'u korkorluk korkuları nedeniyle sakladı
Yeni yapay zeka modeli, kritik yazılım açıklıklarını ortaya çıkarıyor.
Anthropic, en son yapay zeka modeli Claude Mythos'u, büyük ölçekli siber saldırılar için kullanılabilecek yazılım açıklıklarını ortaya çıkarma konusunda eşi benzeri görülmemiş bir yeteneği gösterdikten sonra halka açıklamamaya karar verdi.
The Guardian'ın bildirdiğine göre, San Francisco merkezli şirket, modelin yaygın olarak kullanılan uygulamalarda binlerce zayıflık tespit ettiğini, bunların bazılarının on yıllar öncesine dayanan ve geliştiriciler tarafından daha önce fark edilmemiş olduğunu belirtti. Bu tür yeteneklerin kötüye kullanılması ihtimalinden endişe eden Anthropic, bunun yerine siber güvenlik uzmanlarına ve seçilmiş ortaklara erişimi sınırlıyor.
"Glasswing" adlı bir girişim aracılığıyla şirket, Amazon, Apple, Microsoft, Cisco, CrowdStrike ve Palo Alto Networks gibi büyük teknoloji ve güvenlik firmaları ile Linux Vakfı ile iş birliği yapıyor. Amaç, modeli savunma amaçlı kullanmak, kötü niyetli aktörlerin bunları sömürmeden önce zafiyetleri tespit edip yamalarına yardımcı olmaktır.
