Yapay zekâ (YZ) şirketi OpenAI’deki güvenlik açığının ortaya çıkmasının ardından bu sefer de rakip şirketlerden Anthropic, YZ modellerinin bir test sırasında üç şirketin sistemlerine “yetkisiz erişim” sağladığını bildirdi.
Açıklamada, yapılan 141 binden fazla test faaliyetinin değerlendirilmesinde, Claude YZ modelinin üç farklı versiyonunun, yetkisi olmadığı halde şirketlerin sistemlerine girdiğinin tespit edildiği kaydedildi. Anthropic, YZ’nin hangi şirketlere erişim sağladığını ise açıklamadı.
Deneme aşamasındaki YZ modellerinin aslında, test çalışmaları esnasında “gerçek dünya” sistemlerinden uzak tutulması gerekiyor. OpenAI, geçen hafta şirketin YZ modellerinin bir güvenlik testi sırasında test ortamından kaçtığını, kendi başına internete erişim sağladığını ve Hugging Face adlı popüler bir programlama platformuna siber saldırı düzenlediğini açıklamıştı. OpenAI’den Salı günü yapılan açıklamada ise buna benzer başka olayların da tespit edildiği duyurulmuştu.
Anthropic’e göre hata “yanlış anlamadan” kaynaklanıyor
Anthropic, OpenAI teknolojisindeki olayın aksine, kendi YZ modellerinin Anthropic ile “değerlendirme ortağı Irregular arasındaki bir yanlış anlama nedeniyle” internete erişim sağladığını ifade ederek “Bu olayların hiçbirinde Claude kendiliğinden test ortamından çıkmadı veya bilinçli olarak oradan kaçmaya çalışmadı. Ancak zayıf şifrelerin ve kimliği doğrulanmamış uç noktaların istismar edilmesi gibi basit teknikler” kullandı bilgisini paylaştı.
“Uç noktaları istismar eden” modeller arasında, Mythos 5 olarak bilinen ve şu ana kadar yalnızca sınırlı sayıda yetkili ortağa sunulan en güçlü YZ modellerinden biri de yer alıyor. Anthropic’in, durumu değerlendirmek için Irregular ile çalıştığı ve etkilenen üç şirketle iletişime geçtiği veya iletişime geçmeye çalıştığı bildirildi.
OpenAI ve Anthropic bu yıl sırasıyla Sol ve Mythos ile şimdiye kadar geliştirilen en güçlü YZ modellerini hayata geçirdiler. Sektördeki bu gelişme, özellikle “YZ ajanları” olarak adlandırılan yazılım ürünlerine yönelik güvenlik endişelerini tetikliyor. “YZ ajanları” tabiri, bağımsız olarak görev üstlenecek şekilde geliştirilen yazılım ürünleri için kullanılıyor.
Geçen haftaki OpenAI olayından sonra birçok uzman siber güvenlikle ilgili endişesini dile getirmişti. Hugging Face’e yapılan saldırı, bir YZ modelinin gerçek dünyada bağımsız olarak saldırı gerçekleştirdiği, bilinen ilk vaka olarak kabul ediliyor. OpenAI de yaşanan olayı “benzeri görülmemiş” olarak nitelendirmişti.
