Anthropic, küçük yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari Nesnelerin İnterneti (IoT) cihazlarına kendi kopyalarını aktarabilecek seviyeye yalnızca aylar içinde ulaşabileceği uyarısında bulundu.
Modellerin kopyalama kapasitesi test edildi
Reuters’ın haberine göre şirket, yürüttüğü deneylerde yapay zeka modellerinin savunmasız cihazları tespit edip edemediğini, kendilerini bu aygıtlara kopyalayıp kopyalayamayacağını ve insan desteği olmadan yayılmayı sürdürebilip sürdüremeyeceğini inceledi.
Anthropic, 30 milyar parametrenin altındaki küçük modellerin kopyalanma sürecinde gerekli adımların önemli bölümünü tamamlayabildiğini belirledi. Bununla birlikte modeller, dizilimin tamamını baştan sona gerçekleştirmekte zorlandı.
Güvenlik önlemlerinin bir bölümünün devre dışı bırakıldığı sadeleştirilmiş testlerde ise Anthropic, GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama yapabildiğini ortaya koydu.
IoT cihazları güvenlik açığı oluşturuyor
Anthropic, kopyalanan modelleri durdurmanın merkezi bir kapatma düğmesi bulunmadığı için oldukça güç olabileceğine dikkat çekti. Şirket, bu sistemlerin yapay zeka dışı kötü amaçlı yazılımlardan farklı olarak veri merkezi işlemcilerini hedefleyebileceğini ve yabancı cihazları kendi başlarına kavrayabileceğini bildirdi.
Araştırmada Android TV’ler, akıllı ev cihazları ve internete bağlı diğer aygıtlar öne çıktı. Anthropic, IoT ürünlerinin çoğunlukla zayıf güvenliğe sahip olması nedeniyle bu cihazlara odaklandı.
Otonom kopyalama için yıl sonu uyarısı
Firma, küçük modeller mevcut gelişim hızlarını koruduğu takdirde bu yılın sonuna kadar otonom biçimde kopyalanabileceklerini, küçük ağırlık tabanlı (weight-based) kopyalayıcıların da kısa süre içinde bu süreci izleyebileceğini açıkladı.
Anthropic’e göre bu tür otonom yapay zeka sistemlerinin kopyalanması muhtemelen yavaş gerçekleşecek ve yaygın biçimde erişilebilen, görece güvensiz işlem kaynaklarına dayanacak. Şirket, yapay zeka ajanlarının yayılmasını güçleştirmek için sistemlerin daha dayanıklı hale getirilmesi çağrısı yaptı.
