Anthropic: Küçük AI modelleri kendini kopyalayabilir

Anthropic'in pazartesi günü açıkladığı yeni araştırma, yapay zeka güvenliği tartışmalarına somut bir tehdit senaryosu ekledi. Araştırmaya göre küçük yapay zeka modelleri, veri merkezlerine ihtiyaç duymadan, ticari internete bağlı cihazlarda kendi kendine çoğalabilir hale gelebiliyor.

Şirket, kontrollü deneylerinde yapay zeka modellerinin zayıf güvenlikli cihazları tespit edip kendilerini bu cihazlara kopyalayarak insan müdahalesi olmadan yayılıp yayılamayacağını test etti. Testler, 30 milyar parametrenin altındaki küçük modellerin çoğalma için gereken birçok adımı başarıyla tamamlayabildiğini, ancak süreci baştan sona kesintisiz yürütmekte zorlandıklarını gösterdi.

GLM-5.2 uçtan uca kopyalamayı başardı

Güvenlik adımlarının bir kısmının kaldırıldığı basitleştirilmiş testlerde GLM-5.2 ve daha güçlü modellerin uçtan uca kopyalama işlemini gerçekleştirebildiği görüldü. Anthropic, araştırmasını özellikle Android TV kutuları, akıllı fırınlar, akıllı ev aletleri ve diğer internete bağlı cihazlar üzerine yoğunlaştırdı; bu cihazlar genellikle zayıf güvenlik önlemleriyle üretildiği için saldırılara açık durumda.

Şirket, kendini kopyalayan modellerin merkezi bir kapatma noktası bulunmadığı için durdurulmasının son derece zor olacağını vurguluyor. Klasik zararlı yazılımların aksine bu yapay zeka sistemlerinin, daha önce karşılaşmadıkları cihazları kendi başlarına anlayıp hedef alabildiği, hatta veri merkezi işlemcilerine yönelme potansiyeli taşıdığı belirtiliyor.

Yıl sonuna kadar otonom seviyeye ulaşabilir

Anthropic'in projeksiyonuna göre küçük modeller tarihsel gelişim hızlarını sürdürürse bu yılın sonuna kadar otonom şekilde kendini kopyalayabilecek seviyeye ulaşabilir. Ağırlık tabanlı küçük kopyalayıcıların da kısa süre içinde benzer yetenekler kazanması bekleniyor.

Şirket, bu tür otonom sistemlerin yavaş yayılacağını ve yaygın, görece güvensiz hesaplama kaynaklarına bağımlı kalacağını belirtiyor. Buna rağmen riskin büyüklüğü nedeniyle sistemlerin güçlendirilmesi ve yapay zeka ajanlarının yayılmasını zorlaştıracak önlemlerin alınması gerektiği açıkça ifade ediliyor.

Uzmanlar uzun süredir modellerin yeteneklerinin güvenlik araştırmalarından daha hızlı ilerlediğini, açık kaynak modellerin denetimsiz yayılmasının riskleri artırdığını ve otonom ajanların öngörülemeyen sonuçlar doğurabileceğini savunuyor. Anthropic'in bulguları, teorik endişeleri laboratuvar ortamından gerçek dünya senaryolarına taşıyarak regülasyon, teknik güvenlik önlemleri ve uluslararası iş birliği taleplerini güçlendiriyor.