California'dan yapay zekaya 'acil kapatma tuşu' kararnamesi

ABD'nin California eyaletinde Vali Gavin Newsom, yapay zeka teknolojisini geliştiren şirketlerin bağımsız şekilde denetlenmesini öngören bir kararnameye imza attı. Kararname, yapay zeka modelleri için 'acil kapatma tuşu' çalışmalarının hızlandırılmasını da kapsıyor.

California Valiliğinden yapılan yazılı açıklamaya göre Newsom, son dönemde yaşanan ve risk teşkil eden yapay zeka vakaları üzerine bu adımı attı. Kararname uyarınca bir grup uzman, eyaletin yapay zeka güvenliğine ilişkin yasalarını güçlendirmek amacıyla iki ay içinde bir araya gelerek kılavuz hazırlayacak.

Newsom: Federal hükümetin başarısızlığı endişe verici

Açıklamada değerlendirmelerine yer verilen Newsom, "Yapay zeka şirketlerinin yöneticileri düzenlemeler getirilmesi için yalvarırken federal hükümetin yapay zeka konusunda anlamlı bir denetim veya hesap verebilirlik mekanizması oluşturmadaki üst düzey başarısızlığı her Amerikalıyı endişelendirmelidir." ifadesini kullandı. Risklerin harekete geçmeyi erteleyemeyecek kadar yüksek olduğunu belirten Newsom, kapsamlı yapay zeka denetimi çalışmalarını "çok geç olmadan" hızlandıracaklarını kaydetti.

ABD'nin California eyaleti, yapay zeka sektörünün önde gelen firmalarına ev sahipliği yapıyor.

Anthropic CEO'sundan yavaşlatma önerisi

ABD'li yapay zeka şirketi Anthropic'in Üst Yöneticisi (CEO) Dario Amodei, firmadaki araştırmacı Jacob Coxon'ın yapay zeka geliştirme sürecinin sorumlu yürütülmediği gerekçesiyle istifasının ardından internet sitesinde bir makale yayımlamıştı. Amodei, yapay zeka teknolojisinin hızla gelişmesinin sistemleri anlama ve kontrol etme kapasitesini zora sokabileceği uyarısında bulunarak, bu teknolojinin gelişiminin denetime daha fazla olanak sağlayacak şekilde yavaşlatılmasını önermişti.

Yapay zeka şirketlerinin bir araya gelerek güvenlik standartları belirlemesi gerektiğine dikkati çeken Amodei'ye Elon Musk destek vermiş, OpenAI Üst Yöneticisi Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda aynı adımı atacağını kaydetmişti.

Trump ve Çin'den farklı yorumlar

ABD Başkanı Donald Trump, yapay zekaya ve veri merkezlerine karşı "hastalıklı bir komplo yürütüldüğünü" öne sürerek, "bundan memnuniyet duyan tek tarafın Çin olduğunu" savunmuştu. Çin Dışişleri Bakanlığı Sözcüsü Guo Ciakun ise "Korkuları körüklemek, cepheleşme ve acımasız rekabet, küresel yapay zeka yönetimine zarar vermekten başka işe yaramaz, bu da kimsenin menfaatine değildir." değerlendirmesinde bulunmuştu.