Californiya merkezli önde gelen yapay zeka geliştiricileri, katı güvenlik standartlarını zorunlu kılan bir yasa önerisine karşı çıkıyor ve ileri seviyedeki yapay zeka modellerini devre dışı bırakmak için bir “kapatma düğmesi” uygulamasını içeren yasa tasarısına karşı koymaktadır. Bilgiler, zirve yapay zeka başlangıçlarını olumsuz etkileyebilecek olası yasal denetimleri detaylandıran Financial Times raporundan gelmektedir.
Californiya yasama organı, eyalet içindeki teknoloji şirketlerine yeni kısıtlamalar getirmeyi düşünmektedir. Bu şartlar, OpenAI, Anthropic ve Cohere gibi önde gelen yapay zeka başlangıçlarını ve Meta gibi şirketler tarafından kullanılan büyük dil modellerini hedeflemektedir.
Yasa, California’nın yapay zeka geliştirme gruplarından devlet kurumlarına teminat vermelerini talep etmektedir ve bununla ilgili zararlı yeteneklere sahip modeller tasarlamayacaklarını garanti etmelerini gerektirmektedir, örneğin biyolojik veya nükleer silahlar oluşturma yeteneği veya siber saldırılara yardımcı olma yeteneği gibi. Ayrıca geliştiricilerin güvenlik test protokollerini rapor etmeleri ve modelleri için bir “kapatma düğmesi” tanıtmaları gerekecektir.
Ancak, bu şartnameler pek çok Silicon Vadisi temsilcisinden soğuk bir karşılama almıştır. Argümanları, yasaların yapay zeka başlangıçlarını eyaleti terk etmeye ve Meta gibi platformların açık-kaynak modellerle çalışmasını engellemeye neden olabileceğini öne sürmektedir. Google Alphabet ve Çin’in Baidu şirketleri için yapay zeka projelerine liderlik eden ve Amazon’un yönetim kurulu üyesi olan bilgisayar bilimcisi Andrew Ng, bu düzenlemelerin inovasyon üzerindeki baskı oluşturma etkisine değinerek, bunun bilim kurgu seviyesinde risklerin bir yüküne benzediğini belirtmiştir.
Yapay zeka teknolojisinin hızlı büyümesi ve geniş potansiyeli ile ilgili endişeler artmaktadır. OpenAI’ın erken yatırımcılarından Elon Musk, teknolojiyi insanlığa yönelik bir “varoluşsal tehdit” olarak adlandırmıştır. Son dönemde, OpenAI’da mevcut ve eski çalışanlardan oluşan bir grup, önde gelen yapay zeka şirketlerinin yeterli devlet denetiminden yoksun olduğunu ve insanlığa “ciddi riskler” oluşturduklarını vurgulayan açık bir mektup yayınlamıştır.
**Ana Sorular ve Yanıtlar:**
**S: California’da önerilen güvenlik yasasının ana odak noktası nedir?**
Y: California’da önerilen yasa, yapay zeka geliştiricileri için katı güvenlik standartlarını uygulamayı, ileri düzeydeki yapay zeka modellerini devre dışı bırakmak için bir “kapatma düğmesi” gereksinimi ve yapay zekanın zararlı yeteneklerle tasarlanmayacağına dair güvenceler içermeyi odak noktası olarak almaktadır.
**S: Yasadan kim etkilenecek?**
Y: California’da bulunan önde gelen yapay zeka başlangıçları, OpenAI, Anthropic ve Cohere gibi şirketler, ayrıca geliştiren veya kullanan Meta gibi büyük teknoloji şirketleri ileri seviyedeki yapay zeka modelleri yasadan etkilenecektir.
**S: Yapılan yasayla ilgili geliştiricilerin endişeleri nelerdir?**
Y: Geliştiriciler, yasanın inovasyonu zorlayabileceği, ağır raporlama gereklilikleri getirebileceği ve yasaların algılanan yükü ve kısıtlayıcı doğası nedeniyle yapay zeka başlangıçlarını California’dan uzaklaştırabileceği konusunda endişelidir.
**S: Kamu, yapay zeka teknolojisinin gelişimi ve potansiyel risklerine nasıl tepki verdi?**
Y: Kamunun tepkisi, teknolojik olanaklar konusunda heyecanla karşılamakla birlikte potansiyel riskler konusunda endişeler içermektedir. Elon Musk gibi önde gelen isimler yapay zekayı “varoluşsal bir tehdit” olarak belirtirken, diğerleri daha fazla denetim ve güvenlik önlemi talep etmektedir.
**Ana Zorluklar veya Tartışmalar:**
– **İnovasyon ve Güvenlik Dengesi:** Teknolojik inovasyonun teşviki ile kamu güvenliğinin sağlanması arasındaki dengeyi ayarlamak önemli bir zorluktur ve bu konuda çizgi nerede olmalı konusunda farklı görüşler bulunmaktadır.
– **Ekonomik Etki:** Katı düzenlemelerin yerel ekonomiye zarar verebileceği ve yapay zeka şirketlerini daha iş yapılabilir bölgelere taşıyabileceği endişesi bulunmaktadır.
– **Teknik Uygulanabilirlik:** Yapay zeka sistemleri için güvenilir bir “kapatma düğmesi” tasarlamak ve uygulamak teknik olarak karmaşıktır ve tüm senaryolarda etkili olup olmadığına dair soru işaretleri doğurmaktadır.
– **Global Rekabet Gücü:** California sıkı düzenlemeler getirirse, şirketler diğer ülkelerde daha esnek düzenlemelere sahip firmalarla uluslararası rekabet etmekte zorlanabilirler.
**Önerilen Yasanın Avantajları:**
– **Artan Güvenlik:** Yasa, daha güvenli yapay zeka geliştirme uygulamalarına yol açabilir, zararlı yapay zeka uygulamalarının riskini azaltabilir.
– **Hükümet Denetimi:** Gelişmiş hükümet düzenlemeleri, silah oluşturulmasını veya siber saldırıları desteklemek için yapay zekanın yanlış kullanımını önlemek gibi gerekli denetimleri sağlayabilir.
**Önerilen Yasanın Dezavantajları:**
– **İnovasyonun Sınırlanması:** Sıkı düzenlemeler, yapay zeka ilerlemelerinin hızını engelleyebilir ve inovasyon yapmayı veya California’da konumlanmayı caydırabilir.
– **Ekonomik Kayma-Akısızlık:** Yapay zeka endüstrisinin büyümesi California’da yavaşlayabilir ve işlerin ve yatırımların başka yerlere taşınma olasılığı bulunmaktadır.
Kaliforniya’daki yapay zeka gelişmeleri ve yasalarıyla ilgili benzer bilgiler ve tartışmalar hakkında güncel kalmak için resmi güncellemeler ve haberler için Kaliforniya hükümet web sitesinin ana sayfasını ziyaret edebilirsiniz – California Eyalet Hükümeti – Yetkili güncellemeler ve haberler için Stanford Üniversitesi’nin Insani Merkezli Yapay Zekâ Enstitüsü’nün ana sayfasında geniş kapsamlı yapay zekâ ve kamu politikasının etkileri hakkında bilgi edinebilirsiniz – Stanford HAI.
The source of the article is from the blog radardovalemg.com