Yapay zekânın hızla evrilen yapısıyla ulusal güvenliğe getirdiği endişeler artmaya devam ediyor. Bir rapor, gelişen yapay zekânın (YZ) ulusal güvenliğe yönelik tehlikelerini aydınlatmış durumda. ABD Dışişleri Bakanlığı tarafından hazırlanan rapor, ileri seviyedeki YZ sistemlerinin kontrolsüz bırakılması durumunda insan türüne katastrofik sonuçlar getirebileceği uyarısında bulunuyor.
Raporun bulguları, alandaki 200’den fazla uzmanla yapılan detaylı görüşmelere dayanıyor. Bu uzmanlar arasında önde gelen YZ şirketlerinin üst düzey yöneticileri, siber güvenlik araştırmacıları, kitlesel imha silahları uzmanları ve ulusal güvenlik yetkilileri de bulunuyor. Rapor, federal hükümetin bu riskleri ele almadaki aciliyetine vurgu yapıyor.
Raporun Dışişleri Bakanlığı tarafından hazırlanmış olmasına rağmen, ABD hükümetinin resmi duruşunu temsil etmediğini belirtmek önemlidir. Ancak, rapor, YZ’nin olumlu dönüşüm potansiyeline rağmen önemli tehlikeler de içerdiğinin sert bir hatırlatıcısı olarak görev yapıyor.
Raporu yayınlayan Gladstone AI’nın CEO’su ve kurucu ortağı Jeremie Harris, YZ ile ilişkilendirilen ciddi risklere dikkat çekmenin önemine vurgu yapıyor. Belirli yeteneklerin ulaşıldığına dair artan kanıtlar var ki YZ sistemleri kontrol edilemez hale gelebilir. Bu endişe alandaki çeşitli uzmanlar ve araştırmacılar tarafından da yankı buluyor.
Bu risklere karşılık olarak, Beyaz Saray, YZ’nin potansiyel tehlikelerini yönetmek için adımlar atmış durumda. Başkan Joe Biden’ın YZ üzerine verdiği yürütme kararnamesi, bu yeni teknolojinin vaatlerini ve risklerini dengelemede atılmış en önemli adım olarak kabul ediliyor. Yönetim, uluslararası ortaklarla aktif olarak çalışıyor ve YZ’ye yönelik riskleri ele alacak yasama önlemleri için iki parti arasında anlaşma çağrısında bulunuyor.
Raporda, YZ tarafından ortaya çıkarılan iki ana tehlike vurgulanıyor. İlk olarak, ileri seviyedeki YZ sistemlerinin silah olarak kullanılabilme potansiyeli, geri dönüştürülemez zararlara yol açabilir. İkinci olarak, YZ laboratuvarlarında artan endişe var ki geliştirilen sistemlerin kontrol dışına çıkması, küresel güvenlik açısından yıkıcı sonuçlar doğurabilir. Rapor, YZ’nin yükselişi ile nükleer silahların ortaya çıkışı arasında paralellikler çizerek, YZ silahlanma yarışının ve çatışmanın yanı sıra devasa ölçekteki ölümcül kazaların risklerine dikkat çekiyor.
Bu tehditlere karşı rapor, yeni bir YZ ajansı kurulması, acil düzenleyici korumaların uygulanması ve YZ modellerini eğitmek için kullanılan bilgisayar gücüne sınırlar konması dahil cesur adımlar öneriyor. Raporun yazarları, bu riskleri etkili bir şekilde azaltmak için ABD hükümeti tarafından müdahalenin açık ve acil bir şekilde gereklilik olduğunu vurguluyor.
Raporda vurgulanan önemli endişelerden biri, ileri seviye YZ’deki yetersiz güvenlik önlemleridir. Rekabet baskıları şirketleri, güvenliği sağlamak yerine YZ gelişimini hızlandırmaya öncelik vermeye itiyor, bu da en gelişmiş YZ sistemlerinin yanlış ellere geçme ve ABD’ye karşı silah olarak kullanılma riskini artırıyor.
YZ tarafından ortaya çıkarılan varoluşsal riskler, sektördeki birçok etkili figür tarafından endişe konusu haline geldi. “YZ’nin Tanrısı” olarak bilinen Geoffrey Hinton, YZ’nin insan soyunu 30 yıl içinde tükenmeye sürükleyebileceğine inancını dile getirdi. İş dünyası liderleri de, YZ’nin insanlığı yok etme potansiyeli hakkında endişelerini artırırken, önemli bir yüzde, insanlığın en kısa beş ila on yıl içinde yok edilme potansiyeli hakkında endişelerini dile getiriyor.
Rapor ayrıca, YZ şirketlerinde çalışan bazı personeller arasında paylaşılan özel endişelere de ışık tutuyor. Bir kişi, örneğin belirli bir nesil YZ modelinin piyasaya sürülmesinin demokrasiyi seçim müdahalesi veya seçmen manipülasyonu yoluyla bozabileceği gibi yıkıcı sonuçlar doğurabileceği konusunda uyarıda bulundu.
YZ ile ilişkilendirilen risklere katkıda bulunan önemli bir faktör, özellikle yapay genel zeka (YGZ) olarak evrilen yapının hızıdır. İnsan benzeri veya hatta süper insan benzeri öğrenme yeteneklerine sahip olan YGZ, kontrol kaybından kaynaklanan katastrofik riskin ana tetikleyicisi olarak görülüyor. Uzmanlar, YGZ’nin ne zaman ulaşılacağı konusunda farklı tahminlerde bulunsa da, rapor teknolojinin ilerledikçe potansiyel risklere karşı dikkatli olunması gerektiğine işaret ediyor.
Gladstone AI raporu, YZ’nin ulusal güvenlik üzerindeki etkileri etrafındaki endişeleri vurguladıkça, sorumlu gelişim ve kullanımını sağlamak için acil bir müdahalenin gerekliliği açık bir şekilde ortaya çıkıyor. YZ’nin potansiyel faydaları ile doğal risklerini dengelemenin geleceğimizi güvence altına almak ve dünya genelindeki ulusların çıkarlarını korumak için önemli olacağı belirtiliyor.
Sıkça Sorulan Sorular
The source of the article is from the blog lanoticiadigital.com.ar