Yapay zeka (YZ), ChatGPT ve GPT-4’ün ortaya çıkışından bu yana dünyamızda baskın bir güç haline gelmiştir. Hemen hemen her hafta duyurulan yeni yeteneklerle birlikte, YZ etrafında yapılan tartışmalar da yoğunlaşmıştır. YZ bir daha iyi bir dünya yaratır mı, yoksa iş kaybı ve insan yoksulluğuna mı yol açar? Yapay genel zeka (YGZ) olasılığı, YZ’nin tüm bilişsel becerilerde insanları geride bırakabilmesi endişelerini ortaya çıkarır ve “Terminatör” gibi filmlerde görüldüğü gibi kontrol ve potansiyel tehlikelerle ilgili kaygılar oluşturur.
DeepMind YZ’nin kurucu ortağı Mustafa Suleyman tarafından kaleme alınan “Gelen Dalga: YZ, Güç ve 21. Yüzyılın En Büyük İkilemi” adlı kitap, bu karmaşık konu hakkında değerli bir içgörü sunmaktadır. Suleyman’ın YZ alanındaki deneyimi, YZ’nin insanlık geleceği üzerindeki görüşlerine önemli bir inandırıcılık kazandırmaktadır.
Suleyman, YZ’nin dört temel özelliğini vurgulamaktadır. İlk olarak, YZ, muazzam miktarda metin üretebilen ve operatörlerin minimal kaynaklarla ölümcül insansız hava araçları fırlatabilmesine olanak tanıyan bir asimetrik teknolojidir. İkinci olarak, YZ diğer tüm alanlarda görülen büyüme hızını aşabilen hiper-evrim potansiyeline sahiptir. Üçüncü olarak, YZ bir X-ışını gibi dar kullanım amaçlı bir teknoloji değildir; potansiyel olarak günlük yaşamın, toplumun ve ekonominin her yönünü etkileyebilir. Son olarak, YZ otonomiye sahiptir, kendini öğrenen ve giderek tahmin edilemez hale gelir.
Ancak, YZ’nin düzenlenmesiyle ilgili zorluklar önemlidir. YZ gibi genel amaçlı bir omni-kullanım teknolojisi, araba emisyonlarını düzenlemek gibi ölçülebilir sorunlardan çok daha zor kontrol altına alınır. Dahası, merak ve hırsla hareket eden araştırmacılar ve mucitler, yenilik potansiyellerini sınırlamak istemeyebilirler. YZ geliştirme üzerindeki ekonomik teşvikler muazzamdır ve elde edilebilecek karların hayal edilemez olduğu ortadadır. Ayrıca, nükleer enerji santralleri sıkı bir şekilde düzenlenirken, YZ araçlarının yapımı bireylere erişilebilirdir ve bu da güçlü YZ’nin kötüye kullanımı konusunda sorunlara neden olur.
Suleyman, bu zorlukların üstesinden gelmek için birkaç çözüm önermektedir. Nükleer enerjiyi düzenleyenlere benzer güçlü bir teknik güvenlik çerçevesi uygulanması, YZ’nin sorumlu bir şekilde gelişmesini sağlayabilir. Yeni YZ araçlarının sıkı denetimleri ve zayıflıkları veya başarısızlık risklerini ortaya çıkarmak için düzenli testler de gereklidir. Hükümetler, Hindistan’ın yıllık olarak gerçekleştirdiği “kırmızı takım testleri” gibi olaylardan ders çıkarabilir. Bu testlerde, kontrol altında saldırılar simüle edilerek zayıf noktalar belirlenir.
YZ daha da ilerledikçe, potansiyel faydalarını kullanma ve riskleri azaltma arasında bir denge sağlamak önemlidir. Bu, YZ’nin insanlığa ve gezegene hizmet etmesini sağlamak için düzenleme ve sorumlu gelişmenin önemli olduğu anlamına gelir.
The source of the article is from the blog macnifico.pt