Eski OpenAI çalışanı Carroll Wainwright, son zamanlarda yapay genel zeka (AGI) gelişiminin beraberinde getirdiği riskler hakkında uyardı. AGI, insan zekasını aşabilen bir yapay zeka türüdür. Güçlü yapay zeka modellerinin insan değerleriyle hizalanmasını sağlamak üzere çalışan Wainwright, AGI’nın önümüzdeki beş yıl içinde görülebileceğine inanıyor, ancak bunun çok daha uzun sürebileceğini de kabul ediyor.
AGI’nın Anlaşılması ve Olası Etkileri
AGI, şu anda insan görevlerini taklit edebilen üretici yapay zekadan farklıdır. AGI, diğer yandan, eylemlerinin karmaşıklıklarını ve bağlamını kavrayabilme yeteneğine sahip olacaktır. Bu teknoloji henüz mevcut değil ancak gelişimi küresel bir konuşma konusudur. Farklı görüşler, AGI’nın varış zamanı hakkında birkaç yıldan başlayarak birkaç on yıla kadar değişmektedir.
OpenAI’nın Vizyonundaki Değişim
Wainwright’a göre, Wainwright’un uyarısının tetikleyicisi, OpenAI’ın odak değişikliğidir. İnsanlığa fayda sağlamayı amaçlayan bir kar amacı gütmeyen bir araştırma laboratuvarı olarak kurulan şirketin günlük motivasyonlarının şu anda özellikle ChatGPT’nin başarısından sonra temel olarak kar getirme üzerine odaklandığı belirtilmektedir.
AGI’nın Uzun Vadeli Hizalanma Riski
Wainwright, AGI’nın üç temel riskini vurguluyor: özellikle nitelikli işlerde insan çalışanların yerini alabilme potansiyeli; sosyal ve zihinsel etkisi, bireylerin yapay zeka dostları veya kişisel asistanlar edinebileceği gerçeği; ve teknoloji üzerinde kontrolün kendisi. Makinelerin bağımsız ajandalarını takip etmesini önlemek için AGI’nın insan hedefleriyle hizalanması, Wainwright’a göre endişe vericidir.
Büyük yapay zeka şirketlerinin muhtemelen yönetmeliklere uyması beklenir ancak şu anda uygun düzenlemeler mevcut değil. Bu nedenle, endüstri çalışanları, iş yerlerinde algıladıkları tehlikeler hakkında bağımsız kuruluşları uyaracak bir mekanizma talep etmektedirler.
AI Gelişiminde Aceleye Düşme Faktörü
The source of the article is from the blog combopop.com.br