OpenAI’dan bazı eski çalışanlar, önde gelen yapay zeka öncüsü Jeffrey Hinton’ın desteklediği bir grup, ileri seviye yapay zeka şirketlerinde eleştirilerin bastırılması konusundaki endişelerini dile getirdi. 13 imzacıdan oluşan açık bir mektupta, adının altında altı kişi olmak üzere bir grup, endüstride açık eleştiri ilkelerinin gerekliliğine vurgu yaptı. Bu şirketlerin olumsuz yorum maddelerinden vazgeçmesi ve sorunları rapor etmek için anonim, doğrulanabilir bir sistem teşvik etmesi gerektiğini iddia ettiler.
Mektubun yazarları yapay zekanın toplumsal faydalarına inanırken, eşitsizliği artırma, yanıltıcı bilgilerin yayılması ve hatta insanoğluna varoluşsal tehditler oluşturma gibi risklerinden de çekinmektedir. Yapay zekanın uzun vadeli riskleriyle ilgili endişelere rağmen, bugünkü üretken yapay zeka pratik sorunlarla karşı karşıyadır, telif hakkı ihlallerinden başlayarak problemlili veya yasa dışı görüntülerin istemsiz dağıtılmasına kadar, aldatma ve kamu karışıklığı riskini artırır.
Mektup aynı zamanda mevcut ihbarcı korumaların yetersizliğini de sorgulamakta, bu durum genellikle yasa dışı eylemlere odaklanmışken, yapay zeka hakkındaki düzensiz etik endişeleri içermemektedir. İmzacılar, ayrımcılığa ve ihbarcılara yönelik misillemeye dair endişelidirler ve endüstrinin bu tür vakaların geçmişine dayanarak haklı bir korkuya sahip olduklarını, ihbarcılara karşı ayrımcılığa ve cezalandırmaya karşı yasal korumalara rağmen, dile getirmektedirler.
OpenAI kendisi yetersiz güvenlik denetimi konusunda eleştirilere maruz kalmıştır. Bu arada Google gibi teknoloji devleri, araştırmalarda AI incelemelerinin kullanımını savunurken, zaman zaman riskli sonuçlar alsa da, Microsoft’un Copilot Designer’ının uygunsuz içerik üretmesiyle eleştiriye maruz kaldığı görülmüştür.
Ayrıca, OpenAI’nın özel güvenlik ekibinden ve kurucu ortağı Ilya Sutskever’den istifalar, şirket içinde yapay zeka güvenlik kültürü ile ilgili karamsar bir resim çizmektedir. Eski araştırmacı Jan LeCun, şirketin odak noktasının, CEO Sam Altman tarafından yönetilen yeni bir güvenlik ekibi olmasına rağmen, doğru güvenlik protokollerinin maliyetindeki şaşkınlık ürünlerine yönelmek üzere değişebileceği konusunda endişelerini dile getirdi.
Etik Yapay Zeka Uygulamalarının Önemi
Etik yapay zeka uygulamalarıyla ilgili en kritik sorulardan biri, “Neden yapay zeka şirketlerinin etik endişelerin açıkça tartışılabildiği bir ortamı desteklemesi önemlidir?” sorusunu içerir. Cevap, yapay zeka teknolojilerinin toplum üzerindeki derin etkisinde yatar ve bu teknolojilerin topluma fayda sağlamasını ve insanların yaşamlarına zarar vermemesini veya mevcut toplumsal sorunları kötüleştirmemesini sağlar.
Önemli Zorluklar ve Tartışmalar
Daha etik yapay zeka uygulamalarını sağlamanın zorlukları, ticari çıkarlar ile etik düşünceler arasındaki gerilimi ele almaktan, hızlı yenilik ile kapsamlı güvenlik değerlendirmeleri arasında denge bulmaktan ve etik endişelere uzanan etkili ihbarcı korumalarının uygulanmasından kaynaklanmaktadır. Büyük bir tartışma, bazı yapay zeka şirketlerinin şeffaf ve sorumlu yapay zeka geliştirmenin önüne kar koyup büyümeyi önceliklendirebileceği algısının etrafında dönmektedir.
Avantajlar ve Dezavantajlar
Etik yapay zeka uygulamalarının teşvik edilmesinin birçok avantajı vardır, bu avantajlar arasında halkın güveninin arttırılması, yapay zeka teknolojilerinden eşit faydaların sağlanması ve zararların önlenmesi yer alır. Ancak, dezavantajlardan biri, inovasyon hızını yavaşlatma ve pazarın hızla ilerleyen bir ortamında şirketlerin rekabet gücünü engelleme potansiyeline sahip olmasıdır.
Etik yapay zeka uygulamaları üzerinde çalışan organizasyonlar ve araştırma grupları hakkında daha fazla bilgi edinmek için ana alanlarına ait aşağıdaki bağlantılara göz atabilirsiniz:
– AI Ortaklığı: AI’nın faydaları ve zorlukları hakkında kamu anlayışını ve diyaloğu ilerletmek için akademisyenler, kar amacı gütmeyen kuruluşlar ve şirketlerle ortaklık kuran çok taraflı bir organizasyon.
– AI Etik Konferansı: Çeşitli paydaşların katkılarıyla, yapay zekanın etik sonuçlarını ele alan yıllık bir konferans.
– OpenAI: Eleştirilere rağmen, etik yapay zeka uygulamaları hakkındaki tartışma açısından hayati öneme sahip olan önde gelen bir yapay zeka araştırma ve uygulama şirketi.
– DeepMind: Yapay zeka araştırmalarının öncüsü olan bir şirket ve aynı zamanda yapay zeka etiği ve güvenliği konularında tartışmalara katılan bir kuruluş.
The source of the article is from the blog lanoticiadigital.com.ar