Lidia PerskaSon bir rapor, OpenAI’ın yeni yapay zeka modellerinin gelişimini hızlandırırken güvenlik protokollerini ve güvenlik önlemlerini ihmal ettiğini ortaya koydu. Belirli çalışanlar tarafından imzalanan bir açık mektupla dile getirilen endişelere göre, yapay zeka sistem yapılandırmasında denetim eksikliğinden kaynaklanan rahatsızlık ifade edildi. Bunun üzerine, OpenAI, güvenlik protokollerini değerlendirmek ve iyileştirmek için yönetim kurulu üyeleri ve seçilen yöneticilerden oluşan yeni bir güvenlik komitesi oluşturdu.
Güvenlik protokolleri ihmal iddialarına rağmen, üç OpenAI çalışanı, Washington Post’a isimsiz olarak konuşarak, takımın, OpenAI liderliğinin belirlediği Mayıs ayında GPT-4 Omni’nin başlatılacak lansman tarihine yetişmek için yeni bir test protokolünün uygulanmasını hızlandırma baskısı hissettiğini paylaştı.
Güvenlik protokolleri, yapay zeka modellerinin zararlı bilgi sağlamamasını veya kimyasal, biyolojik, radyolojik ve nükleer silahların oluşturulmasına yardım etmek gibi tehlikeli eylemleri gerçekleştirmemesini amaçlar.
Ayrıca, rapor, OpenAI’ın en gelişmiş yapay zeka modeli olarak tanımlanan GPT-4o’nun başlatılmasından önce meydana gelen benzer bir olaya da dikkat çekti. Lansman için güvenliğini sağlama konusunda adımlar atılmadan planlar yapıldı ve raporda yer alan bir OpenAI çalışanı, “bu süreçte temel bir hata yaptık” şeklinde açıklamalarda bulundu.
Bu, OpenAI çalışanlarının şirket içinde güvenlik ve güvenlik protokollerine açık ihmal gösterdiğine dair ilk örnek değil. Geçen ay OpenAI ve Google DeepMind’in eski ve mevcut çalışanları, önemli riskler teşkil edebilecek yeni yapay zeka sistemleri geliştirmenin denetimsizliği hakkında endişelerini dile getiren bir açık mektup imzaladı.
Mektup, hükümet müdahalesi, düzenleyici mekanizmalar ve işverenler tarafından muhbirlere yönelik güçlü koruma talep etti. OpenAI’nın üç kurucusundan ikisi, Jeffrey Hinton ve Yoshua Bengio, açık mektubu destekledi.
Mayıs ayında, OpenAI, şirketin yapay zeka faaliyetlerini değerlendirmek ve iyileştirmekle görevlendirilen bir güvenlik ve güvenlik komitesi oluşturdu ve OpenAI projeleri ve faaliyetleri için kritik güvenlik ve güvenlik kararlarını sağlama konusunda çalıştı. Şirket, sorumlu ve etik yapay zeka modelleri oluşturmak için yeni kılavuzlar olan Model Spec’e ilişkin yeni kuralları paylaştı.
Son bir rapor, OpenAI’daki güvenlik protokolleriyle ilgili endişelerle ilgili ayrıntıların yanı sıra bu konuyla ilgili temel soruları ve zorlukları da açıklığa kavuşturdu.
Temel Sorular:
1. OpenAI, yapay zeka modellerinin gelişimi sırasında hangi belirli güvenlik protokollerini ihmal etti?
2. Yeni test protokollerinin hızlı bir şekilde uygulanması için baskı nasıl güvenlik önlemlerini etkiledi?
3. Yeterli güvenlik ve güvenlik protokollerine sahip olmayan yapay zeka sistemleriyle ilişkilendirilen hangi potansiyel riskler vardır?
4. Çalışanlar ve sektör uzmanları OpenAI’daki güvenlik endişelerine nasıl çözüm önermiştir?
5. OpenAI’in güvenlik protokollerini önceliklendirme yerine yapay zeka modeli gelişimine öncelik verme yaklaşımının avantajları ve dezavantajları nelerdir?
Temel Zorluklar ve Tartışmalar:
– OpenAI çalışanları, kapsamlı güvenlik protokollerinden önce yeni yapay zeka modellerinin başlatılmasına öncelik verme baskısını hissetti ve potansiyel felaketlere neden olabilecek endişeleri artırdı.
– Güvenlik protokollerindeki ihmal, yapay zeka sistemlerinin zararlı bilgi sağlamasına veya silah oluşturmayı veya siber saldırılara neden olmayı içeren tehlikeli eylemlerde bulunmasına yol açabilir.
– Yapay zeka sistem yapısında denetim eksikliği önemli riskler ve etik ikilemler oluşturabilir, bu da derhal dikkat ve müdahale gerektirir.
– Hükümet düzenlemeleri, muhbirlere koruma sağlanması ve güvenlik önlemlerinin artırılması çağrısı, yapay zeka teknolojilerinin kontrolsüz gelişimi konusundaki artan endişeyi yansıtır.
Avantajlar:
– Yapay zeka modellerinin hızlı gelişimi, teknoloji ve inovasyonda çığır açan gelişmelere yol açabilir.
– Güvenlik endişelerini ele alma ve protokolleri geliştirmede proaktif bir yaklaşım sergileyen OpenAI’ın güvenlik ve güvenlik komitesi oluşturma taahhüdü, güvenlik endişelerine cevap verme ve protokolleri iyileştirme konusunda istekli olduğunu göstermektedir.
– Sorumlu ve etik yapay zeka modeli oluşturma konusunda en son kılavuzlar olan Model Spec, güvenliği ve etik düşünceleri önceliklendirme konusundaki isteği işaret etmektedir.
Dezavantajlar:
– Yapay zeka gelişiminde güvenlik protokollerini ihmal etmek, topluma ciddi riskler taşır ve istenmeyen sonuçlara ve zararlı sonuçlara yol açabilir.
– Hırslı lansman programlarına yetişme baskısı, güvenlik önlemlerini tehlikeye atabilir ve kapsamlı risk değerlendirmelerini engelleyebilir.
– Yapay zeka sistem yapısında yeterli denetim ve sorumluluk eksikliği, kamunun güvenini erozyona uğratabilir ve yapay zeka alanında etik endişeleri artırabilir.
Yapay zeka gelişiminde güvenlik protokollerinin önemi ve OpenAI uygulamalarıyla ilgili devam eden tartışmalar hakkında daha fazla bilgi için, OpenAI’ın resmi web sitesini ziyaret edebilirsiniz: OpenAI.
