OpenAI, Google DeepMind, Microsoft ve Meta gibi önde gelen yapay zeka şirketleri, İngiltere hükümetini yapay zeka sistemlerinin güvenlik test prosedürlerini hızlandırmaya çağırdı. Bu şirketler, yapay zeka modellerinin değerlendirmesine İngiltere’de yeni kurulan Yapay Zeka Güvenlik Enstitüsü’nün (AISI) izin verilmesi konusunda anlaşmaya vardılar, ancak mevcut değerlendirme sürecinin hızı ve şeffaflığı konusunda endişelerini dile getirdiler. Şirketler AISI tarafından belirlenen hataları düzeltmeye hazır olsalar da, değerlendirme sonuçlarına dayanarak teknolojilerini piyasaya sürmeyi veya değiştirmeyi zorunlu tutulmamaktadır.
Yapay zeka satıcıları için en önemli sorunlardan biri, test protokollerinin belirsizliğidir. Şirketler, yürütülen testler hakkında daha detaylı bilgi, değerlendirmenin süresi ve geri bildirim mekanizması konusunda daha fazla bilgi talep etmektedirler. Ayrıca, yapay zeka modeline küçük bir güncelleme yapıldığında testlerin tekrarlanması gerekip gerekmediği konusunda belirsizlik bulunmaktadır, bu da yapay zeka geliştiricileri tarafından yük olarak algılanabilir.
Bu şirketlerin dile getirdiği endişeler, değerlendirme süreci etrafındaki belirsizlikler göz önüne alındığında geçerlidir. Diğer hükümetlerin benzer yapay zeka güvenlik değerlendirmeleri üzerine düşünmeleriyle birlikte, İngiltere’nin prosedürlerindeki mevcut karmaşa daha fazla yetkilinin yapay zeka geliştiricilerinden benzer taleplerde bulunmasıyla daha da artacaktır.
Financial Times’e göre, İngiltere hükümeti zaten ilgili geliştiricilerle işbirliği yaparak yapay zeka modellerini test etmeye başlamıştır. Testler, Google’ın Gemini Ultra gibi piyasaya sürülmemiş modellere bile erişim sağlamaktadır. Bu girişim, şirketlerin Kasım ayında gerçekleştirilen İngiltere AI Güvenlik Zirvesi’ndeki ana anlaşmalardan biriydi.
İngiltere hükümetinin ve diğer düzenleyici kurumların yapay zeka şirketleriyle yakın işbirliği yaparak açık ve standart güvenlik testi prosedürleri oluşturması önemlidir. Şeffaf ve etkin değerlendirmeler, yapay zeka teknolojilerine olan güveni artırmakla kalmayacak, aynı zamanda bu sistemlerin farklı sektörlerde sorumlu bir şekilde kullanılmasını sağlayacaktır.
Sık Sorulan Sorular
1. İngiltere hükümeti yapay zeka sistemlerinin güvenlik test prosedürlerini hızlandırmaları için hangi şirketlere çağrıda bulundu?
OpenAI, Google DeepMind, Microsoft ve Meta gibi önde gelen yapay zeka şirketleri bu çağrıyı yapmışlardır.
2. Yeni kurulan Yapay Zeka Güvenlik Enstitüsü (AISI) hangi rolü üstlenmektedir?
Şirketler, yapay zeka modellerinin AISI tarafından değerlendirilmesine izin vermeyi kabul etmişlerdir.
3. Şirketler, değerlendirme sonuçlarına dayanarak teknolojilerinin piyasaya sürülmesini veya değiştirilmesini erteler mi?
Hayır, şirketler, yapay zeka modellerinin değerlendirme sonuçlarına dayanarak teknolojilerinin piyasaya sürülmesini veya değiştirilmesini erteleme zorunluluğunda değildir.
4. Şirketler değerlendirme süreciyle ilgili hangi endişeleri dile getirmişlerdir?
Şirketler, mevcut hız, şeffaflık ve test protokollerinin belirsizliği konusunda endişelerini dile getirmişlerdir. Yapılan testler, değerlendirme süresi ve geri bildirim mekanizması hakkında daha detaylı bilgi talep etmektedirler.
5. Yapay zeka modellerinde küçük güncellemeler olduğunda testlerin tekrarlanması konusunda belirsizlik var mı?
Evet, yapay zeka modellerinde küçük bir güncelleme yapıldığında testlerin tekrarlanması gerekip gerekmediği konusunda belirsizlik bulunmaktadır ve bu, yapay zeka geliştiricileri tarafından yük olarak algılanabilir.
Anahtar Terimler / Argoda Kullanılan Terimler
– Yapay Zeka (YZ): Yapay zeka kavramının kısaltmasıdır.
– Yapay Zeka Güvenlik Enstitüsü (AISI): Yapay zeka modellerini güvenlik açısından değerlendirmekle görevli yeni kurulan bir enstitüdür.
– Yapay zeka modeli: Şirketler tarafından geliştirilen yapay zeka sistemini veya algoritmasını ifade eder.
– Test protokolleri: Yapay zeka modellerinin değerlendirilmesi ve test edilmesi için izlenen prosedür ve yönergelerdir.
– Önceden kullanıma yönelik testler: Yapay zeka modelinin resmi olarak kullanıma sunulmadan önce yapılan testlerdir.
İlgili Bağlantılar
– OpenAI
– Google DeepMind
– Microsoft
– Meta
– Financial Times
The source of the article is from the blog dk1250.com