İşletmeler yapay zekanın (AI) vaatlerini benimsemeye doğru akın ederken, bu teknolojiyi benimseme hızının ahlaki ve teknik riskleri göz ardı edebileceği konusunda artan bir endişe bulunmaktadır. Sunshine Coast Üniversitesi’nden bir grup akademisyen, işletmelerin aceleyle üretken AI’ı entegre etmelerinin potansiyel olumsuz yanlarını vurgulayarak benimseme sürecinde dikkatli olmaları çağrısında bulundular.
AI ve Etik dergisinde yayınlanan araştırmasında, akademisyenler geniş çapta AI’nın benimsenmesi ile ilişkilendirilen çeşitli risklere işaret ettiler. Bunlar arasında, gizlilik ve güvenlik endişeleri bulunmakta olup, bu durumun halk, çalışanlar ve diğer paydaşlar için bir tehdit oluşturabileceği belirtilmiştir. Makale, AI eğitimi sırasında toplanan hassas bilgileri ortaya çıkarabilecek büyük veri ihlallerinin olasılığından ve işletmelerin bozuk AI modellerine dayalı yanlış kararlar alabileceğinden uyarıyor.
UniSC’de siber güvenlik dersleri veren ve çalışmanın ortak yazarlarından biri olan Dr. Declan Humphreys, sektörün teknolojiyi ve doğasındaki ahlaki ve siber güvenlik risklerini yeterince anlamadığını vurguladı. AI çılgınlığına kapılan organizasyonların ya çok fazla güven ya da körü körüne AI sistemlerine güvenerek kendilerini savunmasız bırakabileceğini belirtti.
Ayrıca, araştırma makalesi, AI’nın uygulanması sırasında daha yüksek hata oranları ve büyük dil modellerini (LLM) eğitmek için kullanıldığında, organizasyonların kendi özel verilerinin harici varlıklara maruz kalma konusundaki anlamının eksikliğini işaret ediyor. Kurumsal sektörde eleştirel düşünme ve analiz becerilerinin yetersizliğinin, düşük performansa ve utanç verici sonuçlara yol açabileceğini öne sürüyor.
Bu riskleri hafifletmek için yazarlar, AI entegrasyonunu düşünen şirketler için beş maddelik bir kontrol listesi önermektedir. Bu kontrol listesi, güvenli ve etik AI model tasarımının uygulanması, güvenilir ve adil veri toplama süreci, güvenli veri depolama uygulamaları, AI modelinin yeniden eğitimi ve bakımı sırasında etik prensiplere uygun davranılması ve personelin geliştirilmesi, eğitimi ve yönetimine yatırım yapılması gibi maddeleri içermektedir.
AI işletme operasyonlarında verimliliği ve etkinliği artırma potansiyeline sahip olmasına rağmen, işletmeler benimsemesine ilişkin ahlaki ve siber güvenlik unsurlarının farkında olmalıdır. Yazarların önerdiği kontrol listesinin uygulanması, organizasyonların potansiyel tehlikeleri yönlendirmelerine ve AI’nın operasyonlarına sorumlu ve başarılı bir şekilde entegre edilmesine yardımcı olabilir.
The source of the article is from the blog toumai.es