След като бизнесите спъват към обещанията на изкуствения интелект (AI), се усеща растяща загриженост, че бързината на приемане на тази технология може да пренебрегне моралните и техническите рискове. Група учени от Университета на Съншайн Коуст подчертаха потенциалните отрицателни страни на бизнесите, които спешно интегрират генеративен AI, насърчавайки приемниците да продължат с осторожност.
В техните изследвания, публикувани в списание AI и Етика, учените разкриват различните рискове, свързани с широкото приемане на AI. Сред тях са загриженостите относно поверителността и сигурността, които могат да представляват заплаха за публиката, служителите и другите заинтересовани страни. Докладът предупреждава за възможността за масови нарушения на данните, които биха могли да разкрият поверителна информация, натрупана по време на обучението на AI, и подчертава как бизнесите могат да вземат грешни решения на базата на корумпирани AI модели.
Д-р Деклан Хъмфрийс, лектор по киберсигурност в УниСК и съавтор на изследването, отбеляза недостатъчното разбиране на индустрията за технологията и нейните вътрешни етични и киберсигурностни рискове. Той предупреди, че организациите, заловени от хайпа на AI, може да оставят себе си уязвими, като прекалено много се доверяват или слепо вярват на AI системите.
Освен това, изследователският доклад посочва възможността за по-високи грешки по време на внедряването на AI и липсата на разбиране сред организациите относно разкриването на техните проприетарни данни на външни субекти при обучението на големи модели на езика (LLM). Той предлага, че липсата на критично мислене и умения за анализ в корпоративния сектор може да доведе до подпарен успех и проваляне на резултатите.
За да намалят тези рискове, авторите предлагат петточкова проверка за компаниите, които обмислят интегрирането на AI. Тази проверка включва внедряването на сигурен и етичен дизайн на AI моделите, надежден и справедлив процес на събиране на данни, практики за сигурно съхранение на данни, спазване на етични принципи по време на преобучение и поддръжка на AI моделите, и инвестиции в повишаване на квалификацията, обучение и управление на персонала.
Въпреки че AI има огромен потенциал за подобряване на ефективността и ефективността на бизнес операциите, компаниите трябва да бъдат внимателни по отношение на етичните и киберсигурностни аспекти, свързани с нейното приемане. Прилагането на предложената от авторите проверка може да помогне на организациите да се справят с потенциалните рискове и да гарантират отговорно и успешно интегриране на AI в техните операции.
The source of the article is from the blog hashtagsroom.com