Umetna inteligenca (AI) je v zadnjih letih revolucionirala tehnološko industrijo, pri čemer področje podjetniške kibernetske varnosti ni nobena izjema. Medtem ko AI prinaša številne koristi, se pojavlja vedno večja skrb glede vzpona “senčnega AI” – neavtorizirane uporabe AI v organizacijah brez vednosti ali soglasja IT oddelka.
Kaj točno je senčni AI? To se nanaša na zaposlene, ki uporabljajo AI za pomoč pri različnih nalogah, ne da bi obvestili svoje podjetje. Ta tajna uporaba AI pogosto ostane neopažena, kar pušča podjetja ranljiva za potencialno izkoriščanje ali varnostne težave. Uporaba AI v senci lahko pospeši naloge, vendar brez ustreznega pregleda in smernic podjetja ne morejo nadzorovati rezultatov, kar lahko škoduje njihovemu uspehu.
Kljub pomanjkanju dokumentiranih katastrofalnih varnostnih napak, ki jih je povzročil senčni AI, obstajajo dokazi, ki kažejo, da ta predstavlja pomemben problem v različnih industrijah. Presenetljivo je, da je le 4,39 % podjetij popolnoma integriralo orodja AI s celovitimi smernicami, glede na poročilo Tech.co o vplivu tehnologije na delovno mesto iz leta 2024. Nasprotno pa je anketa, ki je bila izvedena posebej na francoskih podjetjih, pokazala, da je 44% anketirancev uporabljalo AI tako v poklicnem kot osebnem okolju, pri čemer je bilo ocenjeno, da 28% zaposlenih uporablja AI brez nadzora podjetja. Ta razhajanja poudarjajo potrebo po regulacijah glede uporabe AI v poslovnem svetu.
Nevarnosti senčnega AI so raznolike in težko oprijemljive zaradi nekontrolirane narave njegove implementacije. Nekatera ključna področja skrbi vključujejo:
1. Notranje ali zunanje dezinformacije: Obstaja tveganje, da veliki jezikovni modeli AI generirajo napačne informacije, kar predstavlja grožnjo za vrhovno vodstvo in pomembne komunikacijske kanale podjetja. S poročili o napakah AI v strokovnih pravnih mnenjih in drugih napakah je že bilo poročano, kar nakazuje možnost kompromitacije internih poslovnih poročil ali komunikacije s strankami.
2. Tveganje kibernetske varnosti: Čeprav AI lahko koristen za kodiranje, obenem odpira možnost za bube ali ranljivosti, ki jih lahko izkoristijo hekerji. Če ekipa za podporo IT nenamerno izda kodo, ki vsebuje te ranljivosti, lahko obide varnostne protokole in ogrozi sisteme podjetja.
3. Izpostavljeni podatki: Mnogi uporabniki AI niso seznanjeni, da podjetja za AI orodji lahko beležijo njihove interakcije. Če se v teh interakcijah uporabljajo občutljivi podatki podjetja, postanejo ranljivi za izpostavljanje. Zato je ključnega pomena, da ne delite zaupnih informacij s platformami za AI.
4. Kršitve skladnosti: Vlade po vsem svetu uveljavljajo predpise in smernice za uporabo AI. Brez ustrezne sledljivosti in predstavnika, ki je odgovoren za spremljanje teh predpisov v podjetju, podjetja morda nezavedno kršijo standarde skladnosti. To bi lahko privedlo do preiskav ali kazni, ki jih naložijo regulatorni organi.
Da bi se borila proti tveganjem, povezanim s senčnim AI, morajo podjetja vzpostaviti jasna pravila za uporabo AI na delovnem mestu. Ta pravila naj natančno opredeljujejo specifične naloge in vloge, za katere je dovoljena uporaba AI. Glede na nedavne raziskave je približno 50% ameriških podjetij v procesu posodabljanja notranjih politik za upravljanje uporabe AI orodij, kot sta ChatGPT in za omilitev senčnega AI.
Čeprav se popolna prepoved uporabe AI morda zdi najvarnejša možnost, pomeni tudi odrekanje koristim, ki jih lahko ponudi tehnologija AI. Nekatera podjetja, kot so Apple, Amazon, Samsung in Goldman Sachs, so uvedla delne prepovedi uporabe AI za uporabo med delovnim časom. Kljub temu podjetja upoštevajo možnost za prihodnjo uporabo AI, ki jo je treba odobriti, saj se orodja AI nenehno razvijajo in lahko v prihodnosti prinesejo vrednost.
Poleg tega obstajajo najboljše prakse, ki jih podjetja lahko upoštevajo za optimizacijo uporabe AI:
1. Dostop do tečajev usposabljanja: Na spletu je na voljo veliko brezplačnih gradiv za usposabljanje AI, ki zaposlenim pomagajo seznaniti se z uporabo AI in najboljšimi praksami.
2. Izognite se zamenjavi delovnih mest: AI še ni sposoben popolnoma nadomestiti človeka pri različnih nalogah. Poročilo kaže, da orodja AI niso vplivala na odstranitev delovnih vlog za 63% vodilnih strokovnjakov, katerih organizacije uporabljajo AI za pisanje nalog.
3. Omejite uporabo AI: Omejite uporabo AI le na določene naloge in določene robote. Orodja, kot sta ChatGPT in Claude 3, nudita uporabnost za različne namene, zato je treba premišljeno upoštevati, da dobite optimalne rezultate pri pisanju.
4. Bodite obveščeni: Spremljajte najnovejše razvoje in napredke na področju tehnologije AI, da zagotovite uporabo najučinkovitejših orodij. Nedavni testi so pokazali, da Claude 3 proizvaja boljše besedilne rezultate v primerjavi s ChatGPT.
Nazadnje je ključnega pomena, da si zapomnite, da generativna besedilna ali slikovna orodja niso resnično “inteligentna”. Človeški pregled je potreben za preverjanje in potrjevanje izhodov iz orodij AI, da se preprečijo netočnosti ali laži.
Ker se prevalenca AI nenehno povečuje, se morajo podjetja proaktivno lotiti problema senčnega AI, da bi zaščitila svoje operacije, varovala občutljive podatke in upoštevala predpise. Z vzpostavitvijo celovitih smernic in ostajanjem obveščenim o tehnologiji AI lahko podjetja izkoristijo koristi AI ter zmanjšajo tveganja, povezana z neavtorizirano uporabo AI.
FAQ
The source of the article is from the blog elperiodicodearanjuez.es