Rola umelej inteligencie v každodennom živote sa často podceňuje, no stáva sa čoraz viac chrbtom rôznych odvetví, vrátane bankovníctva a sociálnych sietí. Používanie umelej inteligencie na generovanie obsahu na profesionálnych aj sociálnych platformách sa zdá byť pohodlné, ale môže byť nebezpečné, ak sa používa neuvážene v pracovnom prostredí. Nesprávne využitie technológie AI – napríklad poskytovanie jej dôverných údajov spoločnosti na správy a prezentácie – môže viesť k vážnym porušeniam dát a možným dôsledkom pre zamestnancov aj zamestnávateľov.
Umelá inteligencia v riadení ľudských zdrojov sa šikovne pohybuje v organizačných štruktúrach pre identifikáciu personálneho potenciálu alebo nadbytočnosti. Podľa Artura Piechockého, právneho poradcu a znalca technologického práva, analýzy umelej inteligencie môžu zlepšiť stratégie HR a hodnotiť výkonnosť pracovnej sily. Avšak európska smernica AI ACT rozlišuje prípustné aplikácie umelej inteligencie na základe úrovne rizika, zabezpečujúc základné práva a slobody.
Určité manipulatívne technológie AI sú prísne zakázané. Iné, ktoré predstavujú vysoké riziko, vyžadujú prísne hodnotenia a robustné bezpečnostné opatrenia na minimalizáciu negatívnych účinkov na zamestnancov. Systémy AI s minimálnym rizikom sú podrobené etickým kódexom, a bezpečné, ako napríklad ochranné filtre vo voľbe, ponúkajú jednoduché výhody.
ZUS využíva umelú inteligenciu pre efektívnosť: ZUS, ktorý sa vyrovnáva s enormitou spracovania údajov, prijal algoritmy AI na identifikáciu rizík a zlepšenie operačnej presnosti, čo najviac znižuje potrebu dodatočného personálu.
Zamestnanci, ktorí sa v práci stretávajú s AI: Piechocki varuje pred neuváženým používaním nástrojov AI ako je ChatGPT na pracovné účely, pretože môže porušovať firemné tajomstvá aj bezpečnosť osobných údajov. Nesmierne dôležité je, či je AI používaná zodpovedne v právnom a etickom rámci alebo skryte pre osobné výhody, môže významne ovplyvniť pracovné postupy. Zatiaľ čo zamestnávatelia využívajú AI na automatizáciu a optimalizáciu, zamestnanci musia zabezpečiť, aby neporušovali právne alebo politické hranice pri využívaní takýchto technológií.
Vznikajúce etické a bezpečnostné obavy: Vzrastajúcim výzvou pri neustále sa rozvíjajúcich systémoch AI je udržiavanie ochrany súkromia a etických noriem. Tieto obavy nesiahajú len po porušeniach dát spomenutých v článku, ale rozšírili sa na témy ako dohľad, vytváranie falošných identít a algoritmické predsudky, ktoré by mohli viesť k diskriminácii. Dôležitou otázkou je, ako by sa mali regulovať systémy AI, aby sa zabezpečilo, že nebudú porušovať súkromie alebo vytvárať predsudky.
Napríklad technológia rozpoznávania tváre, hoci užitočná na účely bezpečnosti, vyvolala vážne otázky o súkromí a debaty o etike neustáleho dohľadu.