Zápas s etickými a právnymi dilemami
Ako technológie umelej inteligencie (AI) podnikajú významné kroky, autonomné zbraňové systémy schopné usmrtenia bez ľudskej intervencie sú bližšie k tomu, aby sa stali realitou, čím sa otvárajú kritické etické a právne otázky. Na riešenie týchto obáv Rakúsko hostí konferenciu zameranú na umelej inteligencii vo zbraňových systémoch, bežne nazývaných „vražedné roboty“, ktorej cieľom je obnoviť diskusiu o tejto otázke.
Minister zahraničných vecí Rakúska zdôrazňuje naliehavosť momentu a potrebu medzinárodného konania, hoci bez priameho citovania. Obracia sa na celosvetovú komunitu, aby aspoň zabezpečila, že ľudia si ponechajú konečné rozhodovacie právo nad životom a smrťou.
Stagnujúce diskusie na pôde Organizácie Spojených národov
Rozpravy v rámci Organizácie Spojených národov o autonomných zbraniach trvajú roky bez konkrétnych výsledkov. Z týchto rozhovorov vzišli len neurčité záväzky.
Používanie umelej inteligencie na bojisku už je realitou, príkladmi sú drony na Ukrajine navrhnuté na autonómnu navigáciu, keď rušené technológie signálu narušujú ich spojenie s operátormi. Ďalej izraelská armáda využíva AI na identifikáciu cieľov bombardovania v Ghaze.
Chyby a riziká umelé inteligencie
Prípady, kedy AI robí nesprávne rozhodnutia, sú od toho, že správnosť takýchto systémov, či už v armáde alebo v civilných prostrediach, prinášajú pocit opatrnosti a dôsledného dohľadu, ktoré sú nevyhnutné na zabránenie umocnenia našich morálnych zlyhaní a prenosu zodpovednosti za násilie a jeho kontrolu na stroje a algoritmy.
Snaženia a výzvy medzinárodné regulácie
Výzva na medzinárodné pravidlá o autonomných zbraniach vyplýva z obáv z rýchlosti, akou sa technológia AI rozvíja. Krajiny ako Spojené štáty, Rusko a Čína investujú obrovské sumy do vojenskej umelej inteligencie. Nestála únia zápasí s inštitúciou formálnych nariadení kvôli zložitosti definovania autonomných zbraní a rôznych pohľadov na to, ako ich najlepšie riadiť alebo zakázať.
Klady a zápory
Výhody autonomných zbrojných systémov zahŕňajú zvýšenú efektívnosť, zníženie rizika pre vojakov a schopnosť operovať v prostrediach, kde nemôžu byť prítomní ľudskí vojaci. AI môže spracovať obrovské množstvo dát rýchlejšie ako ľudia, čo by viedlo k rýchlejšiemu a strategickejšiemu rozhodovaniu sa na bojisku.
Avšak nevýhody sú významné. Autonómne zbrane môžu chýbať ľudský úsudok potrebný v komplexných, morálne zložitých situáciách. Závislosť od AI taktiež vyvoláva obavy o kybernetickú bezpečnosť; tieto systémy by mohli byť hacknuté, prerobené alebo zlyhať. Depersonalizácia vojenstva by mohla znížiť prah na zapojenie do konfliktu, čo by viedlo k eskalácii násilia.
Pre ďalšie informácie o umelú inteligenciu a jej dopad na spoločnosť, navštívte nasledovnú webovú stránku: United Nations.