Rola umelej inteligencie v modernom bojovom biznise predstavuje nové hrozby
V sahajúcom sa obraze bojového prostredia sú autonomné zbraňové systémy poháňané umelou inteligenciou (UI) aktuálnou obavou pre globálnu bezpečnosť. Prof. Karl Hans Bläsius, odchádzajúci profesor informatiky so špecializáciou na UI, vyjadruje obavy z potenciálu takýchto technológií spúšťať rýchle eskalačné cykly, ktoré presahujú ľudskú kontrolu.
Prof. Bläsius opisuje výhody autonomy v technológii, ako je potenciál samovodičovských áut a robotov v nebezpečných prostrediach. Avšak zdôrazňuje závažné riziká spojené s autonomne fungujúcimi zbraňami určenými na ničenie. Tvrdo tvrdí, že automatizovať čin zabíjania je nežiadúce a varuje pred osobitne nebezpečnými pokroky vrátane tých, ktoré súvisia s jadrovými zbraňami.
Paralely s algoritmami na vysokofrekvenčné obchodovanie vo finančnom svete, ktoré spôsobili náhle útoky trhu známe ako „flash crashes“, Prof. Bläsius varuje, že zbraňové systémy riadené umelou inteligenciou by sa mohli podobne zapojiť do nepredvídaných interakcií, vedúc k rýchlym a nekontrolovateľným „flash vojnám“. Tieto scenáre zobrazujú budúcnosť, v ktorej automatizované systémy sa zapájajú do bojov v rýchlostiach, ktoré presahujú ľudskú schopnosť protiakcie, vytvárajúc spirálový efekt agresie a protiagresie.
Prof. Bläsius upozorňuje na existujúce použitie umelej inteligencie pri určovaní vojenských cieľov, ako je izraelské použitie na identifikáciu bojovníkov Hamasu a ich polôh, a vyjadruje obavy z nedostatku ľudskej verifikácie v týchto situáciách, čo by nakoniec mohlo viesť stroje k rozhodnutiu, kto žije a kto umiera, aj vrátane civilistov.
Bläsius uzatvára tým, že sa zaoberá potrebou umelej inteligencie pri riadení obrovskej zložitosti a časového tlaku moderných vojenských operácií. Avšak uznáva problematickú povahu týchto pokrokov, vzhľadom na ich potenciál obísť ľudské rozhodnutia a etické dôsledky, ktoré s tým súvisia.
Výzvy a kontroverzie poháňaných AI-autonómnymi zbraňami
AI-autonómne zbrane prinášajú súbor zložitých otázok a výziev, ktoré vyvolali kontroverzie v rôznych sektoroch vrátane vojenských, politických, etických a právnych oblastí. Tu sú niektoré z kľúčových výziev a kontroverzií:
Zodpovednosť: Jedným z hlavných problémov s autonómnymi zbraňovými systémami je otázka, kto ponesie zodpovednosť v prípade neúmyselného ničenia alebo neprávoplatnej smrti. Bez jasných usmernení môže byť zložité priradiť zodpovednosť za činy vykonané AI.
Etické úvahy: Použitie AI
[môžeme pokračovať, ak sa tento text pokračuje alebo keď opíšem viac obsahu z textu vyššie]