Podpora etického pokroku v rozvoji AI
Technologická oblasť svedčí o tom, čo experti opisujú ako nezodpovednú súťaž o prevahu v sektore umelej inteligencie (AI). Významní zamestnanci a absolventi z OpenAI, tvorcovia známeho chatbota ChatGPT, vyjadrili svoje obavy týkajúce sa nejasnosti pri prevádzke spoločnosti a nedostatočných opatrení na ochranu oznamovateľov.
Priorita bezpečnosti pred rýchlosťou
Podľa nedávneho zistenia v The New York Times kolektív deviatich jednotlivcov poukázal na to, že obchodná stratégia OpenAI neprimerane uprednostňuje ziskovosť a rozvoj, často na úkor zabezpečenia bezpečnosti svojich špičkových technológií AI. Tieto by v konečnom dôsledku mohli dosiahnuť ľudské schopnosti a v prípade nedostatočnej regulácie by mohli predstavovať riziko.
Verejný list upozorňuje na hrozby AI
Obavy zamestnancov boli oficiálne vyjadrené v verejnom liste zverejnenom v tento istý deň, ktorý opisoval rad hrozieb od intenzifikácie sociálnych disparít až po šírenie dezinformácií a možnosť úniku umelej inteligencie spod ľudskej kontroly, čo by mohlo mať katastrofálne dôsledky.
Cesta vpred: Návrhy pre bezpečnejšiu AI
Zameriavajúc sa na nedostatok interných kanálov na vyjadrovanie obáv nielen v OpenAI, ale aj v celom odvetví AI, skupina zdôraznila potrebu efektívneho dohľadu zo strany vlády. Uviedli štyri kľúčové odporúčania na riešenie týchto problémov, vyzývajúc na možnosti anonymného oznamovania obáv a trvajúc na tom, aby sa spoločnosti AI zaviazali k nepreukazovaniu voči tým, ktorí odhalia dôverné informácie týkajúce sa rizík, keď všetky ostatné pokusy o riešenie zlyhali.
Obavy vyjadrené zamestnancami a absolventmi OpenAI kladú dôležité otázky o širšom kontexte rastu odvetvia AI a o problémoch, s ktorými sa stretáva v oblasti etiky a transparentnosti. Tu sú kľúčové otázky, výzvy a kontroverzie súvisiace s touto témou, ako aj ich výhody a nevýhody.
The source of the article is from the blog be3.sk