Vyhlášení předních vývojářů umělé inteligence se sídlem v Kalifornii kritizující navrhovaný zákon, který ukládá přísné bezpečnostní standardy, včetně implementace „kill switch“ pro deaktivaci jejich pokročilých modelů umělé inteligence. Informace pochází z reportáže Financial Times a podrobně popisuje legislativní kontrolu, která může ovlivnit přední startupy v oblasti umělé inteligence.
Zákonodárný sbor Kalifornie zvažuje opatření, která by zavedla nová omezení pro technologické společnosti působící v tomto státě. Tyto podmínky cílí na významné startupy v oblasti umělé inteligence, jako jsou OpenAI, Anthropic a Cohere, stejně jako na hlavní jazykové modely používané společnostmi jako Meta.
Zákon vyžaduje, aby vývojáři umělé inteligence v Kalifornii zaručili státním orgánům, že nevytvářejí modely s nebezpečnými schopnostmi, jako je schopnost vytvářet biologické nebo jaderné zbraně nebo pomáhat při kybernetických útocích. Navíc by vývojáři museli poskytnout informace o svých testovacích protokolech a zavést „kill switch“ pro své modely.
Nicméně, tyto podmínky setkaly se chladným přijetím mnoha zástupců Silicon Valley. Jejich argument říká, že zákony by mohly vyhnat startupy v oblasti umělé inteligence ze státu a bránit platformám jako Meta ve spolupráci s open-source modely. Andrew Ng, informatik, který vedl projekty umělé inteligence pro Google Alphabet a čínský Baidu a je členem správní rady Amazonu, komentoval potlačující účinek, které by mohly mít tyto pravidla na inovace, přirovnávaje to k zátěži rizik na úrovni sci-fi.
Obavy se začaly týkat rychlého rozvoje technologie umělé inteligence a jejího obrovského potenciálu. Elon Musk, časný investor společnosti OpenAI, dříve nazval tuto technologii „existenční hrozbou“ pro lidstvo. Nedávno kolektiv současných a bývalých zaměstnanců OpenAI vydal otevřený dopis upozorňující na to, že přední firmy v oblasti umělé inteligence mají nedostatečný dohled ze strany vlády a představují „závažné riziko“ pro lidstvo.
**Klíčové otázky a odpovědi:**
**Otázka: Jaký je hlavní zaměření navržené bezpečnostní legislativy v Kalifornii?**
Odpověď: Navrhovaná legislativa v Kalifornii se zaměřuje na zavedení přísných bezpečnostních standardů pro vývojáře umělé inteligence, včetně požadavku na „kill switch“ pro deaktivaci pokročilých modelů umělé inteligence a záruk, že umělá inteligence nebude navrhována s nebezpečnými schopnostmi.
**Otázka: Kdo by byl ovlivněn zákonodárstvím?**
Odpověď: Významné startupy v oblasti umělé inteligence se sídlem v Kalifornii, jako je OpenAI, Anthropic a Cohere, stejně jako velké technologické společnosti jako Meta, které vyvíjejí nebo využívají pokročilé modely umělé inteligence by byly ovlivněny.
**Otázka: Jaké jsou obavy vývojářů umělé inteligence ohledně navrhované legislativy?**
Odpověď: Vývojáři umělé inteligence mají obavy, že legislativa by mohla potlačovat inovace, ukládat zbytečné požadavky na hlášení a mohla by zatahovat startupy v oblasti umělé inteligence z Kalifornie kvůli vnímané zátěži a restriktivní povaze zákonů.
**Otázka: Jak reagovala veřejnost na rychlý rozvoj technologie umělé inteligence a její potenciální rizika?**
Odpověď: Veřejná reakce zahrnuje mix nadšení z technologických možností a obavu z potenciálních rizik. Někteří významní jedinci, jako Elon Musk, varovali před umělou inteligencí jako „existenční hrozbou“, zatímco jiní prosazují větší dohled a bezpečnostní opatření.
**Klíčové výzvy nebo kontroverze:**
– **Inovace vs. Bezpečnost:** Zároveň podporovat inovace technologií a zajistit veřejnou bezpečnost je značnou výzvou, přičemž existují různé názory na to, kde by měl být stanoven limit.
– **Ekonomický dopad:** Obava je, že přísná nařízení by mohla poškodit místní ekonomiku tím, že by přiměla společnosti v oblasti umělé inteligence přesunout se do oblastí s přívětivějším prostředím pro podnikání.
– **Technická proveditelnost:** Navrhnout a implementovat spolehlivý „kill switch“ pro systémy umělé inteligence je technicky složité a vyvstávají otázky ohledně jeho účinnosti ve všech scénářích.
– **Globální konkurenceschopnost:** Pokud Kalifornie ukládá přísná omezení, společnosti by mohly mít obtíže konkurovat mezinárodně firmám zemí s uvolněnějšími předpisy.
**Výhody navrhované legislativy:**
– **Zvýšení bezpečnosti:** Zákonodárství by mohlo vést k bezpečnějším praktikám při vývoji umělé inteligence a snížit riziko škodlivého využití umělé inteligence.
– **Vládní dohled:** Posílení dohledu ze strany vlády by mohlo poskytnout nezbytné kontroly, jako je zabránění zneužití umělé inteligence při vytváření zbraní nebo podpoře kybernetických útoků.
**Nevýhody navrhované legislativy:**
– **Potlačování inovací:** Přísná nařízení by mohla brzdit tempo pokroku v oblasti umělé inteligence a znechutit startupy od inovování nebo lokace v Kalifornii.
– **Ekonomické vytlačení:** Růst průmyslu umělé inteligence by se mohl zpomalit v Kalifornii, s pracovními místy a investicemi, které by potenciálně mohly odejít jinam.
Pro zůstanutí informovaní o podobných informacích a diskuzích týkajících se vývoje umělé inteligence a legislativy v Kalifornii, můžete navštívit domovskou stránku kalifornské vlády prostřednictvím tohoto odkazu – Kalifornská státní vláda – pro autoritativní aktualizace a zprávy. Stejně tak informace o širších dopadech umělé inteligence a veřejné politiky naleznete na domovské stránce Institutu pro umělou inteligenci zaměřenou na člověka na Stanfordově univerzitě – Stanford HAI.
The source of the article is from the blog papodemusica.com