Europejscy ustawodawcy są gotowi udzielić ostatecznej zgody na ustawę dotyczącą sztucznej inteligencji, znaną jako AI Act. Ta nowa regulacja ma na celu zapewnienie humanocentrycznego podejścia do sztucznej inteligencji, gdzie człowiek pozostaje w kontroli, jednocześnie wykorzystując potencjał technologii dla wzrostu gospodarczego i postępu społecznego.
Pierwotnie zaproponowana pięć lat temu, AI Act ma zostać zatwierdzona przez Parlament Europejski. Nowa ustawa przyjmuje podejście oparte na ryzyku, z różnymi poziomami kontroli zależnie od zagrożeń związanych z zastosowaniami SI. Systemy o niskim ryzyku, takie jak algorytmy rekomendacji treści czy filtry antyspamowe, staną przed minimalnymi regulacjami, wymagając jedynie ujawnienia, że są zasilane przez SI. Większość systemów SI ma przypadać do tej kategorii.
Z drugiej strony, zastosowania SI o wysokim ryzyku, takie jak te w urządzeniach medycznych czy krytycznej infrastrukturze, będą podlegać bardziej restrykcyjnym wymaganiom. Obejmują one stosowanie wysokiej jakości danych, jasne udostępnianie informacji użytkownikom oraz przestrzeganie określonych wytycznych. AI Act zakazuje także niektórych zastosowań SI, które stwarzają niedopuszczalne ryzyko, takich jak systemy ocen społecznych, pewne rodzaje prognozującego działań policyjnych oraz systemy rozpoznawania emocji w środowisku edukacyjnym i zawodowym.
Jednym z istotnych dodatków do AI Act jest uwzględnienie modeli generatywnych sztucznej inteligencji. Te modele, które umożliwiają systemom czatbotów SI generowanie unikalnych i realistycznych odpowiedzi, obrazów i nie tylko, początkowo nie były objęte wczesnymi wersjami ustawy. Aby temu zaradzić, producenci ogólnego przeznaczenia modeli SI będą teraz zobowiązani do dostarczenia szczegółowego podsumowania danych treningowych, w tym tekstu, obrazów, filmów i innych. Dodatkowo, treści deepfake generowane przez SI muszą być jasno oznaczone jako sztucznie manipulowane.
AI Act dodatkowo podkreśla potrzebę kontroli i regulacji największych i najpotężniejszych modeli SI, które stwarzają potencjalne ryzyko systemowe. Te modele, takie jak GPT4 OpenAI czy Gemini Google’a, są postrzegane jako mogące powodować poważne wypadki lub być wykorzystywane do cyberataków. Istnieją obawy dotyczące rozprzestrzeniania się szkodliwych uprzedzeń poprzez generatywną SI w różnych zastosowaniach, wpływających na dużą liczbę osób.
Firmy dostarczające te systemy SI będą odpowiedzialne za ocenę i minimalizację ryzyka, zgłaszanie poważnych incydentów, wdrażanie środków bezpieczeństwa cybernetycznego oraz ujawnianie zużycia energii. Celem jest zapewnienie odpowiedzialności i odpowiedzialnego korzystania z technologii SI.
FAQ
Co to jest AI Act? – AI Act to przełomowa ustawa przyjęta przez Unię Europejską mająca na celu regulację wykorzystania sztucznej inteligencji. Określa ona zasady i wytyczne dla różnych kategorii zastosowań SI w zależności od potencjalnych ryzyk.
Jakie są główne postanowienia AI Act? – AI Act wprowadza podejście oparte na ryzyku, z łagodniejszymi regulacjami dla systemów SI o niskim ryzyku i bardziej restrykcyjnymi wymaganiami dla zastosowań SI o wysokim ryzyku. Zakazuje określonych zastosowań SI uznanych za nierazliwy risk oraz reguluje modeli generatywnych SI.
Jak AI Act wpłynie na firmy dostarczające systemy SI? – Firmy oferujące systemy SI będą musiały ocenić i minimalizować ryzyka związane z ich produktami, zgłaszać poważne incydenty, wdrażać środki bezpieczeństwa cybernetycznego oraz ujawniać zużycie energii. Celem jest zapewnienie odpowiedzialności i uczciwego wykorzystania technologii SI.
Czy AI Act wpływa na regulacje dotyczące SI poza Europą? – Oczekuje się, że AI Act stanie się globalnym znakiem drogowym dla innych rządów borykających się z regulacjami dotyczącymi SI. Mimo że każde państwo może opracować swoją własną ustawę, szczegółowy zestaw zasad UE będzie wpływał na globalne dyskusje na temat regulacji SI i kształtował przyszłe przepisy w innych regionach.
Definicje:
– Sztuczna Inteligencja (SI): Odnosi się do rozwoju systemów komputerowych, które potrafią wykonywać zadania, które zwykle wymagają ludzkiej inteligencji, takie jak percepcja wzrokowa, podejmowanie decyzji i rozwiązywanie problemów.
– Modele Generatywne SI: Modele SI, które mogą generować oryginalne treści, takie jak tekst, obrazy i filmy, które naśladują zachowanie ludzkie.
– Deepfake: Odnosi się do manipulowanych lub syntetycznych mediów, zwykle wideo, w których wizerunek osoby jest zastępowany wizerunkiem kogoś innego, często prowadząc do wprowadzającej w błąd lub dezinformującej treści.
– Cyberataki: Celowe i złośliwe działania podejmowane w celu kompromitacji systemów komputerowych lub sieci w różnych celach, takich jak kradzież danych, zakłócenie operacji lub wyrządzenie szkody.
Sugerowane powiązane linki:
– Komisja Europejska – Sztuczna Inteligencja
– EFMA – SI w Europie
– Government Technology – UE na rozdrożach w regulacjach SI
The source of the article is from the blog papodemusica.com