Singapore har for nylig præsenteret et udkast til et styresystem for generativ kunstig intelligens (GenAI), hvor behovet for at håndtere nye udfordringer fremhæves. Styresystemet sigter mod at bygge videre på Singapores eksisterende AI-styresystem og lægger særlig vægt på hændelsesrapportering og kildeangivelse af indhold. Ifølge AI Verify Foundation og Infocomm Media Development Authority (IMDA) har GenAI potentialet til at overgå traditionelle AI-evner, men det indebærer også intrinsikke risici.
Med erkendelse af AI’s globale indflydelse sigter Singapore mod at lette den internationale dialog mellem politikere, interessenter i industrien og forskersamfundet gennem dette foreslåede styresystem. Dokumentet indeholder forslag fra en tidligere diskussionspapir, som IMDA offentliggjorde i juni, hvor der blev identificeret seks risici forbundet med GenAI, herunder hallucinationer, ophavsretsproblemer og forudindtagethed.
Det udkast, der omhandler GenAI-styresystemet, er centreret omkring ni nøgleområder, som Singapore anser for afgørende for etablering af et pålideligt AI-økosystem. Disse principper understreger vigtigheden af gennemsigtighed, forklarbarhed og retfærdighed i beslutningsprocesser baseret på AI. Styresystemet indeholder også praktiske anbefalinger til AI-modeludviklere og politikere som indledende skridt.
Kildeangivelse af indhold fremhæves som en af hovedkomponenterne i styresystemet. Det er nødvendigt at sikre gennemsigtighed i genereringen og kilden til indhold for at bekæmpe misinformation, især i konteksten af let oprettet AI-genereret indhold som deepfakes. Udkastet til styresystemet foreslår samarbejde med udgivere om at integrere digitale vandmærker og andre relevante oplysninger om kildeangivelse i onlineindhold.
Sikkerhed er en anden kritisk faktor, der adresseres af styresystemet. GenAI introducerer nye sikkerhedsrisici, såsom prompte angreb og potentiel dataudfiltrering. Udkastet foreslår udvikling af koncepter om sikkerhed ved design, herunder implementering af naturlig sprogindtastningskontrol og brug af digitale kriminaltekniske værktøjer til efterforskningsformål.
Singapore erkender kompleksiteten af AI-styring og mener, at en praktisk og holistisk tilgang er nødvendig. Landet søger aktivt feedback på sit udkast til styresystemet indtil den 15. marts. Det fremhæver også behovet for internationalt samarbejde for at etablere enighed og afstemning mellem forskellige AI-styresystemer verden over, herunder dets partnerskab med USA.
Afslutningsvis har Singapores udkast til styresystem for GenAI til formål at skabe et sikkert og pålideligt miljø for udvikling og implementering af AI-teknologier. Ved at håndtere nøgleområder som kildeangivelse af indhold og sikkerhed stræber Singapore efter at drive innovation samtidig med at beskytte brugerne. Styresystemet udgør et vigtigt skridt i den globale samtale om AI-styring og inviterer feedback fra interessenter.
The source of the article is from the blog oinegro.com.br