Integrering av AI-sikkerhet i den juridiske og sosiale strukturen
Dekanen ved Schwarzman College ved Tsinghua University og lederen for Institute for AI International Governance, Xue Lan, deltok nylig på et forum ved Zhongguancun Forum Annual Conference. Der fremhevet Xue den mangfoldige rollen nasjonal lovgivning, bedriftspolitikk og offentlig deltakelse spiller i etableringen av et solid kontrollsystem for de potensielle risikoene knyttet til kunstig intelligens (AI)-teknologi.
Xue understreket nødvendigheten av lover rettet mot algoritmiske prosesser, lik den «Personal Information Protection Law,» for å sikre at algoritmene effektivt beskytter brukerrettighetene. Videre oppfordret han bedrifter til å styrke sin interne infrastruktur gjennom komiteer og andre tiltak for å sikre en lovlig bruk av teknologien.
Oppmuntre til åpen kildekode AI og offentlig overvåkning
Under konferansen støttet Xue Lan bruken av åpen kildekode AI-teknologier for å fremskynde teknologisk utvikling og iterasjon. Han foreslo også at det er avgjørende å opprettholde sikkerheten til teknologien mens man adopterer åpen kildekode-tilnærminger for å forhindre misbruk som kan skade samfunnet.
AI’s rolle i samfunnet: Balansere effektivitet med valgmuligheter
Med ansiktsgjenkjenningsteknologi som et eksempel, bemerket Xue dens effektivitet, spesielt på steder med tett menneskemengde som togstasjoner hvor rask prosessering av store folkemengder er nødvendig. Han erkjente også behovet for alternative manuelle prosesseringsalternativer for de som velger å ikke delta i ansiktsgjenkjenning, til tross for at det er en tregere prosess.
Tilpasse arbeid og ferdigheter for en AI-fremtid
Mens AI-teknologier former kravene for fremtidige jobbfag og ansettelsesmønstre, foreslo Xue en tilnærming lik den for å håndtere andre teknologiske innovasjoner: Vi bør vurdere hvordan AI kan tjene menneskeheten og hva mennesker streber etter å oppnå neste gang. Identifisering av jobber som krever kreativitet og ikke kan erstattes av AI, kan lede oss mot de ferdighetene som er nødvendige for fremtidig utvikling.
Med veksten av nye teknologier mener Xue at det vil oppstå nye samfunnsbehov, som potensielt kan føre til nye modeller for sysselsetting.
Etter intervjuet modererte Xue Lan en rundebordsdiskusjon om «Data Security Management for Large AI Models,» og bidro betydelig til temaet «Data Security Governance and Development» ved konferansen. Arrangementet var et samarbeid med flere arrangører og medarrangører, og gjenspeilet det tverrfaglige tilnærmingen som trengs for effektiv AI-styring.
Viktige spørsmål og svar:
1. Hva er AI-styring?
AI-styring refererer til strategier, prinsipper og praksiser som tar sikte på å ansvarlig og effektivt overvåke og styre AI-utvikling, implementering og bruk for å redusere risikoer og sikre at AI-systemer er sikre, etiske og nyttige.
2. Hvorfor er AI-styring viktig?
AI-styring er viktig for å kunne håndtere potensielle risikoer som skjevhet, manglende gjennomsiktighet, ansvarsspørsmål og trusler mot personvern. Effektiv styring kan føre til større tillit til AI-systemer fra allmennheten og enighet med samfunnets verdier.
3. Hva er utfordringene med AI-styring?
En hovedutfordring er den raske utviklingen av AI, som gjør det vanskelig for lovgivningen å henge med. Det er også den globale karakteren av AI, som krever internasjonalt samarbeid om standarder og regelverk, noe som kan være vanskelig å oppnå med tanke på varierende juridiske og etiske rammeverk.
4. Hva er kontroversene knyttet til AI?
Kontroverser dreier seg ofte om personvernhensyn, potensiell jobbutskifting på grunn av automatisering, skjevheter i AI-algoritmer og den etiske bruken av AI i krigføring og overvåkning. Balansen mellom innovasjon og risikostyring er et omstridt tema.
Fordeler og ulemper med AI-styring:
Fordeler:
– Oppmuntrer til sikker og etisk utvikling av AI-teknologier
– Bidrar til å bygge tillit til AI-systemer hos allmennheten
– Kan føre til mer rettferdige resultater ved å takle skjevheter
– Beskytter enkeltpersoners og samfunnets rettigheter og personvern
Ulemper:
– Kan bremse teknologisk innovasjon hvis regelverket er for restriktivt
– Kan skape høye etterlevelseskostnader for bedrifter som kan hemme oppstartsselskaper og mindre virksomheter
– Risiko for jurisdiksjonsarbitrasje der selskaper utnytter mildere regler i visse regioner
– Muligheten for at for strenge eller for milde regler kan føre til konkurransemessige ulemper på global skala
Viktige utfordringer og kontroverser:
– Definere klare og håndhevbare AI-styringsrammeverk på nasjonalt og internasjonalt nivå
– Balansere innovasjon med regulering for ikke å hemme teknologisk utvikling
– Sikre offentlig deltakelse og forståelse av AI-teknologier og deres implikasjoner
– Opprettholde en konkurransefordel samtidig som man følger etiske retningslinjer
Relaterte lenker:
– Tsinghua University
– Schwarzman College ved Tsinghua University