Kunstig intelligens (KI) har vært et tema som vekker bekymring de siste årene, med mange som frykter at den kan erstatte jobber, spre feilinformasjon og til og med utgjøre en trussel mot menneskeheten. Til tross for disse bekymringene, avslørte en rapport fra KPMG i 2023 at bare to av fem personer mener at gjeldende reguleringer er tilstrekkelige for å sikre sikker bruk av KI. I lys av disse bekymringene blir rollen til etisk oppsyn i utviklingen av KI stadig viktigere.
En person som er i frontlinjen for denne innsatsen, er Paula Goldman, sjef for etisk og human bruk hos Salesforce. Hennes arbeid innebærer å sikre at teknologien som produseres av selskapet, er til nytte for alle. Dette inkluderer tett samarbeid med ingeniører og produktledere for å identifisere potensielle risikoer og utvikle sikkerhetsmekanismer. Det innebærer også samarbeid med policygruppen for å etablere retningslinjer for akseptabel bruk av KI og fremme produkttilgjengelighet og inkluderende design.
Når hun blir spurt om etisk og human bruk, legger Goldman vekt på betydningen av å harmonisere KI-produkter med en rekke verdier. For eksempel er presisjon en viktig prinsipp når det gjelder generativ KI. Salesforce jobber kontinuerlig med å forbedre relevansen og nøyaktigheten til genererte KI-modeller ved å inkludere dynamisk forankring, som veileder dem til å bruke riktige og oppdaterte opplysninger for å forhindre feilaktige svar eller «KI-hallusinasjoner».
Samtalen om etikk knyttet til KI har fått fart, med teknologiledere som Sam Altman, Elon Musk og Mark Zuckerberg som deltar i lukkede møter for å diskutere KI-regulering med lovgivere. Selv om det er en økende bevissthet om risikoene forbundet med KI, erkjenner Goldman behovet for flere stemmer og en bredere aksept av etiske hensyn i policydiskusjoner.
Salesforce og andre selskaper, som OpenAI, Google og IBM, har frivillig forpliktet seg til KI-sikkerhetsstandarder. Goldman fremhever det samarbeidsinnsatsen som foregår i bransjen, som å arrangere workshops og delta i etiske KI-rådgivende organer. Samtidig erkjenner hun også forskjellene mellom bedriftsmarkedet og forbruksmarkedet og understreker viktigheten av å etablere standarder og retningslinjer som er spesifikke for hver enkelt kontekst.
Å jobbe innenfor KI-feltet er både spennende og utfordrende. Lederne i dette feltet former kollektivt fremtiden ved å strebe etter å utvikle pålitelige og ansvarlige KI-produkter. Men den raske utviklingen betyr også at kontinuerlig læring og tilpasning er essensielt.
Konklusjonen er at etisk bruk av KI er en viktig faktor for vellykket integrasjon i samfunnet. Gjennom innsatsen til enkeltpersoner som Paula Goldman og samarbeidsinitiativer kan utviklingen av ansvarlig KI legge veien til en bedre fremtid.
FAQ Seksjon:
Spørsmål: Hva er noen bekymringer knyttet til KI?
Svar: Bekymringer inkluderer potensialet for jobbfordeling, spredning av feilinformasjon og trusler mot menneskeheten.
Spørsmål: Tror folk at gjeldende reguleringer er tilstrekkelige for å sikre sikker bruk av KI?
Svar: Ifølge en rapport fra KPMG i 2023 tror bare to av fem personer at gjeldende reguleringer er tilstrekkelige.
Spørsmål: Hvem er Paula Goldman og hva er hennes rolle?
Svar: Paula Goldman er sjef for etisk og human bruk hos Salesforce. Hennes rolle innebærer å sikre at teknologien som produseres av selskapet, er til nytte og samarbeider tett med ingeniører og produktledere for å identifisere potensielle risikoer og utvikle sikkerhetsmekanismer.
Spørsmål: Hva er betydningen av å harmonisere KI-produkter med en rekke verdier?
Svar: Å harmonisere KI-produkter med en rekke verdier bidrar til å sikre etisk og human bruk. For eksempel er presisjon en viktig prinsipp for generativ KI.
Spørsmål: Hvilke selskaper har forpliktet seg til KI-sikkerhetsstandarder?
Svar: Salesforce, OpenAI, Google og IBM er blant selskapene som har frivillig forpliktet seg til KI-sikkerhetsstandarder.
Nøkkelord/Jargon:
KI: Kunstig intelligens, refererer til simuleringen av menneskelig intelligens i maskiner som er programmert til å tenke og lære som mennesker.
Generativ KI: KI-modeller som er i stand til å generere nytt innhold, for eksempel tekst, bilder eller videoer.
Etisk og human bruk-offiser for KI: En rolle ansvarlig for å overvåke den etiske og ansvarlige bruken av KI innenfor et selskap.
KI-hallusinasjoner: Refererer til feilaktige svar generert av KI-modeller på grunn av feil eller utdatert informasjon.
Policygruppe: Et team innen selskapet som er ansvarlig for å utvikle og implementere retningslinjer og politikk knyttet til KI-bruk.
Etiske KI-rådgivende organer: Paneler eller råd bestående av eksperter innen feltet etisk bruk av KI som gir råd til selskaper om den etiske bruken av KI.
Foreslåtte relaterte lenker:
1. KPMG
2. Salesforce
3. OpenAI
4. Google
5. IBM
The source of the article is from the blog elektrischnederland.nl