Maskinlæring har udviklet sig betydeligt i de seneste år, især inden for området billedgenkendelse. Dog er der, ligesom med enhver teknologi, begrænsninger og udfordringer, der skal adresseres. En sådan udfordring er de utilsigtede forbindelser og bias, der kan indbygges i maskinens forståelse af verden.
For at overvinde dette har forskere taget en anden tilgang – ved at implementere regler i systemet og bede maskinen om at bruge sine sproglige fortolkningsfærdigheder til at afgøre, om eksempler passer ind i disse regler eller ej. Denne nye metode har vist lovende resultater i kategorisering og klassificering af kompleks information.
Eksempelvis viste et nyligt eksperiment, at en maskinlæringsalgoritme havde en vis forståelse og nuance i fortolkningen af forskellige scenarier. Den registrerede, at en kvinde, der kom fra en synagoge, kunne være jødisk, og at nedrivning af plakater med israelere i Gaza kunne indikere bias mod jøder. Omvendt forstod den, at motivationerne for at angribe en sort kvinde ikke nødvendigvis var de samme som for at angribe jødiske personer. Disse fortolkninger demonstrerer potentialet for generativ AI til at forstå komplekse kontekster.
Udover simple scenarier blev algoritmen også testet på mere komplekse instruktioner. Den blev givet stil- og dækningsretningslinjer fra Trans Journalists Association samt andre dokumenter om misinformation og blev bedt om at vurdere graden af misinformation og misfremstilling om transrelaterede emner i virkelige nyhedsartikler. Algoritmen analyserede ikke kun informationen i artiklerne, men identificerede også kontekstuelle udeladelser. Dette viser maskinens evne til at læse og fortolke givne regler.
Dette gennembrud inden for generativ AI åbner en mangfoldighed af muligheder for dets anvendelse. For eksempel kunne det anvendes til at identificere overtrædelser af specifikke retningslinjer, såsom New York City Housing Authority regler. Ved nøjagtigt at markere potentielle problemer og kategorisere dem i overensstemmelse med den relevante regel kunne denne teknologi optimere processen med at vurdere overholdelse.
Konklusionen lyder, at i stedet for at sigte mod at skabe en altvidende maskine fokuserer denne tilgang på at udnytte de vigtigste egenskaber ved generativ AI til forbedret information klassifikation og fortolkning. Ved at forstå og adressere begrænsninger og bias indbygget i maskinlæringsalgoritmer, låser forskere op for denne teknologis sande potentiale til at styrke beslutningsprocesser på tværs af forskellige domæner.
Ofte Stillede Spørgsmål (FAQ) om Generativ AI og Information Klassifikation:
1. Hvad er generativ AI?
Generativ AI henviser til brugen af maskinlæringsalgoritmer, der er trænet til at generere nyt og originalt indhold, såsom billeder, musik eller tekst, baseret på mønstre og eksempler fra eksisterende data.
2. Hvad er begrænsningerne og udfordringerne i maskinlæring?
Som med enhver teknologi har maskinlæring sine begrænsninger. En udfordring er potentialet for utilsigtede forbindelser og bias, der kan indbygges i maskinens forståelse af verden, hvilket kan påvirke dens evne til præcist at klassificere og fortolke information.
3. Hvordan håndterer forskere bias i maskinlæringsalgoritmer?
Forskere bruger en innovativ tilgang til at implementere regler i systemet og beder maskinen om at fortolke eksemplerne ud fra disse regler. Ved at udnytte sproglige fortolkningsfærdigheder kan maskinlæringsalgoritmer afgøre, om eksempler passer ind i de foruddefinerede regler eller ej, hvilket hjælper med at overvinde bias og forbedre klassifikationsnøjagtigheden.
4. Hvad er nogle eksempler på maskinens evne til at forstå komplekse kontekster?
I et nyligt eksperiment demonstrerede en maskinlæringsalgoritme sin forståelse og nuance ved korrekt at fortolke forskellige scenarier. For eksempel registrerede den, at en kvinde, der kom fra en synagoge, kunne være jødisk, og at nedrivning af plakater med israelere i Gaza kunne indikere bias mod jøder. Dette viser potentialet for generativ AI til at forstå komplekse kontekster.
5. Hvordan kan generativ AI anvendes i virkelige scenarier?
Generativ AI har talrige potentielle anvendelsesmuligheder. For eksempel kunne det bruges til at identificere overtrædelser af specifikke retningslinjer, såsom boligregler, ved nøjagtigt at markere potentielle problemer og kategorisere dem i overensstemmelse med den relevante regel. Denne teknologi har potentiale til at optimere processerne for overholdelsesvurdering.
6. Hvordan vurderer algoritmen misinformation og misfremstilling i nyhedsartikler?
Algoritmen blev givet stil- og dækningsretningslinjer samt dokumenter om misinformation og blev bedt om at vurdere graden af misinformation og misfremstilling om transrelaterede emner i virkelige nyhedsartikler. Den analyserede ikke kun informationen i artiklerne, men identificerede også kontekstuelle udeladelser, hvilket viser dens evne til at læse og fortolke givne regler.
Definitioner:
– Maskinlæring: En gren af kunstig intelligens, der gør det muligt for computere at lære og træffe forudsigelser eller beslutninger uden at være eksplicit programmeret.
– Billedgenkendelse: Processen med at identificere og klassificere objekter eller mønstre i digitale billeder eller fotografier ved hjælp af maskinlæringsalgoritmer.
– Bias: I forbindelse med maskinlæring henviser bias til de utilsigtede præferencer eller fordomme, der kan indlejres i algoritmer, hvilket fører til uretfærdig eller unøjagtig beslutningstagning.
– Kontekstuelle udeladelser: Henviser til den information eller detaljer, der mangler eller ikke nævnes i en given kontekst eller situation.
Foreslåede relaterede links:
– nature.com/subjects/maskinlaering
– technologyreview.com/topic/maskinlaering/
– forbes.com/sites/forbestechcouncil/2021/07/20/the-limitations-of-machine-learning/
The source of the article is from the blog combopop.com.br