Maskininlärning har avancerat betydligt under de senaste åren, framförallt inom området för bildigenkänning. Emellertid, liksom med alla teknologier, finns det begränsningar och utmaningar som behöver hanteras. En sådan utmaning är de oavsiktliga kopplingar och partiskheter som kan byggas in i maskinens förståelse av världen.
För att övervinna detta har forskare tagit en annan approach – att införa regler i systemet och be maskinen använda sina språktolkningsegenskaper för att avgöra om exempel passar in i dessa regler eller inte. Denna nya metod har visat lovande resultat när det gäller att kategorisera och klassificera komplex information.
Till exempel, i ett nyligen genomfört experiment, visade en maskininlärningsalgoritm en nivå av förståelse och nyans vid tolkning av olika scenarier. Den identifierade att en kvinna som kommer från en synagoga kan vara judisk, och att att riva ner posters av israeler som hålls i Gaza kan indikera partiskhet mot judar. Å andra sidan förstod den att motiv för att attackera en svart kvinna kan skilja sig från de för att attackera judiska individer. Dessa tolkningar visar potentialen hos generativ AI att förstå komplexa sammanhang.
Utöver enkla scenarier testades algoritmen också på mer intrikata instruktioner. Den fick stil- och täckningsriktlinjer från Trans Journalists Association, samt andra dokument om desinformation, och uppmanades bedöma nivån av desinformation och felaktig inramning av transrelaterade frågor i verkliga nyhetsartiklar. Algoritmen analyserade inte bara informationen i artiklarna utan identifierade även kontextuella utelämnanden. Detta visar maskinens förmåga att läsa och tolka givna regler.
Detta genombrott inom generativ AI öppnar upp en myriad av möjligheter för dess tillämpning. Till exempel skulle det kunna användas för att identifiera överträdelser av specifika riktlinjer, som t.ex. New York City Housing Authority-föreskrifter. Genom att noggrant flagga potentiella problem och kategorisera dem enligt relevanta regler, skulle denna teknologi kunna effektivisera processen för att bedöma efterlevnad.
Sammanfattningsvis, istället för att sikta på att skapa en allvetande maskin, fokuserar denna approach på att utnyttja de viktigaste förmågorna hos generativ AI för förbättrad informationstolkning och klassificering. Genom att förstå och adressera begränsningarna och partiskheterna som är inneboende i maskininlärningsalgoritmer, låser forskare upp den verkliga potentialen hos denna teknik för att förbättra mänskliga beslutsprocesser inom olika områden.
Vanliga frågor (FAQ) om Generativ AI och Informationstolkning:
1. Vad är generativ AI?
Generativ AI hänvisar till användningen av maskininlärningsalgoritmer som har tränats för att generera nytt och originalt innehåll, såsom bilder, musik eller text, baserat på mönster och exempel från befintliga data.
2. Vilka är begränsningarna och utmaningarna inom maskininlärning?
Liksom med alla teknologier har maskininlärning sina begränsningar. En utmaning är potentialen för oavsiktliga kopplingar och partiskheter som kan byggas in i maskinens förståelse av världen, vilket kan påverka dess förmåga att korrekt klassificera och tolka information.
3. Hur hanterar forskare partiskheter i maskininlärningsalgoritmer?
Forskare använder en ny metod genom att införa regler i systemet och be maskinen tolka exempel baserat på dessa regler. Genom att utnyttja språktolkningsegenskaper kan maskininlärningsalgoritmer avgöra om exempel passar in i de fördefinierade reglerna eller inte, vilket hjälper till att övervinna partiskheter och förbättra klassificeringsnoggrannheten.
4. Vad är några exempel på maskinens förmåga att förstå komplexa sammanhang?
I ett nyligen genomfört experiment visade en maskininlärningsalgoritm sin förståelse och nyans genom att korrekt tolka olika scenarier. Till exempel identifierade den att en kvinna som kommer från en synagoga kan vara judisk och att att riva ner posters av israeler som hålls i Gaza kan indikera partiskhet mot judar. Detta visar potentialen hos generativ AI att förstå komplexa sammanhang.
5. Hur kan generativ AI tillämpas i verkliga scenarier?
Generativ AI har otaliga potentiella tillämpningar. Till exempel skulle det kunna användas för att identifiera överträdelser av specifika riktlinjer, såsom bostadsföreskrifter, genom att noggrant flagga potentiella problem och kategorisera dem enligt relevanta regler. Denna teknologi har potentialen att effektivisera processer för efterlevnadsbedömning.
6. Hur bedömer algoritmen desinformation och felaktig inramning i nyhetsberättelser?
Algoritmen fick stil- och täckningsriktlinjer, samt dokument om desinformation, och uppmanades att bedöma nivån av desinformation och felaktig inramning av transrelaterade frågor i verkliga nyhetsberättelser. Den analyserade inte bara informationen i artiklarna utan identifierade även kontextuella utelämnanden, vilket visar dess förmåga att läsa och tolka givna regler.
The source of the article is from the blog enp.gr