Kopsavilkums:
Ar ģeneratīvās inteliģences (genAI) platformu straujo attīstību arvien biežāk jauk vērtības raisa jautājumi par plašajiem valodas modeļiem (LM), kas piešķir spēkus šiem sistēmām. Lai arī LM kļūst arvien vairāk spējīgi imitēt dabisku valodu, kļūst arvien grūtāk atšķirt starp īstiem un viltotiem datiem. Lai risinātu šo jautājumu, uzņēmums Patronus AI ir izstrādājis automatizētu novērtēšanas un drošības platformu, kas palīdz uzņēmumiem droši izmantot LM. Izmantojot adversāras testus, Patronus AI rīki var atklāt nepilnības, neprecizitātes, halucinācijas un ierādījuma kļūdas LM. Uzņēmuma programmatūra, ko sauc par SimpleSafetyTests, izmanto 100 testa kategorijas, kas palīdz atklāt būtiskus drošības riskus AI sistēmās. Veicot testus ar populārām genAI platformām, Patronus AI secināja, ka četrburtu žurnālisti bija neveiksmīgi aptuveni 70% gadījumu, un veiksmes gadījumos tas bija tikai tad, ja tie saņēma konkrētus norādījumus, kur atrast attiecīgo informāciju. Šie rezultāti atklāj nepieciešamību pēc kvalitātes nodrošināšanas AI sistēmās, jo pašreizēji uzņēmumi iegulda ievērojamas resursus manuālās kļūdu noteikšanā. Papildus tam, nozares analītiķi prognozē, ka ģenAI palielināta atkarība būs likvidēt nepieciešamību pēc palielinātiem kiberdrošības pasākumiem, kas līdz 2025. gadam izraisīs 15% izmaksu pieaugumu.
Jauna AI testēšanas platforma nodrošina uzticamus rezultātus:
The source of the article is from the blog maestropasta.cz