Artificiell intelligens (AI) har gjort betydande framsteg på senare år, men det finns en vanlig problematik som fortsätter att hämma dess användning inom högriskområden såsom medicin och vetenskaplig forskning: bristen på förklarbarhet. Djupinlärningsalgoritmer, trots sin höga noggrannhet, fungerar som svarta lådor vilket gör det svårt att förstå hur de kommer fram till sina slutsatser.
Emellertid kan ett team från University of Texas Southwestern Medical Center ha hittat en lösning. I en studie publicerad i Nature Computational Science introducerade de en ny metod kallad ”djupdestillation” som kombinerar principer från studier av hjärnnätverk med en mer traditionell AI-ansats för att skapa ett AI-system som kan motivera sina svar.
Till skillnad från traditionella djupinlärningsalgoritmer fungerar djupdestillation mer som en forskare. Den kondenserar olika typer av information till ”nav” och översätter sedan dessa nav till kodningsriktlinjer som kan läsas av människor. Detta gör att programmerare kan förstå algoritmens slutsatser om mönster som hittats i data på vanlig engelska. Dessutom kan djupdestillation generera helt körbar programmeringskod för testning.
I tester presterade djupdestillation-AI:n bättre än av människor designade algoritmer i uppgifter som sträcker sig från svåra matematikproblem till bildigenkänning. Den kunde destillera komplex data till steg-för-steg-algoritmer som var mer noggranna än de som designats av människor. Teamet bakom forskningen noterade att djupdestillation kan upptäcka generaliserbara principer som kompletterar mänsklig expertis.
Införandet av djupdestillation inom AI-fältet bringar en ny nivå av transparens och tolkbarhet. Det gör att forskare, vårdpersonal och vetenskapsmän inte bara kan lita på AI-systemens noggrannhet utan också förstå hur de kom fram till sina slutsatser. Med denna nyvunna förklarbarhet kan djupdestillation ha betydande tillämpningar inom områden såsom medicin, där motiven bakom AI-diagnoser är avgörande för patienters tillit.
I slutändan representerar djupdestillation ett steg framåt i resan att låsa upp hela potentialen hos AI. Genom att kombinera kraften hos djupinlärningsalgoritmer med transparensen hos förklarbar AI kan forskare utnyttja AI:s verkliga förmågor och släppa dess potential för vetenskaplig upptäckt och problemlösning. Med djupdestillation blir AI en pålitlig och förståelig partner som hjälper människor att förstå komplexa data och konstruera lösningar.
The source of the article is from the blog cheap-sound.com