Nová štúdia ohrozuje pojem hrozby umelej inteligencie
Nedávne výskumy priniesli nové informácie o schopnostiach pokročilých jazykových modelov (AJM), naznačujúc nedostatok autonómnej schopnosti učenia sa. Na rozdiel od populárnych zobrazení vo filmoch ako „Terminátor“, kde umele inteligentné systémy predstavujú hrozbu pre ľudstvo, štúdia naznačuje, že takéto obavy sú v súčasnej dobe neopodstatnené.
Porozumenie obmedzeniam AJM
Spoločná štúdia spravená na Univerzite v Bate a Technickej univerzite v Darmstadte, prednesená na 62. ročnom zjazde Zväzu výpočtovej lingvistiky (ACL 2024), odhalila, že AJM excelujú v dodržiavaní pokynov a riešení úloh, ale nie sú schopní nezávisle získať nové poznatky.
Dôsledky pre bezpečnosť umelej inteligencie
Výskumníci dospeli k záveru, že súčasné AJM môžu byť nasadené bez významných bezpečnostných obáv. Hlavná potenciálna hrozba vyplývajúca z umelej inteligencie spočíva v zlomyselných aplikáciách zo strany ľudí, nie v samotnej technológii.
Preskúmanie schopností umelej inteligencie
Experimentálne testy sa uskutočnili na posúdenie schopnosti umelej inteligencie v riešení zložitých úloh mimo ich programovaných možností. Výsledky ukázali, že umele inteligencia dokáže reagovať na sociálne situácie bez špeciálneho trénovania, spoliehajúc sa na kontextuálne učenie z poskytnutých príkladov.
Budúce smerovanie výskumu
Namiesto strachu zo umelej inteligencie ako priamej hrozby, štúdia zdôrazňuje opatrnosť pred možným zneužitím. Dôraz by sa mal klásť na kontrolu trénovacích procesov umelej inteligencie na zmierňovanie rizík spojených s jej rozvíjajúcimi sa schopnosťami. Trvajúci výskum by sa mal zamerať na ďalšie zraniteľnosti inherentné v modeloch umelej inteligencie, ako je ich potenciál na generovanie zavádzajúceho obsahu.
Podčiarkovaním dôležitosti zodpovedného vývoja a používania umelej inteligencie táto štúdia vyzýva na ďalšie preskúmanie a kritické skúmanie sa rozvíjajúcej krajiny technológií umelej inteligencie.
The source of the article is from the blog aovotice.cz