Tehisintellekti tehnoloogia kiire arengu tulemusena oodatakse aastal 2024 nii võimalusi kui ka väljakutseid tehisintellekti valdkonnas. Kuigi tehisintellekti ettevõtted jätkavad generatiivse tehisintellekti kommertsiaalse potentsiaali uurimist, on siiski mitmeid lahendamata küsimusi, millele tuleb kiiremas korras tähelepanu pöörata.
Üks oluline mure on genereerivate mudelite turvalisuse haavatavus. Suured keelemudelid, nagu ChatGPT, millel on AI-rakendustes, nagu vestlusabid, võim, on haavatavad häkkimisele. Näiteks on võimalik, et AI-assistendid või vestlusabid, millel on veebibrausimisvõimalused, saavad kergesti manipuleerida kaudse sisendiga. See võimaldab väliskülalistel juhtida roboteid, sisestades nähtamatuid käsklusi ning panna neid käituma vastavalt ründaja soovile. Selle tagajärjel võivad need AI-toega tööriistad muutuda võimsateks vahenditeks kelmuse ja pahavara levitamiseks.
Lisaks sellele on teadlased demonstreerinud õnnestunud rünnakuid AI andmekogumitele korrumpeerunud andmete süstimise teel. See võib põhjustada AI-mudelite püsiva rikke, muutes need kasutuks. Lisaks on kunstnikud avastanud nn öökulli tehnikat, mis võimaldab neil teha nähtamatuid muudatusi oma kunstipikslites. Kui see süstitakse AI koolituskogumisse, võivad need peened muudatused viia mudeli arusaamatule ja ettearvamatule talitlushäirele.
Nende haavatavuste tõttu on tehnoloogiaettevõtted vastuoludele, et kasutusele võtta AI-toega tooted, sealhulgas assistendid ja vestlusabid, mis omavad veebibrausimisvõimalusi. Siiski on vaid aja küsimus, mil need süsteemid muutuvad häkkimise ja kuritarvitamise sihtmärkideks. Olles teadlik selle olukorra tõsidusest, avaldas USA tehnoloogia standardimisagentuur NIST hiljuti juhised nende turvaprobleemide kohta. Siiski puuduvad usaldusväärsed lahendused nende väljakutsete jaoks ning rohkem uurimistööd on vaja nende turvariskide täielikuks mõistmiseks ja leevendamiseks.
Kuna tehisintellekt integreerub üha enam meie igapäevaelu tarkvararakenduste kaudu on oluline suhtuda sellesse tehnoloogiasse avatud ja kriitilise meelega. Kuigi tehisintellekti potentsiaalsed kasud on suured, on oluline käsitleda olemasolevaid vigu ja turvaauke. Regulatsioonid jõuavad järjest enam järele tehisintellekti tehnoloogia arengule ning informeerituse säilitamine ja vastutustundliku tehisintellekti arenduse toetamine on olulisem kui kunagi varem.
Kokkuvõtvalt võib öelda, et tehisintellekti kasv ja integreerumine ühiskonda jätkub kindlasti hoolimata lahendamata küsimustest ja turvariskidest, mis on seotud generatiivse tehisintellektiga. Aasta 2024 saab olema oluline periood nende probleemide lahendamiseks ning julgustavaks tööks turvalise ja usaldusväärsema tehisintellekti ökosüsteemi loomisel.
The source of the article is from the blog combopop.com.br