A mesterséges intelligencia (MI) az utóbbi években aggodalom tárgya volt, sokan tartanak attól, hogy képes lesz az állások helyettesítésére, félretájékoztatás terjesztésére és akár az emberi létezés fenyegetésére is. Ezekkel az aggodalmakkal ellentétben a 2023-as KPMG jelentés szerint mindössze két ötből csak egy ember hisz abban, hogy a jelenlegi szabályozás elegendő ahhoz, hogy biztonságosan használjuk a MI-t. Ezen aggodalmak fényében az etikai felügyelet szerepe a MI fejlesztése során egyre fontosabbá válik.
Ebben az erőfeszítésben Paula Goldman, a Salesforce vezető etikai és humán felhasználású tisztviselője jár az élen. Munkája azon törekvésre irányul, hogy a vállalat által előállított technológia mindenki számára előnyös legyen. Ebben benne foglaltatik, hogy szorosan együttműködik a mérnökökkel és termékmenedzserekkel annak érdekében, hogy azonosítsa a potenciális kockázatokat és kifejlesszen védelmi intézkedéseket. Emellett közreműködik a politikai csoporttal az elfogadható MI használatra vonatkozó irányelvek kidolgozásában és a termék hozzáférhetőségének és befogadó tervezésének elősegítésében.
Amikor az etikus és humán felhasználásról kérdezik, Goldman hangsúlyozza annak fontosságát, hogy az MI termékeket értékek sorozatával harmonizálva hozzák létre. Például a generatív MI esetében az ellentmondások hiánya az egyik legfontosabb elv. A Salesforce folyamatosan dolgozik az előállított MI modellek relevanciájának és hitelességének javításán azzal, hogy beépíti a dinamikus alapozást, ami arra irányítja a modelleket, hogy helyes és naprakész információkat használjanak annak érdekében, hogy elkerüljék a helytelen válaszokat vagy az „MI hallucinációkat”.
A MI-etika körül folyó beszélgetés lendületet nyert, olyan technológiai vezetőknek mint Sam Altman, Elon Musk és Mark Zuckerberg, akik zárt ajtók mögötti találkozókon vesznek részt, hogy a törvényhozókkal tárgyaljanak a MI szabályozásáról. Bár egyre inkább felismerik a MI-vel kapcsolatos kockázatokat, Goldman elismeri az etikai szempontok szélesebb körű megvitatásához és közvéleményes elfogadáshoz szükséges több hang szükségességét a politikai megbeszélések során.
A Salesforce és más vállalatok, mint például az OpenAI, a Google és az IBM önkéntesen kötelezték el magukat a MI biztonsági szabványok mellett. Goldman hangsúlyozza az iparágon belüli együttműködést és közös erőfeszítéseket, például műhelyek szervezését és etikai MI tanácsadó testületeken való részvételt. Ugyanakkor felismeri a vállalati és fogyasztói területek közötti különbségeket és hangsúlyozza a specifikus szabványok és irányelvek meghatározásának fontosságát minden egyes kontextus esetében.
A MI területén való munka izgalmas és kihívást jelentő egyben. Ezeknek az iparágban tevékenykedő vezetőknek közös erőfeszítése révén alakul a jövő, azáltal, hogy megbízható és felelős MI-termékeket próbálnak létrehozni. Azonban a gyors fejlődés üteme azt jelenti, hogy folyamatos tanulás és alkalmazkodás nélkülözhetetlen.
Összefoglalva az MI etikus felhasználása nélkülözhetetlen szempont a sikeres társadalomba való integrációhoz. Paula Goldman és a közös kezdeményezések révén a felelős MI fejlesztése útját kikövezhetjük a jobb jövőnek.
Gyakran Ismételt Kérdések:
K: Mi néhány aggodalom forrása az MI-vel kapcsolatban?
V: Az aggodalmak közé tartozik az állások kiiktatásának lehetősége, a félrevezető információk terjedése és az emberi létezésre jelentett fenyegetés.
K: Hisznek az emberek abban, hogy a jelenlegi szabályozások elegendőek a biztonságos MI használatához?
V: Egy 2023-as KPMG jelentés szerint mindössze két ötből csak egy ember hiszi ezt.
K: Ki Paula Goldman, és mik a feladatai?
V: Paula Goldman a Salesforce vezető etikai és humán felhasználású tisztviselője. Feladatai közé tartozik a vállalat által előállított technológia biztosítása és szoros együttműködés a mérnökökkel és termékmenedzserekkel a potenciális kockázatok azonosítása és védelmi intézkedések kidolgozása érdekében.
K: Mi az az MI-termékek értékekkel való összehangolásának fontossága?
V: Az MI-termékek értékekkel való összehangolása hozzájárul az etikus és humán felhasználáshoz. Például a generatív MI esetében az ellentmondások hiánya a legfontosabb elv.
K: Mely vállalatok vállaltak MI-biztonsági szabványokat?
V: A Salesforce, az OpenAI, a Google és az IBM vállalatok közé tartoznak azok, amelyek önkéntesen elkötelezték magukat az MI-biztonsági szabványok mellett.
Kulcsszavak/Fachargon:
MI: Mesterséges Intelligencia, az emberi intelligencia szimulációja gépekben, amelyeket az emberi gondolkodásra és tanulásra programoztak.
Generatív MI: Olyan MI modellek, amelyek képesek új tartalmak generálására, például szöveg, képek vagy videók.
MI Etikai és Humán Felhasználású Tisztviselő: Egy olyan szerep, amely felelős az MI etikus és felelős felhasználásáért a vállalaton belül.
MI hallucinációk: Az MI modellek által generált helytelen válaszokat jelenti, amelyek hibás vagy elavult információk miatt alakulnak ki.
Szabályozási csoport: Egy olyan csapat a vállalaton belül, amely felelős az MI használatával kapcsolatos irányelvek és szabályok kidolgozásáért és végrehajtásáért.
Etikai MI Tanácsadó Testületek: Olyan szakértőkből álló bizottságok vagy testületek, akik az MI etikus felhasználásával kapcsolatban tanácsokat adnak a vállalatoknak.
Javasolt Kapcsolódó Linkek:
1. KPMG
2. Salesforce
3. OpenAI
4. Google
5. IBM
The source of the article is from the blog mendozaextremo.com.ar