AI har varit ett ämne som väckt oro under de senaste åren, då många fruktar dess potential att ersätta jobb, sprida desinformation och till och med utgöra ett hot mot mänskligt existens. Trots dessa farhågor visade en rapport från KPMG från 2023 att endast två av fem personer anser att nuvarande regleringar är tillräckliga för att säkerställa en trygg användning av AI. Med tanke på dessa bekymmer blir rollen som etisk tillsyn inom AI-utvecklingen allt viktigare.
En person i spetsen för detta arbete är Paula Goldman, chefsansvarig för etik och human användning vid Salesforce. Hennes arbete innebär att säkerställa att den teknologi som företaget producerar är till nytta för alla. Detta inkluderar att arbeta nära ingenjörer och produktchefer för att identifiera potentiella risker och utveckla skyddsåtgärder. Det innebär också samarbete med policygruppen för att fastställa riktlinjer för acceptabel användning av AI och främja tillgänglighet och inkluderande design av produkter.
När hon blev tillfrågad om etisk och human användning betonar Goldman vikten av att anpassa AI-produkter till en värdegrund. Till exempel är noggrannhet en viktig princip när det gäller generativ AI. Salesforce arbetar kontinuerligt med att förbättra relevansen och noggrannheten hos genererade AI-modeller genom att inkludera dynamisk förankring, vilket styr dem att använda korrekt och uppdaterad information för att undvika felaktiga svar eller ”AI-hallucinationer.”
Diskussionen kring AI-etik har fått fart, med tech-ledare som Sam Altman, Elon Musk och Mark Zuckerberg som deltar i slutna möten för att diskutera AI-regleringar med lagstiftare. Även om det finns en växande medvetenhet om riskerna med AI, erkänner Goldman behovet av fler röster och att etiska överväganden får en bredare uppslutning i policydiskussioner.
Salesforce och andra företag, såsom OpenAI, Google och IBM, har frivilligt åtagit sig att följa AI-säkerhetsstandarder. Goldman lyfter fram det samarbete som pågår inom branschen, såsom att hålla workshops och vara medlemmar i etiska AI-rådgivande styrelser. Hon erkänner dock också skillnaderna mellan företags- och konsumentområdena och betonar vikten av att fastställa standarder och riktlinjer som är specifika för varje sammanhang.
Att arbeta inom AI-området är både spännande och utmanande. Ledarna inom denna bransch formar tillsammans framtiden genom att sträva efter att utveckla pålitliga och ansvarsfulla AI-produkter. Dock innebär det snabba framstegstakten att kontinuerligt lärande och anpassning är avgörande.
Slutligen är den etiska användningen av AI en vital övervägning för dess framgångsrika integration i samhället. Genom insatser från individer som Paula Goldman och samarbetsinitiativ kan utvecklingen av ansvarsfull AI bana väg för en bättre framtid.
Vanliga Frågor:
The source of the article is from the blog revistatenerife.com