I takt med att utvecklingen av generativ AI-teknik fortsätter att framskrida, är företag som OpenAI och Google, tillsammans med andra som Anthropic, ständigt i färd med att förbättra sina stora språkmodeller. För att bedöma säkerheten hos dessa modeller har Storbritannien och USA undertecknat ett avtal för att etablera en gemensam metod för oberoende utvärdering.
Under det nybildade samarbetet kommer Storbritanniens AI Safety Institute och dess amerikanska motsvarighet, snart operativa, att samarbeta för att utveckla en serie tester för att bedöma riskerna med de mest avancerade AI-modellerna. För att säkerställa omfattande utvärderingar kommer båda organisationerna att dela teknisk kunskap, information och personal.
Ett av de initiala målen med detta partnerskap är att genomföra en gemensam testövning på en offentligt tillgänglig modell. Brådskan att agera beror på förväntningarna om en ny generation AI-modeller som förväntas dyka upp inom det kommande året, vilket potentiellt kan ha en banbrytande inverkan på olika branscher och sektorer.
Samarbetet mellan Storbritannien och USA är betydelsefullt eftersom det markerar det första bilaterala arrangemanget om AI-säkerhet. Båda länderna avser dock att utöka sina samarbeten med andra nationer i framtiden. USA:s handelsminister, Gina Raimondo, konstaterar att ”AI är den definierande teknologin för vår generation.” Detta partnerskap syftar inte bara till att minska riskerna för nationell säkerhet utan strävar också efter att säkerställa samhällets välbefinnande som helhet.
Medan fokus för detta samarbete är bedömning och utvärdering, arbetar regeringar världen över på regler för att säkerställa ansvarsfull användning av AI. I mars utfärdade Vita huset en presidentorder för att begränsa användningen av AI-verktyg inom federala myndigheter för att skydda medborgarnas rättigheter och säkerhet. På liknande sätt har Europaparlamentet godkänt omfattande lagstiftning som reglerar artificiell intelligens, vilket förbjuder åtgärder som att manipulera mänskligt beteende, utnyttja sårbarheter och ospecifik datainsamling.
När AI fortsätter att avancera kan inte betydelsen av robust utvärdering, samarbete mellan regeringar och genomförandet av regelverk för att skydda samhället överdrivas.
Vanliga frågor:
1. Vad är generativ AI?
Generativ AI hänvisar till en typ av artificiell intelligens-teknik som har förmågan att skapa originalinnehåll, såsom text, bilder eller ljud, baserat på mönster och exempel den har lärt sig.
2. Vilket syfte har det undertecknade Memorandum of Understanding av de brittiska och amerikanska regeringarna?
Memorandum of Understanding syftar till att etablera en gemensam metod för oberoende utvärdering av säkerheten hos avancerade AI-modeller. Det underlättar samarbete mellan Storbritanniens AI Safety Institute och dess amerikanska motsvarighet för att utveckla tester och bedöma riskerna med dessa modeller.
3. Varför är partnerskapet mellan Storbritannien och USA betydelsefullt?
Partnerskapet mellan Storbritannien och USA är betydelsefullt eftersom det markerar den första bilaterala överenskommelsen om AI-säkerhet. Det visar på ett engagemang för att hantera de potentiella riskerna med AI och säkerställer en bättre förståelse för AI-system, mer robusta utvärderingar och utfärdandet av rigorösa riktlinjer.
4. Finns det regler på plats för att styra användningen av AI?
Regeringar runt om i världen arbetar aktivt med regler för att styra användningen av AI. I USA har Vita huset utfärdat en presidentorder för att säkerställa ansvarsfull användning av AI-verktyg inom federala myndigheter. På samma sätt har Europaparlamentet godkänt lagstiftning för att reglera olika aspekter av artificiell intelligens.
5. Vilka åtgärder förbjuds enligt Europaparlamentets lagstiftning om AI?
Lagstiftningen som godkänts av Europaparlamentet förbjuder AI-metoder som manipulerar mänskligt beteende eller utnyttjar sårbarheter. Den förbjuder även användningen av biometriska kategoriseringssystem baserade på känsliga egenskaper samt ospecifik skrapning av ansikten från övervakningskameror och webben. Dessutom kräver lagstiftningen tydlig märkning av deepfakes och annat AI-genererat innehåll.
The source of the article is from the blog elblog.pl