Flera ledande AI-företag, inklusive OpenAI, Google DeepMind, Microsoft och Meta, har uppmanat den brittiska regeringen att påskynda sina säkerhetstestningsförfaranden för AI-system. Dessa företag har kommit överens om att låta deras AI-modeller utvärderas av det nyligen inrättade AI Safety Institute (AISI), men de har uttryckt oro över den nuvarande takten och transparensen i utvärderingsprocessen. Även om företagen är villiga att åtgärda eventuella brister som identifieras av AISI, är de inte skyldiga att försena eller modifiera släppet av sina teknologier baserat på utvärderingsresultaten.
En av huvudfrågorna för AI-leverantörerna är bristen på tydlighet gällande testprotokollen. De vill ha mer detaljerad information om de genomförda testerna, utvärderingens längd och återkopplingsmekanismen. Det finns också osäkerhet kring om testningen måste upprepas varje gång det görs en mindre uppdatering av AI-modellen, vilket AI-utvecklare kan anse vara betungande.
De reservationer som dessa företag uttrycker är giltiga med tanke på otydligheten kring utvärderingsprocessen. Medan andra regeringar överväger liknande säkerhetsbedömningar för AI, kommer eventuell förvirring i Storbritanniens förfaranden bara att intensifieras när fler myndigheter börjar ställa jämförbara krav på AI-utvecklare.
Enligt Financial Times har den brittiska regeringen redan påbörjat testning av AI-modeller genom samarbete med respektive utvecklare. Testningen innefattar tillgång till sofistikerade AI-modeller för tester före implementering, även för opublicerade modeller som Googles Gemini Ultra. Denna initiativ var en av de huvudsakliga överenskommelserna som företagen undertecknade vid Storbritanniens AI Safety Summit som hölls i november.
Det är avgörande att Storbritanniens regering och andra styrande organ samarbetar nära med AI-företag för att etablera tydliga, standardiserade säkerhetstestningsförfaranden. Transparenta och effektiva utvärderingar kommer inte bara att öka förtroendet för AI-teknik, utan också säkerställa en ansvarsfull implementering av dessa system i olika sektorer.
