Eit selskap som fokuserer på kunstig intelligens og våpen-scanning, Evolv Technology, har nyleg møtt motstand for å overdrive kapasitetane til sine «intelligente» skannere. Desse skannerane er utforma for å identifisere enkeltpersonar som bærer skjulte våpen, knivar og bomber, med mål om å erstatte tradisjonelle metall-detektorar. Kritikken mot Evolv har i stigande grad auka fordi dei har kome med misvisande påstandar om effektiviteten til teknologien sin.
Ein av dei sentrale påstandane frå Evolv var at AI-våpenskanneren deira hadde vorte testa og validert av National Protective Security Authority (NPSA) i Storbritannia. Det viste seg imidlertid at NPSA ikkje utfører denne typen testing. Når konfrontert med denne informasjonen, uttalte Evolv at dei hadde oppdatert språket i ei pressemelding for å betre reflektere testprosessen, og presiserte at ein uavhengig bedrift hadde «testa og validert» teknologien deira ved å bruke NPSA-standardar. Men selskapet ansvarleg for denne testinga, Metrix NDT, motviste påstanden om at dei hadde validert systemet. Dei klargjorde at medan dei hadde testa systemet mot NPSA-spesifikasjonar, kunne dei ikkje gi verdivurderingar av resultatane.
Desse avsløringane har ført til bekymringar om nøyaktigheit og pålitelegheit til Evolv sin teknologi. Prof Marion Oswald, ein tidlegare medlem av regjeringa sitt rådgjevande styre for Data Etikk og Innovasjon, peika på behovet for nære undersøkingar og potensiell ekstra regulering av selskap som kjem med slike påstandar. Ho uttrykte uro for korleis kundar kan bli påverka, spesielt dersom det blir gjort påstandar om involveringa av offentlege organ.
Evolv sin teknologi seies å kunne oppdage «signatura» av skjulte våpen basert på faktorar som metallisk sammensetning, form og fragmentering. Selskapet har likevel møtt kritikk for mangelen på evne til konsistent å oppdage knivar og visse typar eksplosivar. Etter ein Freedom of Information-forespørsel vart det avslørt at testinga utført av ein amerikansk føretak fann ut at Evolv sin teknologi ikkje pålitelig kunne oppdage desse gjenstandane. Testarane oppfordra Evolv til å informere potensielle kundar om desse avgrensningane.
Som svar på kritikken har Evolv gjort fleire justeringar av sine påstandar. Dei har endra nettsida og misjonsuttalelse, no med fokus på å skape «tryggare opplevingar» heller enn «våpenfrie soner.» Selskapet har òg uttrykt anger for eventuelle misforståingar forårsaka av tidlegare utsegner og generalisering av evnene sine.
Desse utviklingane understrekar viktigheten av openheit og nøyaktigheit når det gjeld teknologi som har som mål å forbetra tryggleiken. Kundar og regulerande organ bør ha tilgang til påliteleg informasjon og uavhengige testrapportar for å kunne ta informerte avgjersler om effektiviteten av slike system. Berre gjennom grundige undersøkelser og rigorøs evaluering kan vi sikre tryggleiken og sikkerheten i offentlege rom.
Vanlegaste spørsmål:
1. Har Evolv sin teknologi blitt testa av den britiske regjeringa?
Sjølv om Evolv i utgangspunktet hevda at teknologien deira hadde blitt testa og validert av National Protective Security Authority (NPSA) i Storbritannia, viste det seg at NPSA ikkje utfører denne typen testing. I staden har ein uavhengig bedrift testa og validert Evolv sin teknologi ved å bruke NPSA-standardar.
2. Kan Evolv sine skannere påliteleg oppdage knivar og visse typar eksplosivar?
Testing utført av ein amerikansk føretak viste at Evolv sin teknologi ikkje konsistent kunne oppdage knivar og visse typar bomber. Selskapet har sidan gjort endringar i påstandane sine, og seier no at dei kan oppdage «mange typar knivar og nokre eksplosivar.»
3. Kva er signifikansen til desse utviklingane?
Desse utviklingane understrekar behovet for openheit, nøyaktigheit og uavhengig etterprøving av teknologi som har som mål å forbetra tryggleiken. Det er avgjerande at kundar og regulerande organ har tilgang til påliteleg informasjon og testrapportar for å kunne ta informerte avgjersler om effektiviteten av slike system. Ved å prioritere grundig evaluering kan vi sikre tryggleiken og sikkerheten i offentlege rom.
The source of the article is from the blog tvbzorg.com