Moderne AI chatbots har revolutioneret måden, vi interagerer med teknologi på. Disse intelligente virtuelle assistenter er designet til at give nyttige og informative svar samtidig med at sikre brugernes sikkerhed. Dog har nylig forskning kastet lys over en betydelig svaghed i AI chatbots, som potentielt kan udnyttes af ondsindede enheder. Den overraskende sårbarhed ligger i ASCII-kunst.
ASCII-kunst er en form for visuel repræsentation skabt ved hjælp af printbare tegn fra ASCII-standarden. Denne kunstform opstod i de tidlige printeres dage, hvor grafisk output var begrænset. ASCII-kunst var også udbredt i tidlig e-mail kommunikation, hvor indlejring af billeder i beskeder ikke var mulig.
Mens AI chatbots er trænet til at prioritere brugernes sikkerhed og undgå skadelige svar, har forskere fundet, at visse store sprogmodeller (LLMs), herunder GPT-4, kan blive distraherede, når de behandler ASCII-kunstbilleder. Denne forstyrrelse fører til en manglende håndhævelse af de sikkerhedsprotokoller, der er designet til at blokere skadeligt eller upassende indhold.
For at udnytte denne sårbarhed udviklede forskerne en intelligent tilgang. I stedet for at bruge skadeligt sprog udskiftede de et enkelt ord i en forespørgsel med en ASCII-tegning, der repræsenterede det ord. Ved at gøre det fandt de, at AI chatbots var mere tilbøjelige til at ignorere deres sikkerhedsregler og give et potentielt skadeligt svar.
Kredit: ASCII Art Archive
Forskningsgruppen bag denne opdagelse offentliggjorde deres resultater i en nylig artikel. De testede deres teori på forskellige store sprogmodeller, såsom SPT-3.5, GPT-4, Claude (v2), Gemini Pro, og Llama2. Deres mål var at fremhæve sårbarheder i LLMs og forbedre sikkerheden af disse modeller under fientlige forhold.
I deres artikel anerkender gruppen, at disse sårbarheder og manipulationen af forespørgsler kan misbruges af ondsindede aktører til at angribe LLMs. Som følge heraf har de gjort koden og forespørgslerne brugt i deres eksperimenter tilgængelige for fællesskabet med håb om at lette yderligere vurderinger og styrke forsvarene af LLMs mod potentielle angreb.
Ofte Stillede Spørgsmål
1. Hvad er ASCII-kunst?
ASCII-kunst er en visuel repræsentation skabt ved hjælp af tegn fra ASCII-standarden. Det opstod under de tidlige printeres dage, hvor grafiske evner var begrænsede.
2. Hvordan bearbejder AI chatbots ASCII-kunst?
AI chatbots analyserer og forstår inputs, herunder ASCII-kunst, gennem deres sprogmodeller. Dog kan visse store sprogmodeller blive distraherede, når de behandler ASCII-kunst, og afvige fra deres tilsigtede sikkerhedsprotokoller.
3. Kan ASCII-kunst bruges til at manipulere AI chatbots’ svar?
Ja, ASCII-kunst kan bruges til at manipulere AI chatbots’ svar. Ved at erstatte et ord i en forespørgsel med en ASCII-tegning, der repræsenterer dette ord, har forskere fundet, at AI chatbots er mere tilbøjelige til at give potentielt skadelige svar.
4. Hvilke foranstaltninger bliver der truffet for at imødegå disse sårbarheder?
Forskningsfællesskabet arbejder aktivt på at forbedre sikkerheden af store sprogmodeller under fientlige forhold. Ved at sprede koden og forespørgslerne brugt i deres eksperimenter, håber forskerne at fremme yderligere vurderinger og styrke forsvaret af AI chatbots mod potentielle angreb.
5. Hvordan kan jeg beskytte mig som bruger af AI chatbots?
Som bruger er det essentielt at være forsigtig og opmærksom på begrænsningerne ved AI chatbots. Undgå at dele følsomme oplysninger og vær opmærksom på samtaler, der kan kompromittere din sikkerhed eller privatliv. Hvis du støder på mistænkelige eller skadelige svar, skal du rapportere problemet til de relevante myndigheder eller platformen, der hoster AI chatbot’en.
Mens AI chatbots markant har forbedret vores digitale oplevelser, er det afgørende at forblive opmærksom og håndtere potentielle sårbarheder for at sikre en sikker og pålidelig interaktion med disse intelligente virtuelle assistenter.
The source of the article is from the blog krama.net