De ontdekking van een kwetsbaarheid in AI chatbotgesprekken heeft bezorgdheid gewekt over de veiligheid en privacy van deze interacties. Deze kwetsbaarheid, bekend als een “side-channel aanval,” stelt hackers in staat om te spioneren op privéchats en mogelijk gevoelige informatie te verkrijgen. In tegenstelling tot traditionele hackmethoden vertrouwen side-channel aanvallen op passieve inferentie van gegevens met behulp van metadata of andere indirecte blootstellingen.
De encryptiepraktijken die door AI-chatbots worden gebruikt, maken ze bijzonder vatbaar voor side-channel aanvallen. Hoewel encryptie wordt gebruikt om chatbotverkeer te beschermen, suggereert het onderzoek dat de encryptiemethoden die worden gebruikt gebrekkig zijn. Als gevolg daarvan kunnen privéberichten die met AI-chatbots worden uitgewisseld, worden blootgesteld aan potentiële meeluisteraars.
Aanvallers kunnen deze kwetsbaarheid gebruiken om de aan AI-chatbots gegeven prompts met een aanzienlijke nauwkeurigheid te infereren. De onderzoekers ontdekten dat gevoelige vragen die aan AI-chatbots werden gesteld, met ongeveer 55 procent nauwkeurigheid door kwaadwillende actoren konden worden gedetecteerd. Dit vormt een ernstige bedreiging voor de privacy en veiligheid van gebruikers.
Het is belangrijk om op te merken dat deze kwetsbaarheid zich uitstrekt tot verder dan OpenAI. Volgens het onderzoek zijn de meeste chatbots op de markt, met uitzondering van Google’s Gemini, vatbaar voor dit soort aanvallen. Het probleem ligt in het gebruik van gecodeerde gegevens, bekend als “tokens,” door chatbots om een soepele gespreksstroom mogelijk te maken. Hoewel het leveringsproces over het algemeen versleuteld is, creëren de tokens zelf een zijdelings kanaal waardoor aanvallers toegang kunnen krijgen en de aan de chatbot gegeven prompts kunnen afleiden.
Om het exploit te demonstreren, gebruikten de onderzoekers van Ben-Gurion verworven gegevens via de zijdelingse aanval en trainden een taalmodel om trefwoorden te identificeren die verband houden met de prompts. De resultaten waren verontrustend, met het taalmodel dat de algemene prompts met 50 procent nauwkeurigheid en met opmerkelijke precisie 29 procent van de tijd kon afleiden.
De implicaties van deze kwetsbaarheid zijn diepgaand zorgwekkend, vooral in de context van gevoelige onderwerpen zoals abortus of LGBTQ-kwesties. Mensen die via AI-chatbots informatie of ondersteuning zoeken, kunnen zich onbedoeld blootstellen aan schade of straf.
Microsoft, de eigenaar van OpenAI en Copilot AI, heeft de kwetsbaarheid erkend en is toegewijd om het probleem aan te pakken met een update om gebruikers te beschermen. Ze verzekeren gebruikers echter dat persoonlijke gegevens, zoals namen, naar verwachting niet worden voorspeld. Desalniettemin benadrukt dit incident de noodzaak voor zowel AI-ontwikkelaars als gebruikers om de beveiliging en privacy van AI-chatbotgesprekken te prioriteren.
Om het risico van side-channel aanvallen te minimaliseren, moeten robuuste encryptiemethoden worden geïmplementeerd.
FAQ:
- Vraag: Wat zijn side-channel aanvallen?
- Antwoord: Side-channel aanvallen omvatten passieve inferentie van gegevens door het exploiteren van metadata of andere indirecte blootstellingen, in plaats van het schenden van beveiligingsfirewalls.
- Vraag: Hoe zijn AI-chatbots kwetsbaar voor side-channel aanvallen?
- Antwoord: De encryptiemethoden van AI-chatbots, gebruikt om verkeer te beschermen, zijn gebrekkig gebleken, waardoor potentiële meeluisteraars toegang kunnen krijgen tot de inhoud van privéberichten.
- Vraag: Kunnen andere chatbots op dezelfde manier worden misbruikt?
- Antwoord: Ja, de meeste chatbots op de markt, met uitzondering van Google’s Gemini, zijn vatbaar voor side-channel aanvallen.
- Vraag: Hoe kunnen side-channel aanvallen worden voorkomen?
- Antwoord: AI-ontwikkelaars moeten robuuste encryptiemethoden implementeren om het risico van side-channel aanvallen te verminderen en de privacy van gebruikers te beschermen.
- Vraag: Wat is de betekenis van deze kwetsbaarheid?
- Antwoord: De kwetsbaarheid legt gevoelige informatie bloot die wordt uitgewisseld met AI-chatbots, wat potentieel kan leiden tot schade of straf in gevallen van gevoelige onderwerpen.
The source of the article is from the blog publicsectortravel.org.uk