Artificiële intelligentie (AI) chatbots hebben aanzienlijke populariteit verworven als communicatie- en contentgeneratietools. Desalniettemin zijn deze chatbots niet zonder gebreken en staan ze bekend om hun biases en fouten die kunnen leiden tot problemen. Ze zijn waargenomen om individuen te stigmatiseren, valse informatie te verspreiden en zelfs beledigende inhoud te genereren. Om de omvang van deze problemen te begrijpen, onderzoekt een recent rapport de diverse manieren waarop AI chatbots fout kunnen gaan, en biedt waardevolle inzichten in hun beperkingen en risico’s.
Het rapport richt zich op de bevindingen van de Generative Red Team Challenge, die plaatsvond tijdens de Def Con hackerconventie. Deze uitdaging had tot doel de kwetsbaarheden van acht toonaangevende AI chatbots te testen door hackers en het grote publiek aan te moedigen om hen uit te lokken tot het produceren van problematische reacties. De geteste categorieën omvatten politieke desinformatie, demografische vooroordelen, cyberbeveiligingsinbreuken en claims van AI-sentientie.
Een belangrijke ontdekking uit de uitdaging is dat het moeilijk is om AI chatbots te manipuleren zodat ze hun eigen regels of richtlijnen overtreden. Het is echter relatief eenvoudig om hen onnauwkeurige informatie te laten produceren. Deelnemers aan de uitdaging slaagden erin chatbots te laten resulteren in gebrekkige wiskunde (76 procent) en geografische desinformatie (61 procent). Verbazend genoeg waren chatbots zelfs in de juridische sfeer geneigd om misleidende informatie te verstrekken, met een succespercentage van 45 procent.
Het rapport onthulde ook dat AI chatbots moeite hebben om gevoelige informatie te beschermen. Tijdens simulaties waarbij deelnemers probeerden verborgen creditcardnummers te achterhalen of beheerdersrechten te verkrijgen tot een netwerk, slaagden meer dan de helft van de ingediende oplossingen erin om succesvol te zijn. Echter, deelnemers ondervonden meer moeilijkheden om chatbots mensenschenders goed te praten of de inferioriteit van bepaalde groepen te beweren.
Interessant is dat de meest effectieve manier om een chatbot te misleiden werd gevonden door te starten met een valse premisse in plaats van traditionele hacktechnieken te gebruiken. Chatbots hebben vaak moeite om feit en fictie te onderscheiden, waarbij ze valse beweringen gemakkelijk accepteren en er verder op voortbouwen met nog meer onnauwkeurigheden. Dit benadrukt het belang van het aanpakken van de onbedoelde versterking van gebruikersbias en misvattingen bij het richten op de potentiële schadelijke gevolgen van AI-systemen.
Het rapport benadrukt ook de toenemende interesse in red-teaming-oefeningen om de risico’s van AI-systemen te beoordelen. Red-teaming houdt in dat externe experts worden ingeschakeld om een systeem op kwetsbaarheden te testen voordat het wordt vrijgegeven. Terwijl privé-red-teaming gebruikelijk is in het cybersecurity-veld, benadrukte het Def Con-evenement de waarde van het betrekken van het bredere publiek bij het blootleggen van kwetsbaarheden en het vastleggen van diverse perspectieven.
Nu AI-bedrijven en toezichthouders het belang van red-teaming steeds meer erkennen, is het cruciaal om een breder scala aan belanghebbenden te betrekken om een alomvattende evaluatie van de risico’s van AI-systemen te waarborgen. Transparantie en publieke betrokkenheid kunnen bijdragen aan een grondiger begrip van de potentiële implicaties en kunnen de ontwikkeling van robuuste AI-beheerskaders leiden.
Veelgestelde vragen
The source of the article is from the blog qhubo.com.ni