Belangrijke techbedrijven van over de hele wereld hebben hun krachten gebundeld om internationale normen voor AI-technologieën te ontwikkelen, een samenwerking met prominente namen zoals Ant Group, Baidu, Tencent Holdings uit China, naast OpenAI, Microsoft en Nvidia uit de Verenigde Staten. Deze consortium kondigde tijdens een zij-evenement van de United Nations Conference on Science and Technology in Genève, Zwitserland, aan dat ze twee wereldwijde standaarden hebben uitgebracht die zich richten op synthetische AI en grote taalmodellen (LLM’s).
De standaarden hebben tot doel een robuust kader te bieden voor het valideren en beveiligen van synthetische AI-toepassingen, die steeds alomtegenwoordiger worden in diensten zoals OpenAI’s ChatGPT en de Copilot van Microsoft. Voordat dit gebeurde, lanceerde Baidu zijn eigen AI-chatbot, Ernie Bot, terwijl Tencent en Ant hun respectieve LLM’s introduceerden. Een gezamenlijke inspanning van onderzoekers van Nvidia, Meta Platforms en andere bedrijven heeft geleid tot de standaard GenAI, die ook wordt gesteund door bedrijfsgiganten zoals Amazon, Google en Microsoft.
De tweede standaard, opgesteld door 17 personeelsleden van Ant Group, beschrijft een reeks verschillende aanvalsmethoden om de veerkracht van grote taalmodellen tegen hacken te testen. Deze richtlijnen zijn beoordeeld door Nvidia, Microsoft en Meta Platforms, onder anderen.
In een snel evoluerende AI-omgeving benadrukken technologiebeheerders het belang van grondige veiligheidsmaatregelen. Sam Altman, CEO van OpenAI, benadrukte de prioriteit van investeren in veiligheidsprotocollen voor het gebruik van AI-toepassingen. Bovendien volgt deze stap op de recente regelgeving van China over GenAI en gerelateerde diensten om naleving van kernwaarden van de samenleving te waarborgen. Internationale AI-regelgeving, waaronder de in 2021 door 193 lidstaten aangenomen “Aanbeveling over de ethiek van AI” van UNESCO, dateert van vóór de populariteit van GenAI en benadrukt de lopende wereldwijde discussie over AI-governance. Deskundigen voorspellen dat de betrokkenheid van deze toonaangevende bedrijven uit de sector de beheersing van AI-technologie aanzienlijk zal veranderen, wat de ambitieuze vooruitgang van China in de wereldwijde AI-race weerspiegelt.
Belangrijke Vragen en Antwoorden:
V: Waarom is er behoefte aan internationale normen voor AI-technologieën?
A: Naarmate AI-technologieën zoals synthetische AI en LLM’s steeds belangrijker worden voor verschillende branches, is er een groeiende behoefte om ervoor te zorgen dat deze systemen veilig, betrouwbaar en in overeenstemming met ethische overwegingen zijn. Internationale normen helpen bij het creëren van een samenhangend kader dat de ontwikkeling, implementatie en het beheer van AI-toepassingen kan leiden, waardoor deze veilig zijn en wereldwijd de beste praktijken volgen.
V: Met welke uitdagingen worden geconfronteerd bij het opstellen van normen voor AI-beveiliging en -tests?
A: Een van de belangrijkste uitdagingen is het snelle tempo van de technologische vooruitgang van AI, dat mogelijk sneller gaat dan de snelheid waarmee normen worden ontwikkeld en geïmplementeerd. Een andere uitdaging is het bereiken van consensus tussen verschillende belanghebbenden met uiteenlopende prioriteiten en waarden. Bovendien kunnen er discrepanties zijn in handhaving en naleving van normen tussen verschillende landen en organisaties.
V: Welke controverses zijn verbonden met AI en het vaststellen van internationale normen?
A: Enkele van de controverses zijn bezorgdheid over privacy, mogelijke vooroordelen in AI-systemen, het waarborgen van eerlijke toegang tot technologie en de impact van AI op werkgelegenheid. Er is ook debat over wie de normen zou moeten stellen – of dit de industrieactoren, overheden of internationale instanties zouden moeten zijn – en hoe verschillende culturele en ethische perspectieven op AI-governance met elkaar verzoend kunnen worden.
V: Wat zijn de voordelen van het vaststellen van internationale normen voor AI-beveiliging en -tests?
A: Het bevordert vertrouwen en samenwerking tussen techbedrijven en gebruikers, zorgt voor een basisniveau van beveiliging tegen kwaadwillig gebruik van AI, vergemakkelijkt regelgevende naleving, stelt een norm vast voor kwaliteit en veiligheid, en kan helpen bij het beperken van risico’s zoals de verspreiding van door AI gegenereerde misinformatie.
V: Wat zijn de nadelen?
A: Internationale normen kunnen complex en kostbaar zijn om te implementeren, vooral voor kleinere bedrijven. Er kan weerstand zijn van bedrijven die hun bedrijfsinformatie niet willen delen. Te specifieke normen kunnen innovatie belemmeren, en er kunnen ook juridische en logistieke uitdagingen zijn bij het synchroniseren van normen over verschillende juridische rechtsgebieden.
Belangrijkste Uitdagingen en Controverses:
– De snelle vooruitgang van AI-technologieën bijbenen.
– Innovatie in evenwicht brengen met de behoefte aan veiligheid en ethische overwegingen.
– Omgaan met culturele verschillen en uiteenlopende perspectieven op privacy en gegevensbeheer.
– Zorgen voor de deelname van een diverse groep belanghebbenden en het vermijden van dominantie door enkele machtige techbedrijven.
– Omgaan met mogelijke vooroordelen in AI en ervoor zorgen dat AI-toepassingen eerlijk zijn en geen maatschappelijke ongelijkheden versterken.
Voordelen:
– Verbeterde beveiliging en betrouwbaarheid van AI-systemen.
– Verbeterd vertrouwen van consumenten in AI-toepassingen.
– Stimuleren van internationale samenwerking en kennisdeling.
– Duidelijkheid en begeleiding bieden voor AI-ontwikkelaars en -gebruikers.
– Ondersteuning bieden voor ethische ontwikkeling en gebruik van AI.
Nadelen:
– Mogelijkheid om innovatie te beperken als normen te restrictief zijn.
– Moeilijkheid om wereldwijde naleving en handhaving te garanderen.
– Beperkingen van middelen voor kleinere entiteiten om aan internationale normen te voldoen.
– Het risico dat normen kunnen worden beïnvloed door de belangen van de machtigste bedrijven of landen.
Relevante Links:
Dit zijn enkele links naar de belangrijkste domeinen van organisaties die verband kunnen houden met internationale AI-normen:
– UNESCO
– OpenAI
– Microsoft
– Nvidia
De hierboven verstrekte URL’s zijn de hoofddomeinen van de respectievelijke organisaties, die zijn geverifieerd op het moment van schrijven.
The source of the article is from the blog oinegro.com.br