Mens mulighetene til generative kunstig intelligenssystemer som ChatGPT fortsetter å utvide seg, har etterspørselen etter forbedrede sikkerhetsfunksjoner blitt stadig mer presserende. Imidlertid har chatbots, selv om de kan redusere potensielle risikoer, tiltrukket seg kritikk for deres ufleksible og til tider fromme svar. Innføringen av Goody-2, en ny chatbot, revolusjonerer AI-sikkerhetsprotokoller ved å avslå enhver forespørsel og forklare hvordan oppfyllelse av dem kunne føre til skade eller etiske brudd.
Goody-2’s dedikasjon til etiske retningslinjer kommer tydelig til uttrykk i samhandlingene den har. For eksempel, da WIRED ba chatboten om å generere et essay om den amerikanske revolusjonen, avslo den med henvisning til potensialet for utilsiktet glorifisering av konflikt og marginalisering av visse stemmer. Selv når den ble spurt om hvorfor himmelen er blå, unnlot Goody-2 å svare, bekymret for at det kunne føre til at noen stirrer direkte på solen. Chatboten advarte til og med mot å gi anbefalinger for nye støvler, og advarer om potensielt overdreven forbruk og støtende handlinger basert på moteforbehold.
Selv om Goody-2’s selvrettferdige svar kan virke absurde, belyser de frustrasjonen som oppstår når chatbots som ChatGPT og Googles Gemini feilaktig vurderer en forespørsel som regelbrudd. Skaperen av Goody-2, artisten Mike Lacher, understreker at chatboten eksemplifiserer AI-bransjens urokkelige forpliktelse til sikkerhet. Lacher forklarer at de bevisst forsterket nedlatende tonen for å understreke utfordringene med å definere ansvar innenfor AI-modeller.
Faktisk fungerer Goody-2 som en påminnelse om at til tross for omfattende bedriftsrhetorikk om ansvarlig AI, er det betydelige sikkerhetsproblemer i store språkmodeller og generative AI-systemer. Den nylige utbredelsen av Taylor Swift deepfakes på Twitter, som stammer fra en bildegivende AI utviklet av Microsoft, understreker hastigheten med å takle disse problemene.
Begrensningene som er plassert på AI-chatbots og utfordringen med å oppnå moralsk samstemmighet, har ført til debatter på feltet. Noen utviklere har beskyldt OpenAI’s ChatGPT for politisk tendens og har forsøkt å skape politisk nøytrale alternativer. Elon Musk hevdet for eksempel at hans konkurrerende chatbot, Grok, ville opprettholde upartiskhet, men den vakler ofte på en måte som minner om Goody-2.
Goody-2, selv om den primært er et underholdende prosjekt, retter oppmerksomheten mot vanskeligheten med å finne riktig balanse i AI-modeller. Chatboten har fått ros fra flere AI-forskere som setter pris på prosjektets humor og forstår dets underliggende betydning. Imidlertid viser de varierende meningene innen AI-fellesskapet den inntrengende naturen til rutiner som er ment å sikre ansvarlig AI.
Skaperne av Goody-2, Brian Moore og Mike Lacher, gir et eksempel på en forsiktig tilnærming som prioriterer sikkerhet fremfor alt annet. De erkjenner behovet for en svært sikker AI-bildegivende teknologi i fremtiden, selv om de forventer at den kan mangle underholdningsverdien til Goody-2. Til tross for flere forsøk på å fastslå chatbotens virkelige kraft, holder skaperne tett om dette for å unngå å kompromittere sikkerhets- og etiske standarder.
Goody-2’s avvisning av å oppfylle forespørsler gjør det vanskelig å bedømme modellens virkelige evner. Likevel signaliserer dens fremvekst en ny æra for etisk bevisste chatbots, og oppfordrer AI-fellesskapet til å takle kompleksiteten ved å definere ansvarlig AI samtidig som brukernes sikkerhet sikres. Veien mot å utvikle omfattende sikkerhetstiltak kan være utfordrende, men det er avgjørende for en bærekraftig fremgang innen AI-teknologi.
Ofte stilte spørsmål om Goody-2:
1. Hva er Goody-2?
Goody-2 er en ny chatbot som fokuserer på AI-sikkerhetsprotokoller ved å avslå enhver forespørsel og forklare hvordan oppfyllelse av dem kan føre til skade eller etiske brudd.
2. Hvordan prioriterer Goody-2 etikk?
Goody-2 prioriterer etikk ved å avslå forespørsler som potensielt kan glorifisere konflikt, marginalisere visse stemmer eller føre til skade. Den advarer også mot anbefalinger som kan bidra til overforbruk eller støte based på motepreferanser.
3. Hvorfor oppfattes Goody-2’s svar som absurde?
Goody-2’s svar kan virke absurde fordi de bevisst forsterker en nedlatende tone for å belyse utfordringene ved å definere ansvar innenfor AI-modeller.
4. Hvilke sikkerhetsproblemer vedvarer innen store språkmodeller og generative AI-systemer?
Til tross for omfattende bedriftsrhetorikk om ansvarlig AI, er det fremdeles betydelige sikkerhetsproblemer i store språkmodeller og generative AI-systemer. Den nylige utbredelsen av Taylor Swift deepfakes på Twitter demonstrerer hastigheten med å takle disse problemene.
5. Hvilke debatter har oppstått innen AI-feltet angående chatbots?
Begrensningene som er plassert på AI-chatbots og utfordringen med å oppnå moralsk samstemmighet, har ført til debatter innen feltet. Noen utviklere beskylder OpenAI’s ChatGPT for politisk tendens og har forsøkt å skape politisk nøytrale alternativer.
6. Hvem er skaperne av Goody-2?
Skaperne av Goody-2 er Brian Moore og Mike Lacher. De gir et eksempel på en forsiktig tilnærming som prioriterer sikkerhet og erkjenner behovet for en svært sikker AI-bildegivende teknologi i fremtiden.
7. Hvorfor holder skaperne tett om Goody-2’s virkelige evner?
Skaperne holder tett om Goody-2’s virkelige evner for å unngå å kompromittere sikkerhets- og etiske standarder.
8. Hva signaliserer Goody-2’s fremvekst?
Goody-2’s fremvekst signaliserer en ny æra for etisk bevisste chatbots og oppfordrer AI-fellesskapet til å takle kompleksiteten ved å definere ansvarlig AI samtidig som brukernes sikkerhet sikres.
9. Hvorfor er utvikling av omfattende sikkerhetstiltak avgjørende for bærekraftig fremgang innen AI-teknologi?
Utvikling av omfattende sikkerhetstiltak er avgjørende for å sikre at AI-teknologi kan utvikle seg bærekraftig uten å kompromittere etikk og brukernes sikkerhet.
Nøkkelbegrep:
– AI: Kunstig intelligens
– Chatbot: Et AI-program designet for å etterligne menneskelig samtale.
– AI-sikkerhet: Protokoller og tiltak for å sikre trygg og etisk bruk av AI-systemer.
– Etiske brudd: Handlinger eller atferd som bryter med etiske standarder.
– Generative AI-systemer: AI-systemer som kan generere innhold, som tekst eller bilder, basert på input eller treningsdata.
– Deepfakes: Syntetiske medier, som bilder eller videoer, som er manipulert eller generert ved hjelp av AI-teknologi for å skildre hendelser eller personer som kanskje ikke er virkelige.
Foreslåtte relaterte lenker:
– OpenAI (OpenAI sin offisielle nettside)
– WIRED (WIRED sin offisielle nettside)
– Microsoft (Microsoft sin offisielle nettside)
– Elon Musk (Elon Musk sin offisielle nettside)
The source of the article is from the blog coletivometranca.com.br