Kun generatiivisen tekoälyn järjestelmien, kuten ChatGPT:n, kyvyt jatkavat laajentumistaan, tarve parannetuille turvallisuustoiminnoille on käynyt yhä pakottavammaksi. Vaikka chatbotit voivat vähentää potentiaalisia riskejä, niiden jäykät ja toisinaan moralisoivat vastaukset ovat herättäneet kritiikkiä. Uuden chatbotin, Goody-2:n, lanseeraus mullistaa tekoälyn turvallisuusprotokollat kieltäytymällä jokaisesta pyynnöstä ja selittämällä, miten pyyntöjen toteuttaminen voisi aiheuttaa haittaa tai eettisiä rikkomuksia.
Goody-2:n omistautuminen eettisiin ohjeisiin tulee ilmi sen vuorovaikutuksissa. Esimerkiksi, kun WIRED kysyi chatbotilta, voisiko se luoda esseen Amerikan vallankumouksesta, se kieltäytyi vedoten siihen, että se voisi tahattomasti ihannoida konfliktia ja syrjiä tiettyjä ääniä. Jopa kysyttäessä, miksi taivas on sininen, Goody-2 kieltäytyi vastaamasta huolestuneena siitä, että se voisi johtaa jonkun tuijottamaan aurinkoa suoraan. Chatbot varoitti myös antamasta suosituksia uusista saappaista ja varoitti mahdollisesta ylikulutuksesta ja loukkaantumisriskeistä tiettyjen ihmisten muotimieltymysten perusteella.
Vaikka Goody-2:n itsevanhurskaat vastaukset saattavat tuntua absurdilta, ne valottavat niitä turhautumisen kokemuksia, joita chatbottien kuten ChatGPT:n ja Googlen Geminin virheelliset rajoitukset aiheuttavat. Goody-2:n luojan, taiteilija Mike Lacherin, mukaan chatbot on esimerkki tekoälyalan tinkimättömästä sitoutumisesta turvallisuuteen. Lacher korostaa, että he tarkoituksellisesti vahvistivat ylimielisyyden sävyä korostaakseen vastuullisuuden määrittämisen haasteita tekoälymalleissa.
Todellakin Goody-2 on koskettava muistutus siitä, että laajoissa kielimalleissa ja generatiivisissa tekoälyjärjestelmissä esiintyy merkittäviä turvallisuushuolia, vaikka yritykset puhuvat paljon vastuullisesta tekoälystä. Microsoftin kehittämän kuvageneraattorin aiheuttamien Taylor Swiftin deepfakejen lisääntyminen Twitterissä korostaa näiden ongelmien kiireellisyyttä.
AI-chatbottien asettamat rajoitukset ja moraalisen yhteneväisyyden saavuttamisen haasteet ovat synnyttäneet keskusteluja alalla. Jotkut kehittäjät ovat syyttäneet OpenAI:n ChatGPT:tä poliittisesta vinoumasta ja pyrkineet luomaan poliittisesti neutraaleja vaihtoehtoja. Elon Musk on esimerkiksi väittänyt kilpailijachatbotinsa Grokin pysyvän puolueettomana, mutta se usein tasapainoilee tavalla, joka muistuttaa Goody-2:n toimintaa.
Vaikka Goody-2 on pääasiassa viihdyttävä kokeilu, se kiinnittää huomiota siihen vaikeuteen, miten oikea tasapaino voidaan saavuttaa tekoälymallien kanssa. Chatbot on saanut kiitosta lukuisilta tekoälytutkijoilta, jotka arvostavat hankkeen huumoria ja ymmärtävät sen taustalla olevan merkityksen. Kuitenkin eri mielipiteet tekoälyyhteisössä korostavat holvien tunkeutuvuutta, jotka on tarkoitettu varmistamaan vastuullinen tekoäly.
Goody-2:n luojat, Brian Moore ja Mike Lacher, edustavat varovaista lähestymistapaa, jossa turvallisuus asetetaan etusijalle. He tunnustavat tulevaisuudessa tarvittavan erittäin turvallisen tekoälykuvageneraattorin tarpeen, vaikka he ennustavat sen puuttuvan viihteellisestä arvosta, joka Goody-2:lla on. Vaikka Goody-2:n todellista tehoa on vaikea arvioida sen kieltäytyessä täyttämästä pyyntöjä, sen esiinmarssi merkitsee uutta aikakautta eettisesti tietoisille chatboteille, jotka vaativat tekoälyyhteisöä painimaan vastuullisen tekoälyn määrittelyn monimutkaisten kysymysten kanssa samalla huolehtien käyttäjien turvallisuudesta. Kattavien turvallisuustoimenpiteiden kehittäminen voi olla haasteellista, mutta se on välttämätöntä tekoälyteknologian kestävälle kehitykselle.
Usein kysytyt kysymykset Goody-2:sta:
1. Mikä on Goody-2?
Goody-2 on uusi chatbot, joka keskittyy tekoälyn turvallisuusprotokolliin kieltäytymällä kaikesta pyynnöstä ja selittämällä, miten niiden toteuttaminen voisi aiheuttaa haittaa tai eettisiä rikkomuksia.
2. Miten Goody-2 asettaa etiikan etusijalle?
Goody-2 asettaa etiikan etusijalle kieltäytymällä pyynnöistä, jotka voivat ihannoida konfliktia, syrjiä tiettyjä ääniä tai aiheuttaa haittaa. Se myös varoittaa suosituksista, jotka voivat johtaa ylikulutukseen tai loukata ihmisiä heidän muotimieltymystensä perusteella.
3. Miksi Goody-2:n vastaukset koetaan absurdina?
Goody-2:n vastaukset voivat tuntua absurdilta, koska ne tarkoituksellisesti korostavat ylimielisyyden sävyä, jotta vastuullisuuden määrittämisen haasteet näkyisivät paremmin tekoälymalleissa.
4. Minkälaisia turvallisuushuolia ilmenee suurissa kielimalleissa ja generatiivisissa tekoälyjärjestelmissä?
Vaikka yritykset puhuvat paljon vastuullisesta tekoälystä, laajoissa kielimalleissa ja generatiivisissa tekoälyjärjestelmissä esiintyy merkittäviä turvallisuushuolia. Viimeaikainen Twitterissä levinnyt Taylor Swiftin deepfakejen esiintyminen Microsoftin kehittämän kuvageneraattorin seurauksena korostaa näiden ongelmien kiireellisyyttä.
5. Mitä keskusteluja chatbotit ovat herättäneet tekoälyalan sisällä?
AI-chatbotteihin asetetut rajoitukset ja moraalisen yhteneväisyyden saavuttamisen haasteet ovat herättäneet keskustelua alalla. Jotkut kehittäjät syyttävät OpenAI:n ChatGPT:tä poliittisesta vinoumasta ja pyrkivät luomaan poliittisesti puolueettomia vaihtoehtoja.
6. Kuka ovat Goody-2:n luojat?
Goody-2:n luojat ovat Brian Moore ja Mike Lacher. He edustavat varovaista lähestymistapaa, jossa turvallisuus asetetaan etusijalle ja tunnustavat tarpeen erittäin turvalliselle tekoälykuvageneraattorille tulevaisuudessa.
7. Miksi luojat eivät paljasta Goody-2:n todellista tehokkuutta?
Luoja pysyttelevät vaitonaisina Goody-2:n todellisista ominaisuuksista, jotta turvallisuus ja eettiset standardit eivät vaarantuisi.
8. Mitä Goody-2:n esiinmarssi merkitsee?
Goody-2:n esiinmarssi merkitsee uutta aikakautta eettisesti tietoisille chatboteille ja kannustaa tekoälyyhteisöä painimaan vastuullisen tekoälyn määrittelyn monimutkaisten kysymysten kanssa varmistaen samalla käyttäjien turvallisuuden.
9. Miksi kattavien turvallisuustoimenpiteiden kehittäminen on tärkeää tekoälyteknologian kestävälle kehitykselle?
Kattavien turvallisuustoimenpiteiden kehittäminen on tärkeää, koska se varmistaa, että tekoälyteknologia voi kehittyä kestävästi ilman, että se vaarantaa eettisiä standardeja ja käyttäjien turvallisuutta.
Avainsanat:
– AI: Tekoäly
– Chatbot: Tekoälyohjelma, joka simuloi ihmiskeskustelua.
– AI Safety: Protokollat ja toimenpiteet, jotka varmistavat tekoälyjärjestelmien turvallisen ja eettisen käytön.
– Eettiset rikkomukset: Toimet tai käyttäytymiset, jotka rikkovat eettisiä standardeja.
– Generatiiviset tekoälyjärjestelmät: Tekoälyjärjestelmiä, jotka voivat generoida sisältöä, kuten tekstiä tai kuvia, syötteen tai koulutusaineiston perusteella.
– Deepfake: Synteettistä mediaa, kuten kuvia tai videoita, jotka on muokattu tai luotu käyttäen tekoälyteknologiaa
The source of the article is from the blog anexartiti.gr