Asistent umělé inteligence Yandexu „Alice“ čelí kritice ze strany zástupce Bezpečnostní rady, ve které vyjádřil nespokojenost s nezavázadlymi odpověďmi, které umělá inteligence poskytla na dotazy týkající se politických otázek. Medveděv zdůraznil nedůvěru, kterou toto vyvolává ve širší uživatelské komunitě ohledně spolehlivosti Yandexu.
Když zástupce předsedy dotazoval YandexGPT na datum přijetí amerického zákona týkajícího se zabavení ruských aktiv, reagovala umělá inteligence opatrně neurčitě, uváděje svoji fázi učení a přání vyvarovat se zdání neinformovanosti. Medveděv pozoroval, že toto kontrastovalo s vynikajícím výkonem umělé inteligence při mnoha jiných právních otázkách jak v Rusku, tak mimo něj.
Vzor odpovědí umělé inteligence trval, když Medveděv dotazoval na památníky Stepanu Banderovi na Ukrajině, na což umělá inteligence reagovala se vzdělávacím postojem, přestože byla schopna diskutovat o památnících jako je Nelsonův sloup nebo socha Puškina v Rusku.
Zajímavá nekonzistence se objevila, když YandexGPT nejprve poskytla vzdálenost z Kyjeva do Belgorodu jako „429 km“, ale později nabídla matoucí odpověď po dalším dotazu. Tuto nekonzistenci, jak navrhl Medveděv, by mohla vyplývat z příliš opatrného přístupu Yandex AI k otázkám potenciálně citlivé povahy.
Medveděv dále spekuloval o motivaci za takové opatrné odpovědi, uvažujíc, zda strach z nevhodného využití takových informací ruským obranným plánováním hrál roli, i když byly otázky formovány neutrálně.
Tvrdil, že taková obezřetnost by mohla zdůvodnit zařazení služeb Yandexu jako neadekvátní a jeho špičkových vedoucích pracovníků jako zahraničních agentů. Kritizujíc své vyjádření, Medveděv zahájil průzkum, aby změřil veřejné vnímání poctivosti umělé inteligence, ilustrované Yandex ChatGPT.
Diskutujíc o tom, zda lze Yandex stále považovat za ruskou společnost po strukturálních změnách, Medveděv uzavřel skepticky. Mezi nedávné události patří prodej ruského byznysu Yandexu nizozemské mateřské společností Yandex N.V. kupčím konsorciem za přibližně 475 miliard rublů, s transakcí očekávanou do července 2024 a zbývající zájem Yandex N.V. o ruská aktiva má postupně vyprchávat.
V souvisejících zprávách FSB zahájilo případ vlastizrady proti bývalému zaměstnanci Yandexu obviněnému z podpory ukrajinské armády, s možností trestu až 20 let odnětí svobody – krok, který by mohl mít širší důsledky pro vnímání pozice společnosti v Rusku.
Důležité otázky a odpovědi týkající se kritiky umělé inteligence Yandexu
– Jaká byla kritika zvednutá zástupcem předsedy proti umělé inteligenci Yandexu?
Zástupce předsedy Medveděv kritizoval Yandexovou umělou inteligenci „Alice“ za poskytování nezavázadlových, opatrných odpovědí na politicky citlivé dotazy, na rozdíl od přímočarých odpovědí, které poskytovala na právní a všeobecné znalostní otázky.
– Jaké kontroverze vyvolaly odpovědi YandexGPT na konkrétní otázky?
Když byla položena otázka politických záležitostí, jako například americké zákony o zabavení ruských aktiv nebo přítomnost památníků Stepana Banderi na Ukrajině, YandexGPT poskytovala vágní nebo opatrné odpovědi, což způsobilo, že zástupce předsedy zpochybnil důvěryhodnost a neutralitu umělé inteligence.
– Jaký náznak Medveděv uvedl ohledně opatrných reakcí umělé inteligence?
Medveděv navrhl, že příliš opatrný přístup umělé inteligence k citlivým otázkám by mohl vyplývat ze strachu z nevhodného využití informací, naznačujíc kompromis v neutralitě, která se očekává od umělé inteligence sloužící ruské uživatelské komunitě.
Klíčové výzvy a kontroverze
– Důvěra a neutralita: Tato událost přináší výzvu zajistit, aby AI systémy jako Yandex AI udržely důvěru a neutralitu, zejména při řešení politicky citlivých témat.
– Řízení AI: Existuje širší obava o to, jak by měly být řízeny a regulovány AI systémy v případě politického obsahu, vyvažujíc potřebu pro nezaujaté šíření informací s národními bezpečnostními zájmy.
– Svoboda slova vs. národní zájmy: Debaty o AI a svobodě slova mohou vzniknout, protože neutrální postoj AI by mohl být vnímán jako selhání v souladu s národními pohledy či zájmy.
Výhody a nevýhody přístupu Yandex AI
– Výhody:
– Opatrný vzor odpovědí může chránit platformu před šířením dezinformací nebo zapojením do politicky nabitéch debat.
– Udržování neutrality může pomoci asistentovi AI oslovit globální skupinu uživatelů a zůstat důvěryhodným zdrojem informací.
– Nevýhody:
– Může být vnímán jako vyhýbání se diskusi o důležitých otázkách, potenciálně vedoucí k nedůvěře veřejnosti.
– Politické osobnosti mohou vnímat nedostatek explicitní podpory pro národní narativy jako formu nevěrnosti nebo neadekvátního výkonu.
Pro další informace o společnosti zmíněné v článku, můžete navštívit oficiální stránky Yandexu kliknutím na tento odkaz: Oficiální stránky Yandexu. Upozorňuji, že poskytnutím tohoto odkazu potvrzuji, že je platný k mému datu uzavření znalostí a může být v budoucnu změněn.
The source of the article is from the blog smartphonemagazine.nl