Technologia błędnie identyfikuje tysiące basenów
W ramach walki z nieujawnionym majątkiem wśród swoich podatników Francja używa sztucznej inteligencji (AI) do identyfikacji prywatnych basenów na podstawie zdjęć satelitarnych. Jednak ten sposób działania wydaje się obecnie obracać się przeciwko krajowi ze względu na zaskakujący wskaźnik błędów sztucznej inteligencji wynoszący 30%. System, który w dużej mierze polega na rozpoznawaniu koloru wody z góry, często myli inne niebieskie powierzchnie z basenami, włączając w to wyznaczone miejsca parkingowe dla osób niepełnosprawnych oraz niektóre niebieskie plandeki rolnicze. Jeszcze większym wyzwaniem dla AI stanowią baseny zdejmowalne, które nie podlegają opodatkowaniu, co prowadzi do wielu fałszywych pozytywów.
Szybkie wdrożenie pomija istotne testowanie
Według CGT Finances publiques – francuskiego związku zawodowego finansów publicznych – wysoki wskaźnik błędów można przypisać szybkiemu wdrożeniu nowego oprogramowania bez odpowiedniego testowania. W rezultacie problemy są powszechne, a liczba skarg podatników gwałtownie rośnie, szacunki wskazują na aż 30 000 zażaleń. Ta sytuacja obciąża nie tylko podatników, którzy muszą udowadniać swoją niewinność w kontrowersyjnych przypadkach, ale także pracowników służb publicznych, którym obciążenie pracy wzrosło pomimo intencji AI, aby uprościć ich zadania.
Obawy dotyczące nowych technologii w służbie publicznej
Ta trudna sytuacja następuje w kluczowym momencie dla integracji sztucznej inteligencji we francuskich służbach publicznych. Premier Gabriel Attal przyspiesza inicjatywy związane z digitalizacją, jednak pojawia się coraz większe niepokojenie dotyczące niezawodności tych nowych systemów. CGT ostrzega, że obecnie nie ma odpowiednich przepisów ani nadzoru nad wynikami AI. Tymczasem cięcia budżetowe spowodowały znaczące zmniejszenie personelu w Direction des Finances publiques, gdzie departament stracił 600 pracowników w ciągu dekady, w tym 300 stanowisk poświęconych monitorowaniu nieujawnionych basenów.
Najważniejsze pytania i odpowiedzi
– Jakie główne wyzwania wiążą się z wdrożeniem AI do wykrywania basenów we Francji?
Główne wyzwania obejmują wysoki wskaźnik błędów AI w odróżnianiu basenów od podobnie kolorowanych powierzchni, brak wystarczającego testowania przed wdrożeniem, rozróżnianie między opodatkowalnymi stałymi basenami a nieopodatkowywalnymi basenami zdejmowalnymi, zwiększone obciążenie pracą pracowników służb publicznych, niezadowolenie podatników oraz niewystarczające regulacje i nadzór nad technologią AI w służbie publicznej.
– Jakie kontrowersje wiążą się z wykorzystywaniem inteligentnych systemów do wykrywania basenów we Francji?
Kontrowersje wynikają z etycznych i praktycznych konsekwencji wykorzystania AI do egzekwowania podatków bez odpowiedniego testowania i nadzoru, co prowadzi do wielu fałszywych pozytywów i nieuzasadnionych żądań podatkowych. Sytuacja ta podkreśla szersze obawy dotyczące niekontrolowanej integracji AI w administracji publicznej i potencjalnych naruszeń praw obywateli.
Zalety i Wady
Zalety:
– Wykorzystanie AI do wykrywania basenów może usprawnić proces identyfikacji opodatkowanych nieruchomości, potencjalnie zwiększając wpływy podatkowe dla lokalnych władz.
– Wdrożenie w prawidłowy sposób może zredukować potrzebę manualnych inspekcji, oszczędzając tym samym czas i zasoby.
Wady:
– Wysoki wskaźnik błędów może prowadzić do fałszywych roszczeń podatkowych i niepotrzebnego stresu dla dotkniętych podatników.
– Szybkie wdrożenie bez kompleksowego testowania podważa zaufanie do służb publicznych.
– Technologia może nieproporcjonalnie obciążyć podatników koniecznością udowodnienia swojej zgodności, zasadniczo odwracając zasadę domniemania niewinności.
– Z utratą personelu w Direction des Finances publiques może zabraknąć wystarczających zasobów ludzkich do radzenia sobie z konsekwencjami błędów AI.
Ponieważ celem tej technologii jest identyfikowanie nieujawnionych basenów w celu zwiększenia dochodów podatkowych dla rządu, oto link do głównej strony francuskiej władzy podatkowej jako odnośnik do powiązanego punktu odniesienia.
Proszę zwrócić uwagę, że ze względu na specyfikę tego zadania oraz aktualność sytuacji nie można dostarczyć dodatkowych zewnętrznych odnośników z pewnością co do ciągłej istotności lub dokładności treści.