Μια πρόσφατη έρευνα από την εφημερίδα The Guardian αποκάλυψε ότι οι εταιρείες κοινωνικών μέσων που βασίζονται σε τεχνητή νοημοσύνη (ΤΝ) για την μετριοποίηση των πλατφορμών τους παράγουν μη βιώσιμες αναφορές για περιπτώσεις σεξουαλικής κακοποίησης παιδιών, παρεμποδίζοντας τις αστυνομικές έρευνες στις ΗΠΑ και καθυστερώντας την εντοπισμό των πιθανών δραστών. Βάσει του νόμου, αυτές οι εταιρείες υποχρεούνται να αναφέρουν οποιοδήποτε υλικό σεξουαλικής κακοποίησης παιδιών που ανιχνεύεται στις πλατφόρμες τους στο Εθνικό Κέντρο για Αγνοούμενα & Εκμεταλλευμένα Παιδιά (NCMEC), το οποίο κατόπιν διαβιβάζει τις πληροφορίες στις σχετικές αστυνομικές αρχές.
Το 2022, το NCMEC έλαβε πάνω από 32 εκατομμύρια αναφορές ύποπτης σεξουαλικής εκμετάλλευσης παιδιών, με τη Meta να είναι ο μεγαλύτερος αναφέρων, υπεύθυνος για πάνω από 27 εκατομμύρια αναφορές. Ωστόσο, η χρήση αναφορών που δημιουργούνται από ΤΝ αντιμετωπίζει σημαντικές προκλήσεις για την αστυνομία. Λόγω των προστασιών της ιδιωτικότητας κατά της τέταρτης τροποποίησης, οι αξιωματικοί και το NCMEC δεν έχουν το δικαίωμα να ανοίξουν τις αναφορές χωρίς ένα ένταλμα αναζήτησης, εκτός αν ένας άνθρωπος στην εταιρεία κοινωνικών μέσων έχει ελέγξει το περιεχόμενο. Αυτή η νομική απαίτηση έχει οδηγήσει σε καθυστερήσεις εβδομάδων, επιτρέποντας την απώλεια πιθανών αποδεικτικών στοιχείων και την ανεντοπισμό των παραβατών για περισσότερο καιρό.
Ειδικοί στην ασφάλεια των παιδιών και δικηγόροι έχουν εκφράσει ανησυχία για τις δυσμενείς επιπτώσεις αυτών των καθυστερήσεων στην ασφάλεια της κοινότητας. Οι έρευνες καθυστερούν και η αστυνομία δεν μπορεί να αναλάβει άμεση δράση για να προστατέψει πιθανά θύματα. Σε ορισμένες περιπτώσεις, οι εταιρείες κοινωνικών μέσων απενεργοποιούν ακόμα και τους λογαριασμούς χρηστών μετά την υποβολή αναφοράς, κινδυνεύοντας να αφαιρέσουν κρίσιμα αποδεικτικά στοιχεία από τους διακομιστές τους.
Οι αναφορές που δημιουργούνται από ΤΝ συχνά δεν ερευνώνται, λόγω της έλλειψης των συγκεκριμένων πληροφοριών που απαιτούνται για τη λήψη αίτησης δικαιολογητικού αιτιολογημένου υποψίας για ένα ένταλμα αναζήτησης. Αυτό αποτελεί επιπρόσθετη επιβάρυνση για τις ήδη υπερφορτωμένες αστυνομικές αρχές, που δεν διαθέτουν τους απαραίτητους πόρους για να δώσουν προτεραιότητα σε αυτές τις πληροφορίες.
Η εξάρτηση από την ΤΝ για τη μετριοποίηση του περιεχομένου αποτελεί μη ικανοποιητική λύση, όπως υπογραμμίζουν ειδικοί. Παρόλο που η ΤΝ μπορεί να βοηθήσει στην ανακούφιση του φόρτου εργασίας των αξιωματούχων της αστυνομίας, δεν μπορεί να αντικαταστήσει την ανάγκη για ανθρώπινη παρέμβαση. Όπως επεσήμανε ένας εισαγγελέας στη Μασαχουσέτη, η ΤΝ ενδέχεται να μην είναι σε θέση να αναγνωρίσει νέο υλικό κακοποίησης παιδιών και μπορεί μόνο να αναλύσει υπάρχουσες δεδομένες πληροφορίες. Η σημασία της ανθρώπινης αξιολόγησης είναι ανίστατη όταν ασχολούμαστε με αυτές τις ευαίσθητες περιπτώσεις.
Η τρέχουσα κατάσταση έχει προκαλέσει ανησυχίες σχετικά με την αποτελεσματικότητα της μετριοποίησης μέσω της ΤΝ και την ανάγκη για αυξημένους πόρους και υποστήριξη για τις αστυνομικές αρχές για την αντιμετώπιση του αυξανόμενου προβλήματος της σεξουαλικής κακοποίησης παιδιών στο διαδίκτυο.
The source of the article is from the blog coletivometranca.com.br