Αγωγή κατά της xAI: Ο Grok φέρεται να εκπαιδεύτηκε με υλικό κακοποίησης παιδιών
Σοβαρές κατηγορίες κατά της xAI του Έλον Μασκ διατυπώνει νέα αγωγή στις ΗΠΑ, υποστηρίζοντας ότι το Grok εκπαιδεύτηκε με υλικό σεξουαλικής κακοποίησης παιδιών, καθώς και με εικόνες που δημιουργήθηκαν από την ίδια την πλατφόρμα.
Η ενάγουσα, που αναφέρεται στα δικαστικά έγγραφα ως Jane Doe, ζητά αποζημίωση και δικαστική εντολή ώστε η xAI να καταστρέψει κάθε σχετικό υλικό που ενδέχεται να διατηρεί στους διακομιστές της. Η εταιρεία δεν απάντησε σε αίτημα σχολιασμού του Ars Technica.
Οι ισχυρισμοί της αγωγής
Σύμφωνα με την καταγγελία, η γυναίκα υπήρξε θύμα σεξουαλικής κακοποίησης σε πολύ μικρή ηλικία, στις αρχές της δεκαετίας του 2000. Οι εικόνες της έχουν καταχωριστεί εδώ και χρόνια σε λίστες ψηφιακών αποτυπωμάτων (hashes) οργανισμών προστασίας παιδιών, μεταξύ των οποίων το National Center for Missing and Exploited Children και το Canadian Centre for Child Protection.
Η ενάγουσα υποστηρίζει ότι ο καναδικός οργανισμός εντόπισε στην υπηρεσία της xAI υλικό παραγόμενο από AI που την απεικόνιζε. Όπως αναφέρει η αγωγή, η διαπίστωση αυτή την επανατραυμάτισε, ενώ σε διαδικτυακά φόρουμ φέρονται να υπήρχαν συζητήσεις χρηστών για τη δημιουργία αντίστοιχου περιεχομένου με θύματα γνωστές περιπτώσεις παιδικής κακοποίησης.
Η βασική κατηγορία είναι ότι υλικό με τα γνωστά ψηφιακά αποτυπώματα των αρχικών εικόνων συμπεριλήφθηκε στο σύνολο δεδομένων που χρησιμοποιήθηκε για τις δυνατότητες παραγωγής εικόνας και βίντεο του Grok. Η αγωγή δεν παραθέτει αναλυτικά τεχνικά στοιχεία για τον συγκεκριμένο ισχυρισμό.
Το ζήτημα των δεδομένων εκπαίδευσης
Περισσότερες λεπτομέρειες περιλαμβάνονται για τον ισχυρισμό ότι το Grok μπορεί να επανεισάγει στο σύστημα εκπαίδευσής του παράνομο περιεχόμενο που δημιουργείται από το ίδιο. Η ενάγουσα επικαλείται τους όρους χρήσης της υπηρεσίας, σύμφωνα με τους οποίους δημόσιες αναρτήσεις στο X και αποτελέσματα του Grok μπορούν, από προεπιλογή, να αξιοποιούνται για την εκπαίδευση και βελτίωση των μοντέλων.
Κατά την αγωγή, οι όροι της xAI αναφέρουν τον αποκλεισμό βίαιου περιεχομένου από δεδομένα εκπαίδευσης, χωρίς να διευκρινίζουν ρητά εάν εξαιρούνται υλικό σεξουαλικής κακοποίησης παιδιών, μη συναινετικές προσωπικές εικόνες ή άλλο περιεχόμενο ενηλίκων.
Το δικόγραφο υποστηρίζει επίσης ότι η αφαίρεση ενός δείγματος από μια πλατφόρμα δεν σημαίνει απαραίτητα πως η επιρροή του έχει αφαιρεθεί από ένα ήδη εκπαιδευμένο μοντέλο. Η πλήρης απομάκρυνση της επίδρασης δεδομένων εκπαίδευσης αποτελεί τεχνικά δύσκολη διαδικασία και η xAI δεν έχει δηλώσει δημόσια ότι την έχει εφαρμόσει σε αυτή την περίπτωση.
Τι ζητά η ενάγουσα
Η αγωγή προτείνεται ως συλλογική, με στόχο να εκπροσωπήσει θύματα των οποίων φωτογραφίες παιδικής ηλικίας χρησιμοποιήθηκαν, σύμφωνα με τους ισχυρισμούς, για την παραγωγή παράνομου περιεχομένου από το Grok.
Η Jane Doe κατηγορεί τις εταιρείες για παραβίαση ομοσπονδιακών νόμων των ΗΠΑ που αφορούν την παραγωγή, κατοχή και διανομή υλικού σεξουαλικής κακοποίησης παιδιών, καθώς και του Masha’s Law. Ζητά χρηματικές αποζημιώσεις για θύματα που θα μπορέσουν να αποδείξουν ότι το Grok παρήγαγε τέτοιο υλικό με βάση πραγματικές φωτογραφίες τους.
Παράλληλα, επιδιώκει δικαστική εντολή για την καταστροφή κάθε σχετικού αρχείου που ενδέχεται να αποθηκεύεται από την xAI και για την αποτροπή παραγωγής τέτοιου περιεχομένου στο μέλλον. Οι καταγγελίες δεν έχουν κριθεί από δικαστήριο και η υπόθεση βρίσκεται σε αρχικό στάδιο.
Πηγή: Ars Technica







