Την απαγόρευση των εργαλείων τεχνητής νοημοσύνης που μπορούν να δημιουργούν σεξουαλικά deepfake αληθινών προσώπων εξετάζει η Ευρωπαϊκή Ένωση, σύμφωνα με σχετικές προτάσεις που επικαλείται το ειδησεογραφικό μέσο Politico.
Η πρωτοβουλία έρχεται μετά την προσθήκη του εργαλείου τεχνητής νοημοσύνης Grok στην πλατφόρμα X του Ίλον Μασκ, το οποίο επέτρεψε σε χρήστες να δημιουργούν μαζικά εικόνες ανθρώπων με μπικίνι ή εντελώς γυμνών, ακόμη και εικόνες ανηλίκων.
Σύμφωνα με σχέδιο πρότασης που αναμένεται να εγκριθεί από τους πρέσβεις της ΕΕ την Παρασκευή, θα καθίσταται παράνομη η διάθεση στην ευρωπαϊκή αγορά οποιουδήποτε συστήματος τεχνητής νοημοσύνης που μπορεί να δημιουργεί μη συναινετικά σεξουαλικά βίντεο, εικόνες ή ηχητικό υλικό που απεικονίζει πραγματικά πρόσωπα.
Οι προτάσεις, που ενδέχεται να τεθούν σε ισχύ ακόμη και μέσα στο καλοκαίρι, μετά από διαπραγματεύσεις μεταξύ των κρατών-μελών της ΕΕ και του Κοινοβουλίου, δημιουργούν ερωτήματα για το μέλλον πολλών εφαρμογών που επιτρέπουν τη δημιουργία ψεύτικων γυμνών εικόνων ανθρώπων από απλές φωτογραφίες, μεταξύ των οποίων και εργαλεία που συνδέονται με τον πλουσιότερο άνθρωπο του κόσμου.
Παράλληλα, η Ευρωπαϊκή Ένωση εξετάζει ήδη κατά πόσο η πλατφόρμα X έλαβε επαρκή μέτρα για να περιορίσει τους κινδύνους από την ενσωμάτωση του Grok, ιδίως σε ό,τι αφορά τη διάδοση επιβλαβούς σεξουαλικού περιεχομένου.
Την εν λόγω απαγόρευση φαίνεται να στηρίζουν και ευρωβουλευτές. «Δεν πρόκειται μόνο για το Grok», δήλωσε ο Σεργκέι Λαγκοντίνσκι, Γερμανός ευρωβουλευτής του κόμματος των Πρασίνων, προσθέτοντας ότι «το ζήτημα είναι πόση δύναμη είμαστε διατεθειμένοι να δώσουμε στην τεχνητή νοημοσύνη, ώστε να μπορεί να υποβαθμίζει ή να προσβάλλει τους ανθρώπους».
Τρία εκατ. deepfakes σε 11 ημέρες
Οι δυνατότητες δημιουργίας εικόνων του Grok έγιναν viral στο τέλος του 2025. Σύμφωνα με εκτιμήσεις οργανώσεων της κοινωνίας των πολιτών, το chatbot ενδέχεται να δημιούργησε έως και τρία εκατομμύρια μη συναινετικές σεξουαλικές εικόνες, συμπεριλαμβανομένων 20.000 εικόνων σεξουαλικής κακοποίησης παιδιών, μέσα σε διάστημα μόλις 11 ημερών πριν εφαρμοστούν περιορισμοί για τη διάδοση τέτοιου περιεχομένου.
Η πλατφόρμα X προχώρησε σε μέτρα περιορισμού της λειτουργίας στις 9 Ιανουαρίου και εκ νέου στις 14 Ιανουαρίου. Ανακοινώνοντας τις αλλαγές, η εταιρεία ανέφερε ότι «παραμένει προσηλωμένη στο να διατηρεί το X μια ασφαλή πλατφόρμα για όλους» και ότι εφαρμόζει μηδενική ανοχή σε κάθε μορφή σεξουαλικής εκμετάλλευσης παιδιών, μη συναινετικού γυμνού ή ανεπιθύμητου σεξουαλικού περιεχομένου.
