Τί είναι το Deepfake

Τα deepfake αφορούν σε κατασκευασμένα βίντεο τα οποία περιέχουν εικόνες ή πρόσωπα πλαστά, κατασκευασμένα μέσω υπολογιστή, τα οποία και μοιάζουν πολύ με πραγματικά και αναγνωρίσιμα. Πρόκειται για συνδυασμό των όρων «Deep learning» και «fake» (αγγλ. «ψεύτικο»). Πρωτοεμφανίστηκε στον ιστότοπο «Reddit» στα τέλη του 2017 όπου μια ομάδα με το όνομα «Deepfake» παρουσίασε ορισμένες φωτογραφίες και βίντεο που αντικαθιστούσαν τα πρόσωπα κοινών ανθρώπων με πρόσωπα διασήμων. Τότε φάνηκε αστείο…

Πώς δημιουργούνται τα deepfake

Η τεχνολογία των deepfake βασίζεται στην τεχνητή νοημοσύνη. Η διαδικασία δημιουργίας ενός deepfake (βίντεο) έχει δύο στάδια. Στο πρώτο, ένα πρόγραμμα επεξεργασίας εικόνας και βίντεο κάνει αυτό ακριβώς: επεξεργάζεται πολλές διαφορετικές εικόνες, βίντεο, φωνητικές εκφράσεις και ομιλίες του προσώπου του οποίου πλαστό βίντεο θέλει να αναπαραγάγει. Αφού επεξεργαστεί όλη αυτήν την πληροφορία, ο αλγόριθμος δύναται να αφαιρέσει ένα αντικείμενο ή πρόσωπο από ένα βίντεο και να το αντικαταστήσει με το επιλεγμένο προς πλαστογράφηση πρόσωπο. Αντίστοιχα, μπορεί να κάνει το ίδιο με τον ήχο ώστε να φαίνεται πως το πλαστό πια πρόσωπο ομιλεί και συζητάει κανονικά.

Στο δεύτερο στάδιο, το κατασκευασμένο βίντεο ελέγχεται από έναν άλλον αλγόριθμο τεχνητής νοημοσύνης. Η δουλειά που γίνεται στο στάδιο αυτό είναι πως το ψεύτικο βίντεο συγκρίνεται με πραγματικές φωτογραφίες και το πρόγραμμα βρίσκει όλα τα σημεία του που δεν είναι αληθοφανή. Τα δεδομένα αυτά ανατροφοδοτούν τον αλγόριθμο του πρώτου σταδίου επεξεργασίας, διορθώνονται και περνούν ξανά από έλεγχο, ώστε το τελικό αποτέλεσμα να καταστεί αληθοφανές. Στόχος τελικός είναι να περάσει όλες τις δοκιμές και να μην μπορεί ο αλγόριθμος να ξεχωρίσει το πραγματικό από το ψεύτικο.

Η τεχνολογία αυτή δεν είναι εντελώς καινούργια, έγινε ωστόσο προσβάσιμη στο ευρύ κοινό τα τελευταία χρόνια λόγω της αυξημένης υπολογιστικής ισχύος που διαθέτουν οι σύγχρονοι οικιακοί υπολογιστές.

Κίνδυνοι από τη χρήση του deepfake

Καθώς η τεχνολογία προχωράει και οι ηλεκτρονικοί υπολογιστές γίνονται γρηγορότεροι και ισχυρότεροι, η χρήση των deepfake (βίντεο) θα πολλαπλασιαστεί. Πλέον, θα είναι πολύ εύκολο για έναν απλό χρήστη να κατασκευάσει πλαστές φωτογραφίες και βίντεο. Αρκεί να διαθέτει υλικό από φωτογραφίες και ήχο από τα πραγματικά πρόσωπα που θέλει να πλαστογραφήσει. Το γεγονός αυτό ενέχει μια σειρά από σοβαρούς κινδύνους σε διάφορους τομείς της κοινωνίας από την Πολιτική, τα ΜΜΕ και την Οικονομία ως και την προσωπική και ιδιωτική ζωή των ανθρώπων.

Οι κύριοι τομείς που επηρεάζονται είναι:

Παραπληροφόρηση

Τα deepfake μπορούν να χρησιμοποιηθούν για την δημιουργία ψεύτικων δηλώσεων δημοσίων προσώπων διασπείροντας ψευδείς ειδήσεις.

Δυσφήμιση και εκφοβισμός

Μπορούν να κατασκευαστούν ψεύτικα βίντεο που δείχνουν ένα πρόσωπο να συμμετέχει σε παράνομες, ενοχλητικές ή άσεμνες πράξεις με σκοπό τον εκβιασμό και εκφοβισμό του.

Παραβίαση ιδιωτικότητας

Χρήση deepfake υλικού στην τηλεόραση ή τα κοινωνικά δίκτυα (

social media) χωρίς την συγκατάθεση του πραγματικού προσώπου. Ακόμα και άτομα που δεν είναι διάσημα μπορούν να γίνουν στόχοι σε πολλές από αυτές τις περιπτώσεις.

Απάτη

Με χρήση deepfake υλικού μπορούν να συμμετάσχουν σε τηλεδιασκέψεις εταιρειών μη εγκεκριμένα άτομα. Σε τηλεφωνικές κλήσεις μπορεί να μιλάει κάποιος με την φωνή ενός γνωστού μας προσώπου και να μας ξεγελάσει. Τέλος, μπορούν να εξαπατηθούν τράπεζες, δημόσιοι οργανισμοί καθώς και οι Αρχές. Μπορεί να σκεφτεί κανείς τις επιπτώσεις αν κάτι τέτοιο συμβεί σε ευαίσθητους τομείς όπως η Υγεία ή η Άμυνα.

Διαφθορά της πληροφορίας

Η πολύ συχνή χρήση των deepfake θα έχει ως αποτέλεσμα την κατάργηση της εμπιστοσύνης και την γενική αμφισβήτηση κάθε ψηφιακού υλικού, αληθινού ή ψεύτικου. Αυτό θα δυσκολέψει πολύ την καθημερινότητα όλων καθώς οι διαδικασίες επαλήθευσης θα χρειαστεί να περνούν από ενδελεχή, κοστοβόρο και χρονοβόρο έλεγχο.

Πώς αντιλαμβανόμαστε τα deepfake

Προς το παρόν τα deepfake βίντεο είναι δύσκολο να αναπαραγάγουν ορισμένα χαρακτηριστικά, όπως είναι το άνοιγμα και κλείσιμο των ματιών καθώς στα ψεύτικα βίντεο γίνεται με άλλη συχνότητα του φυσιολογικού. Άλλα στοιχεία στο πρόσωπο είναι περίεργες εκφράσεις ή ασυμμετρία χαρακτηριστικών. Ένα άλλο συχνό χαρακτηριστικό είναι παράξενα ή θολά σημεία στο δέρμα, στο στόμα και στα μαλλιά. Ακόμα και ο τόνος της φωνής παίζει ρόλο, ένα άτομο λ.χ. που φωνάζει δεν μπορεί να έχει ήρεμο πρόσωπο. Τέλος, σημαντικό χαρακτηριστικό, για να εντοπιστούν τα ψεύτικα βίντεο, ειδικά στην περίπτωση που δεν υπάρχει πρόσωπο, είναι οι σκιάσεις φωτός. Αφύσικες σκιάσεις ή έλλειψή τους είναι ισχυρή ένδειξη ψεύτικου βίντεο ειδικά αν αγορά σε εξωτερικό χώρο, όπου δεν υπάρχει πλήρης έλεγχος στις πηγές φωτός.

Σήμερα, γίνεται μεγάλη έρευνα σε τεχνολογίες και αλγορίθμους εντοπισμού deepfake υλικού διότι τα επόμενα χρόνια η συγκεκριμένη τεχνολογία θα αποτελεί τεράστιο πρόβλημα για τα κράτη, την ασφάλεια και την κοινωνία.

Επίλογος

Τα deepfake μπορεί να κρύβουν μια εντυπωσιακή τεχνολογία πίσω τους, μπορεί να είναι διασκεδαστικά για κάποιους, αλλά δεν παύουν να εγκυμονούν κινδύνους και μάλιστα σοβαρούς. Σε έναν μελλοντικό κόσμο όπου η εικόνα και ο ήχος μπορούν εύκολα να αλλοιωθούν, το να αξιολογούμε τι βλέπουμε και ακούμε αποκτά τεράστια σημασία. Γι’ αυτό, η ενημέρωση και η προσεκτική σκέψη είναι τα πιο δυνατά μας εργαλεία σε συνδυασμό με την τεχνολογία. Όσο καλύτερα την κατανοούμε, τόσο πιο δύσκολο είναι να μας ξεγελάσει. Και αυτό, είναι κάτι που μας αφορά όλους.

∗Βαθιά μάθηση (Deep learning)

Με τον όρο «Βαθιά μάθηση» (deep learning) αναφερόμαστε στον τομέα της τεχνητής νοημοσύνης και πιο συγκεκριμένα της μηχανικής μάθησης (machine learning), που βασίζεται σε νευρωνικά δίκτυα με πολλές επίπεδα επεξεργασίας (βαθιά δίκτυα). Ο τρόπος λειτουργίας αυτών των δικτύων είναι εμπνευσμένος από τη δομή και τη λειτουργία του ανθρώπινου εγκεφάλου.

Ηλ.Ταχ.: [email protected]

Ευθύμης Κυρίκος