Στη σειρά του Facebook “Σκληρές ερωτήσεις” η Monika Bickert, Διευθύντρια Διαχείρισης Παγκόσμιας Πολιτικής και ο Brian Fishman, σύμβουλος σε θέματα πολιτικής για την καταπολέμηση της τρομοκρατίας, εξηγούν πώς η εταιρεία αντιμετωπίζει τις περιπτώσεις λογαριασμών που εκτιμά ότι προωθούν την τρομοκρατία.
Μετά από τις πρόσφατες τρομοκρατικές επιθέσεις, οι άνθρωποι αμφισβήτησαν το ρόλο των εταιρειών τεχνολογίας ενάντια στην καταπολέμηση της τρομοκρατίας στο διαδίκτυο. Θέλουμε να απαντήσουμε σε αυτές τις ερωτήσεις. Συμφωνούμε με εκείνους που λένε ότι τα κοινωνικά μέσα μαζικής ενημέρωσης δεν πρέπει να είναι ένας μέρος που δίνει φωνή στους τρομοκράτες. Θέλουμε να είμαστε ξεκάθαροι πόσο σοβαρά το λαμβάνουμε υπόψη μας αυτό – το να κρατάμε την κοινότητα μας στο Facebook ασφαλή, είναι κεντρικό ζήτημα για την αποστολή μας.
Σε αυτήν την ανάρτηση, θα κάνουμε γνωστό πως γίνεται μέρος της δουλειάς μας στο παρασκήνιο συμπεριλαμβανομένου του τρόπου με τον οποίο χρησιμοποιούμε την τεχνητή νοημοσύνη για να κρατήσουμε το Facebook μακριά από το τρομοκρατικό περιεχόμενο, κάτι για το οποίο δεν έχουμε ξαναφέρει στην δημοσιότητα. Θα συζητήσουμε επίσης για τους ανθρώπους που εργάζονται για την καταπολέμηση της τρομοκρατίας, μερικοί από τους οποίους έχουν ασχοληθεί ολόκληρη τη σταδιοδρομία τους με την καταπολέμηση της τρομοκρατίας και τους τρόπους συνεργασίας με συνεργάτες εκτός της εταιρείας μας.
Η στάση μας είναι απλή: Δεν υπάρχει θέση στο Facebook για τρομοκρατία. Αφαιρούμε τους τρομοκράτες και τις θέσεις που υποστηρίζουν την τρομοκρατία κάθε φορά που τις εντοπίζουμε. Όταν λαμβάνουμε αναφορές για πιθανές θέσεις τρομοκρατίας, εξετάζουμε τις αναφορές αυτές επειγόντως και ενδελεχώς. Στις σπάνιες περιπτώσεις που ανακαλύπτουμε στοιχεία επικείμενης βλάβης, ενημερώνουμε έγκαιρα τις αρχές. Αν και η ακαδημαϊκή έρευνα διαπιστώνει ότι η ριζοσπαστικοποίηση μελών των ομάδων όπως το ISIS και η Αλ Κάιντα συμβαίνει κυρίως εκτός διαδικτύου, γνωρίζουμε ότι το Διαδίκτυο παίζει ρόλο – και δεν θέλουμε το Facebook να χρησιμοποιηθεί για οποιαδήποτε τρομοκρατική δραστηριότητα.
Πιστεύουμε ότι η τεχνολογία και το Facebook μπορούν να αποτελέσουν μέρος της λύσης.
Είμαστε προσεκτικοί, εν μέρει επειδή δεν πιστεύουμε ότι υπάρχει εύκολη τεχνική λύση. Αποτελεί τεράστια πρόκληση να διατηρήσουμε τους ανθρώπους ασφαλείς σε μια πλατφόρμα που χρησιμοποιείται από σχεδόν 2 δισεκατομμύρια ανθρώπους κάθε μήνα, οι οποίοι κάνουν post και σχολιάζουν σε περισσότερες από 80 γλώσσες σε κάθε γωνιά του πλανήτη. Και υπάρχουν πολλά ακόμα πράγματα που μπορούμε να κάνουμε. Αλλά θέλουμε να μοιραστούμε τι ακριβώς κάνουμε και να ακούσουμε τα σχόλιά σας, ώστε να μπορέσουμε να κάνουμε καλύτερα.
Τεχνητή νοημοσύνη
Θέλουμε να εντοπίζουμε το περιεχόμενο της τρομοκρατίας αμέσως, πριν το δούν οι άνθρωποι της κοινότητά μας. Ήδη, οι περισσότεροι λογαριασμοί που αφαιρούνται για τρομοκρατία, εντοπίζονται από εμάς τους ίδιους. Αλλά γνωρίζουμε ότι μπορούμε να κάνουμε καλύτερη χρήση της τεχνολογίας – και συγκεκριμένα της τεχνητής νοημοσύνης – για να σταματήσουμε τη διάδοση του τρομοκρατικού περιεχομένου στο Facebook. Αν και η χρήση της ΤΝ ενάντια στην τρομοκρατία είναι αρκετά πρόσφατη, αλλάζει ήδη τους τρόπους με τους οποίους κρατάμε μακριά δυνητική τρομοκρατική προπαγάνδα και λογαριασμούς από το Facebook. Σήμερα επικεντρωνόμαστε στις πιο σύγχρονες τεχνικές μας για την καταπολέμηση του τρομοκρατικού περιεχομένου σχετικά με το ISIS, την Αλ Κάιντα και τις φιλικές τους οργανώσεις και θέλουμε να ασχοληθούμε και με άλλες τρομοκρατικές οργανώσεις εν ευθέτω χρόνω. Ανανεώνουμε συνεχώς τις τεχνικές μας προσπάθειες, αλλά εδώ εξηγούμε μερικές από τις τρέχουσες.
Αντιστοίχιση εικόνας: Όταν κάποιος προσπαθεί να ανεβάσει μια φωτογραφία τρομοκράτη ή βίντεο, τα συστήματά μας αναζητούν αν η εικόνα ταιριάζει με μια γνωστή φωτογραφία ή βίντεο τρομοκρατίας. Αυτό σημαίνει ότι εάν έχουμε αφαιρέσει στο παρελθόν ένα προπαγανδιστικό βίντεο από το ISIS, μπορούμε να δουλέψουμε για να εμποδίσουμε τους άλλους λογαριασμούς να ανεβάσουν το ίδιο βίντεο στον ιστότοπό μας. Σε πολλές περιπτώσεις, αυτό σημαίνει ότι το περιεχόμενο της τρομοκρατίας που προορίζεται για αποστολή στο Facebook απλώς δεν φτάνει ποτέ στην πλατφόρμα.
Γλωσσική κατανόηση: Έχουμε επίσης αρχίσει πρόσφατα να πειραματιζόμαστε με τη χρήση της ΤΝ για την κατανόηση του κειμένου που μπορεί να υποστηρίζει την τρομοκρατία. Αυτή τη στιγμή δοκιμάζουμε την ανάλυση σε κείμενα που έχουμε ήδη καταργήσει τα οποία επαινούν ή να υποστηρίζουν τρομοκρατικές οργανώσεις όπως το ISIS και την Αλ Κάιντα, έτσι ώστε να μπορέσουμε να αναπτύξουμε μηνύματα βασισμένα σε κείμενα ότι τέτοια περιεχόμενα μπορεί να είναι τρομοκρατική προπαγάνδα. Η ανάλυση αυτή πηγαίνει σε έναν αλγόριθμο που βρίσκεται στα αρχικά στάδια της μάθησης για τον εντοπισμό παρόμοιων θέσεων. Οι μηχανές εκμάθησης αλγόριθμων λειτουργούν με μια ανατροφοδότηση και βελτιώνονται με την πάροδο του χρόνου.
Αφαίρεση τρομοκρατικών θυλάκων: Γνωρίζουμε από ανάλογες μελέτες ότι οι τρομοκράτες τείνουν να ριζοσπαστικοποιούνται και να λειτουργούν σε ομάδες. Αυτή η τάση εκτός σύνδεσης αντικατοπτρίζεται και στο διαδίκτυο. Όταν λοιπόν εντοπίζουμε σελίδες, ομάδες, αναρτήσεις ή προφίλ που υποστηρίζουν τρομοκρατία, χρησιμοποιούμε επίσης αλγόριθμους για να “ανεβούμε”, να προσπαθήσουμε να εντοπίσουμε το σχετικό υλικό που μπορεί επίσης να υποστηρίξει την τρομοκρατία. Χρησιμοποιούμε δείγματα όπως το αν ένας λογαριασμός είναι φίλος με μεγάλο αριθμό λογαριασμών που έχουν απενεργοποιηθεί για τρομοκρατία ή εάν ένας λογαριασμός έχει τα ίδια χαρακτηριστικά με ένα λογαριασμό απενεργοποιημένο.
Περιστατικό: Έχουμε επίσης επιτύχει πολύ πιο γρήγορα στην ανίχνευση νέων ψεύτικων λογαριασμών που δημιουργήθηκαν από παραβάτες. Με αυτό είχαμε τη δυνατότητα να μειώσουμε δραματικά την χρονική περίοδο που οι λογαριασμοί τρομοκρατών ξαναβρίσκονται στο Facebook. Αυτό το έργο δεν τελειώνει ποτέ γιατί είναι αντιφατικό και οι τρομοκράτες εξελίσσουν συνεχώς τις μεθόδους τους. Ανακαλύπτουμε συνεχώς νέους τρόπους με τους οποίους οι τρομοκρατικοί φορείς προσπαθούν να παρακάμψουν τα συστήματά μας – και ενημερώνουμε αναλόγως την τακτική μας.
Συνεργασία μεταξύ των πλατφορμών: Επειδή δεν θέλουμε οι τρομοκράτες να έχουν θέση οπουδήποτε στην οικογένεια των εφαρμογών Facebook, έχουμε αρχίσει να δουλεύουμε σε συστήματα που μας επιτρέπουν να λάβουμε μέτρα εναντίον λογαριασμών τρομοκρατών σε όλες μας τις πλατφόρμες, συμπεριλαμβανομένων των WhatsApp και Instagram. Δεδομένων των περιορισμένων δεδομένων που συλλέγουν ορισμένες από τις εφαρμογές μας ως μέρος της υπηρεσίας τους, η δυνατότητα ανταλλαγής δεδομένων σε όλη την οικογένεια είναι απαραίτητη για τις προσπάθειές μας να διατηρήσουμε όλες τις πλατφόρμες μας ασφαλείς.
Ανθρώπινη εξειδίκευση
Η ΤΝ δεν μπορεί να πιάσει τα πάντα. Η κατανόηση του τί υποστηρίζει την τρομοκρατία και τί όχι δεν είναι πάντα απλή και οι αλγόριθμοι δεν είναι ακόμα τόσο ικανοί όσο οι άνθρωποι όταν πρόκειται για την κατανόηση αυτού του είδους του πλαισίου. Μια φωτογραφία ενός ένοπλου άνδρα με σημαία ISIS μπορεί να είναι προπαγάνδα ή υλικό στρατολόγησης, αλλά θα μπορούσε να είναι μια εικόνα σε μια ιστορία ειδήσεων. Μερικές από τις πιο αποτελεσματικές κριτικές για τις βίαιες ομάδες όπως το ISIS χρησιμοποιούν την ίδια την προπαγάνδα της ομάδας εναντίον της. Για να κατανοήσουμε τις πιο εκλεπτυσμένες περιπτώσεις, χρειαζόμαστε την ανθρώπινη εμπειρία.
Αναφορές και σχόλια: Η κοινότητά μας – αυτό είναι οι άνθρωποι στο Facebook – μας βοηθάει να αναφέρουμε λογαριασμούς ή περιεχόμενο που ενδέχεται να παραβιάζει τις πολιτικές μας – συμπεριλαμβανομένου του μικρού μέρους που μπορεί να σχετίζεται με την τρομοκρατία. Οι ομάδες κοινοτικών λειτουργιών μας σε όλο τον κόσμο -που αυξάνονται κατά 3.000 άτομα το επόμενο έτος– εργάζονται 24 ώρες την ημέρα και σε δεκάδες γλώσσες για να εξετάσουν αυτές τις αναφορές και να καθορίσουν το πλαίσιο. Αυτό μπορεί να είναι μια εξαιρετικά δύσκολη δουλειά και υποστηρίζουμε αυτούς τους ανθρώπους που εξετάζουν το ζήτημα με επιτόπια συμβουλευτική και κατάρτιση ευελιξίας.
Ειδικοί για την καταπολέμηση της τρομοκρατίας και της ασφάλειας: Κατά το παρελθόν έτος, αυξήσαμε σημαντικά την ομάδα των ειδικών της αντιτρομοκρατίας. Στο Facebook, περισσότερα από 150 άτομα ασχολούνται αποκλειστικά ή κυρίως με την καταπολέμηση της τρομοκρατίας ως κύρια ευθύνη τους. Αυτό περιλαμβάνει ακαδημαϊκούς εμπειρογνώμονες στον τομέα της καταπολέμησης της τρομοκρατίας, πρώην εισαγγελείς, πρώην πράκτορες επιβολής του νόμου, αναλυτές και μηχανικούς. Μόνο μέσα σε αυτή την ομάδα ειδικών, μιλάμε σχεδόν 30 γλώσσες.
Απειλές σε πραγματικό κόσμο: Χρησιμοποιούμε όλο και περισσότερο την ΤΝ για τον εντοπισμό και την αφαίρεση του περιεχομένου της τρομοκρατίας, αλλά οι υπολογιστές δεν είναι πολύ καλοί στο να προσδιορίσουν τι συνιστά αξιόπιστη απειλή που αξίζει αναφοράς για την επιβολή του νόμου. Έχουμε επίσης μια παγκόσμια ομάδα που απαντά μέσα σε λίγα λεπτά σε αιτήματα έκτακτης ανάγκης από την επιβολή του νόμου.
Συνεργασία με άλλους
Η δουλειά για να κρατηθεί μακρυά η τρομοκρατία από το Facebook δεν αρκεί γιατί οι τρομοκράτες μπορούν να πηδήξουν από πλατφόρμα σε πλατφόρμα. Γι ‘αυτό οι εταιρικές σχέσεις με άλλους – συμπεριλαμβανομένων άλλων εταιρειών των social media, των ερευνητών και των κυβερνήσεων – είναι τόσο σημαντικές.
Συνεργασία με τη βιομηχανία: Για να εντοπίσουμε πιο γρήγορα και να επιβραδύνουμε την εξάπλωση του περιεχομένου της τρομοκρατίας online, συνεργαστήκαμε με την Microsoft, το Twitter και το YouTube πριν από έξι μήνες για να ανακοινώσουμε μια κοινή βιομηχανική βάση δεδομένων – μοναδικά ψηφιακά δακτυλικά αποτυπώματα για φωτογραφίες και βίντεο – που παράγονται από ή προς υποστήριξη τρομοκρατικών οργανώσεων. Αυτή η συνεργασία έχει αποδειχθεί ήδη καρποφόρα και ελπίζουμε να προσθέσουμε περισσότερους εταίρους στο μέλλον. Είμαστε ευγνώμονες στις εταιρείες συνεργατών μας για το ότι κρατούν το Facebook ασφαλές.
Κυβερνήσεις: Οι κυβερνήσεις και οι διακυβερνητικές υπηρεσίες διαδραματίζουν σημαντικό ρόλο στην αντιμετώπιση της τρομοκρατίας κάτι που οι εταιρείες δεν μπορούν να κάνουν ανεξάρτητα. Έχουμε μάθει από οργανισμούς σε διάφορες χώρες σχετικά με τους μηχανισμούς προπαγάνδας της ISIS και της Αλ Κάιντα. Επίσης, συμμετείχαμε και επωφεληθήκαμε από τις προσπάθειες υποστήριξης της βιομηχανικής συνεργασίας από οργανισμούς όπως το Φόρουμ Διαδικτύου της ΕΕ, το Global Coalition Against Daesh και το Υπουργείο Εσωτερικών του Ηνωμένου Βασιλείου.
Κρυπτογράφηση. Γνωρίζουμε ότι οι τρομοκράτες χρησιμοποιούν μερικές φορές κρυπτογραφημένα μηνύματα για να επικοινωνούν. Η τεχνολογία κρυπτογράφησης έχει πολλές νόμιμες χρήσεις – από την προστασία της online τραπεζικής μας συναλλαγής μέχρι την ασφαλή φύλαξη των φωτογραφιών μας. Είναι επίσης σημαντικό για τους δημοσιογράφους, τους εργαζόμενους των ΜΚΟ, τις εκστρατείες για τα ανθρώπινα δικαιώματα και άλλους που πρέπει να γνωρίζουν ότι τα μηνύματά τους θα παραμείνουν ασφαλή. Λόγω του τρόπου με τον οποίο λειτουργεί η κρυπτογράφηση, δεν μπορούμε να διαβάσουμε το περιεχόμενο των μεμονωμένων κρυπτογραφημένων μηνυμάτων – αλλά παρέχουμε τις πληροφορίες για να απαντήσουμε έγκαιρα σε αιτήματα επιβολής του νόμου, σύμφωνα με το εφαρμοστέο δίκαιο και τις πολιτικές μας.
Εκπαίδευση Counterspeech: Το Counterspeech έρχεται σε πολλές μορφές, αλλά στον πυρήνα του είναι προσπάθεια για να εμποδιστούν οι άνθρωποι που επιδιώκουν μια ζωή γεμάτη μίσος και βία. Όμως το counterspeech είναι αποτελεσματικό μόνο αν προέρχεται από αξιόπιστους ομιλητές. Συνεργαστήκαμε με ΜΚΟ και κοινοτικές ομάδες για να ενδυναμώσουμε τις φωνές που έχουν μεγαλύτερη σημασία.
Προγράμματα συνεργατών: Υποστηρίζουμε αρκετά σημαντικά προγράμματα counterspeech. Για παράδειγμα, πέρυσι συνεργαστήκαμε με το Ινστιτούτο Στρατηγικού Διαλόγου για την έναρξη της πρωτοβουλίας Civil Courage Initiative, ενός έργου που έχει συνεργαστεί με περισσότερους από 100 οργανισμούς κατά του μίσους και των τρομοκρατικών ομάδων σε ολόκληρη την Ευρώπη. Έχουμε επίσης συνεργαστεί με τα Affinis Labs για να φιλοξενήσουμε hackathons σε μέρη όπως η Μανίλα, η Ντάκα και η Τζακάρτα, όπου οι ηγέτες των κοινοτήτων ένωσαν τις δυνάμεις τους με τεχνολογικούς επιχειρηματίες για να αναπτύξουν καινοτόμες λύσεις ώστε να αντιμετωπίσουν τον εξτρεμισμό και το μίσος. Τέλος, το πρόγραμμα που υποστηρίξαμε με την ευρύτερη παγκόσμια εμβέλεια είναι ένας διαγωνισμός φοιτητών που διοργανώνεται μέσω του P2P: Facebook Global Digital Challenge. Σε λιγότερο από δύο χρόνια, το P2P έχει φτάσει σε περισσότερους από 56 εκατομμύρια ανθρώπους παγκοσμίως μέσω περισσότερων από 500 εκστρατειών κατά του μίσους.
Η δέσμευσή μας
Θέλουμε το Facebook να είναι ένα εχθρικό μέρος για τρομοκράτες. Η πρόκληση για τις διαδικτυακές κοινότητες είναι η ίδια όπως και για τις κοινότητες πραγματικού κόσμου – να βελτιωθεί η ανίχνευση των πρώιμων σημάτων προτού είναι πολύ αργά. Είμαστε απολύτως προσηλωμένοι στη διατήρηση της τρομοκρατίας μακρία από την πλατφόρμα μας και θα συνεχίσουμε να μοιραζόμαστε περισσότερα σχετικά με αυτό το έργο καθώς αναπτύσσεται στο μέλλον.
