«Σου λέω με ξέρεις πιο πολύ απ' όλους στη ζωή μου» τραγούδησαν πριν από λίγα χρόνια η Χαρούλα Αλεξίου και ο Φίλιππος Πλιάτσικας. Μάλλον, μιλούσαν για έναν έρωτα, για μια σχέση ζωής. Στην εποχή της αναδυόμενης τεχνητής νοημοσύνης αυτός που μας γνωρίζει, όμως, καλύτερα από όλους δεν είναι ένας άνθρωπος, είτε αυτός είναι ένας σύντροφος είτε ένας στενός φίλος. Είναι οι αλγόριθμοι.
Χάρη στα δεδομένα που εμείς τους τροφοδοτούμε μέσα από τις κινήσεις μας στα κοινωνικά δίκτυα, τις αγορές μας, τις προτιμήσεις μας και τους φίλους μας, είναι σε θέση να γνωρίζουν τα πάντα για μας. Ξέρουν την κοινωνική μας ζωή, με ποιους συναναστρεφόμαστε, πού κινούμαστε, πότε ταξιδεύουμε, τι μας αρέσει να διαβάζουμε, ποιες είναι οι πολιτικές μας προτιμήσεις, ποιος είναι ο χαρακτήρας μας και ποια η προσωπικότητά μας.
Πρόκειται για έναν τρομακτικό όγκο πληροφοριών, ο οποίος μπορεί να χρησιμοποιηθεί ανά πάσα στιγμή εις βάρος μας, όπως έδειξε το σκάνδαλο με το Facebook και την Cambridge Analytica. Οι αλγόριθμοι, όμως, δεν περιορίζονται απλά στο να μας αναλύουν. Μπορούν να αναγνωρίζουν και μελλοντικές μας συμπεριφορές. Με λίγα λόγια μέσα από τις προβλέψεις τους, οι αλγόριθμοι, που εμείς φτιάξαμε, φτιάχνουν εμάς και εμείς σπάνια έχουμε επίγνωση για αυτή την επίδραση πάνω μας.
Η ολλανδική κυβέρνηση την περασμένη βδομάδα αναγκάστηκε να σταματήσει τη λειτουργία ενός αμφιλεγόμενου ψηφιακού προγράμματος που επεξεργαζόταν προσωπικά δεδομένα, προκειμένου να ανιχνεύσει μελλοντικούς οικονομικά «εγκληματίες». Το πρόγραμμα ανέλυε ένα ευρύ φάσμα προσωπικών και ευαίσθητων δεδομένων ανθρώπων από τα λαϊκά στρώματα, με σκοπό να προβλέψει πόσο πιθανό είναι αυτοί οι πολίτες να διαπράξουν φορολογικές απάτες. Ευτυχώς, χάρη στην παρέμβαση της δικαιοσύνης, η ολλανδική κυβέρνηση αναγκάστηκε να κάνει πίσω.
Το γεγονός, όμως, πως η δημοκρατική Ολλανδία έφτασε στο σημείο να εφαρμόσει ένα τέτοιο πρόγραμμα, δείχνει με τον πιο ξεκάθαρο τρόπο πόσο ευάλωτοι είμαστε στην τεχνολογική εποχή που ζούμε. Και ακριβώς για αυτό τον λόγο είναι άμεση ανάγκη να θεσμοθετηθούν αυστηροί νόμοι και κανόνες που να απαγορεύουν σε εταιρείες και κυβερνήσεις να προβαίνουν σε τέτοιες καταχρήσεις. Καθώς δεκάδες παρόμοια προγράμματα βρίσκονται στα σκαριά, πρέπει να μπουν όρια μέχρι πού μπορεί να χρησιμοποιηθούν τα προσωπικά μας δεδομένα. Άλλωστε είμαστε ένοχοι μέχρι αποδείξεως του αντιθέτου, όχι γιατί ένας αλγόριθμος θεωρεί ότι μπορεί μελλοντικά να παρανομήσουμε.