Το Κογκρέσο πρέπει να αποτρέψει την παρακολούθηση από την Τεχνητή Νοημοσύνη. Η διαμάχη με την ANTHROPIC το αποδεικνύει.
Η σύγκρουση της εταιρείας με το Πεντάγωνο είναι μια διαμάχη για το μέλλον της αμερικανικής ιδιωτικότητας
Ο αμερικανικός στρατός θέλει να χρησιμοποιήσει τα υπερσύγχρονα εργαλεία τεχνητής νοημοσύνης που διαθέτει για να ενισχύσει την επιτήρηση εναντίον των Αμερικανών, καθιστώντας ευκολότερη από ποτέ την παρακολούθηση των κινήσεών μας, του ιστορικού αναζήτησής μας και των ιδιωτικών μας σχέσεων. Αυτό είναι ένα από τα σημαντικότερα συμπεράσματα μιας δραματικής διαμάχης μεταξύ του Υπουργείου Άμυνας και ορισμένων από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης στην Αμερική. Αυτό που αναδεικνύει περισσότερο αυτή η σύγκρουση, ωστόσο, είναι το πόσο εύκολα μπορούν να στραφούν τα συστήματα επιτήρησης τεχνητής νοημοσύνης εναντίον των ανθρώπων σε αυτήν τη χώρα και η επείγουσα ανάγκη παρέμβασης του Κογκρέσου.
Την περασμένη εβδομάδα, το Πεντάγωνο και ο Ντόναλντ Τραμπ ανακοίνωσαν ότι η κυβέρνηση θα σταματήσει να χρησιμοποιεί τα προϊόντα τεχνητής νοημοσύνης της Anthropic , υποστηρίζοντας ότι τα προστατευτικά κιγκλιδώματα που πρότεινε η εταιρεία - καμία μαζική εγχώρια επιτήρηση ή πλήρως αυτόνομα όπλα - ήταν απαράδεκτα. Η κυβέρνηση Τραμπ προχώρησε ακόμη περισσότερο, ισχυριζόμενη ότι αυτές οι θέσεις καθιστούν την Anthropic « κίνδυνο για την αλυσίδα εφοδιασμού » και απαγόρευσε σε οποιονδήποτε συνεργάζεται με τον αμερικανικό στρατό να διεξάγει εμπορική δραστηριότητα με την Anthropic στο πλαίσιο του στρατιωτικού της έργου.
Αλλά αυτή δεν είναι μια συνηθισμένη διαμάχη για συμβόλαια. Πρόκειται για μια διαμάχη για το μέλλον της αμερικανικής ιδιωτικότητας και τελικά θα μας επηρεάσει όλους.
Μην στοιχηματίζετε ότι το Πεντάγωνο - ή ο Anthropic - ενεργεί προς το δημόσιο συμφέρον
Στο επίκεντρο της διαμάχης βρίσκεται ο ισχυρισμός της κυβέρνησης ότι θα πρέπει να μπορεί να χρησιμοποιεί την Τεχνητή Νοημοσύνη για οποιονδήποτε «νόμιμο» σκοπό. Το πρόβλημα είναι ότι ο νόμος υστερεί δεκαετίες σε σχέση με την τεχνολογία. Ο νόμος δεν λαμβάνει υπόψη έναν κόσμο όπου τα κινητά τηλέφωνα είναι συσκευές παρακολούθησης· η περιήγησή μας στο διαδίκτυο είναι τόσο αποκαλυπτική όσο και το προσωπικό μας ημερολόγιο· τα δεδομένα μας μπορούν να αγοραστούν στην ελεύθερη αγορά· και όπου η Τεχνητή Νοημοσύνη θα επέτρεπε στην κυβέρνηση να ενσωματώσει απρόσκοπτα αυτά τα δεδομένα που αγοράζει στο πιο ολοκληρωμένο και μεγαλύτερο σύνολο εγχώριων φακέλων που έχουν δημιουργηθεί ποτέ.
Επιδεινώνοντας αυτό το πρόβλημα, όπως είδαμε με μερικές από τις χειρότερες καταχρήσεις παρακολούθησης μετά την 11η Σεπτεμβρίου, η εκτελεστική εξουσία συχνά αποφασίζει κρυφά τι είναι «νόμιμο». Χωρίς σαφείς και συγκεκριμένους κανόνες από το Κογκρέσο, η κυβέρνηση Τραμπ θα μπορούσε να εγκρίνει ένα εγχώριο πρόγραμμα κατασκοπείας και να το θεωρήσει νόμιμο επειδή το είπε η ίδια. Δεδομένων όσων ήδη γνωρίζουμε για την ακούραστη δίψα της κυβέρνησης για τα δεδομένα μας - και πόσο πρόθυμη ήταν ήδη να παρακάμψει τα δικαιώματά μας που απορρέουν από την τέταρτη τροπολογία κατά των παράλογων ερευνών και κατασχέσεων - αυτή η προοπτική είναι τουλάχιστον ανατριχιαστική.
Το υπουργείο Άμυνας και άλλες ομοσπονδιακές υπηρεσίες έχουν ήδη λάβει τη θέση ότι μπορούν να αγοράσουν «νόμιμα» τα προσωπικά δεδομένα των Αμερικανών -συμπεριλαμβανομένου του ιστορικού τοποθεσίας και των αρχείων περιήγησης στο διαδίκτυο- και να αναζητήσουν αυτά τα δεδομένα χωρίς δικαστική εντολή. Παρόλο που οι δικομματικοί συνασπισμοί στο Κογκρέσο έχουν επικρίνει εδώ και καιρό αυτές τις αναζητήσεις χωρίς ένταλμα, μέχρι στιγμής δεν έχουν καταφέρει να τις τερματίσουν.
Αλλά το πρόβλημα είναι έτοιμο να επιδεινωθεί πολύ περισσότερο με την Τεχνητή Νοημοσύνη. Σύμφωνα με ρεπορτάζ των New York Times σχετικά με τις διαπραγματεύσεις της σύμβασης, το Πεντάγωνο ήθελε να εφαρμόσει την Τεχνητή Νοημοσύνη στη «συλλογή και ανάλυση μη διαβαθμισμένων, εμπορικών δεδομένων μαζικής παραγωγής για τους Αμερικανούς, όπως δεδομένα γεωγραφικής τοποθεσίας και περιήγησης στο διαδίκτυο». Η αναφορά όχι μόνο επιβεβαιώνει ότι η κυβέρνηση, στην πραγματικότητα, συλλέγει μαζικά τα προσωπικά δεδομένα των Αμερικανών, αλλά δείχνει ότι το Πεντάγωνο θέλει να αναπτύξει τα πιο ισχυρά εργαλεία στον κόσμο για να εκμεταλλευτεί αυτό το τεράστιο και αμφιλεγόμενο σύνολο δεδομένων.
Αυτά τα εργαλεία υπόσχονται να συνδυάζουν δεδομένα από διαφορετικές πηγές, να βρίσκουν μοτίβα και να συμπυκνώνουν τα αποτελέσματα σε μια λεπτομερή εικόνα των κινήσεων, των πολιτικών απόψεων ή των ενώσεων κάποιου.
Τα εργαλεία τεχνητής νοημοσύνης θα μπορούσαν να επιτρέψουν στην κυβέρνηση, με το πάτημα ενός κουμπιού, να εξάγει πληροφορίες και συμπεράσματα για ένα άτομο, τα οποία προηγουμένως θα χρειάζονταν ημέρες ή εβδομάδες για να αναπτυχθούν από έναν πράκτορα ή αναλυτή. Αυτά τα εργαλεία υπόσχονται να συνδυάζουν δεδομένα από διαφορετικές πηγές, να βρίσκουν μοτίβα και να συμπυκνώνουν τα αποτελέσματα σε μια λεπτομερή εικόνα των κινήσεων, των πολιτικών απόψεων ή των σχέσεών κάποιου. Για παράδειγμα: η κυβέρνηση μπορεί να αγοράσει ένα μεγάλο σύνολο δεδομένων που περιέχει τις κινήσεις χιλιάδων κινητών τηλεφώνων, αλλά συχνά αυτά τα ίχνη ψηφιακών δεδομένων δεν έχουν ονόματα, απαιτώντας πρόσθετη ανάλυση. Η τεχνητή νοημοσύνη μπορεί να διεξάγει αυτό το είδος ανάλυσης πιο γρήγορα από οποιονδήποτε άνθρωπο, ενώ ενσωματώνει άλλες ροές δεδομένων για μια ακόμη πιο ολοκληρωμένη εικόνα της ζωής ενός ατόμου. Και μπορεί να κάνει αυτό το έργο σε μεγάλη κλίμακα. Αυτό είναι ιδιαίτερα ανησυχητικό αν λάβει κανείς υπόψη τον αγώνα της κυβέρνησης Τραμπ για πρόσβαση σε δεδομένα ψηφοφορίας, αρχεία υγείας και φορολογικές πληροφορίες.
Η μάχη του Anthropic μπορεί να είναι με το Πεντάγωνο, αλλά και άλλες κυβερνητικές υπηρεσίες αγοράζουν μαζικά εμπορικά δεδομένα. Όπως έχει επιβεβαιώσει το έργο του ACLU για τον Νόμο περί Ελευθερίας της Πληροφόρησης , η ICE έχει επανειλημμένα αγοράσει δεδομένα τοποθεσίας κινητών τηλεφώνων και πληροφορίες από βάσεις δεδομένων πινακίδων κυκλοφορίας για να κυνηγήσει κοινότητες μεταναστών. Και τους τελευταίους μήνες, ομοσπονδιακοί πράκτορες συλλέγουν επίσης δεδομένα πινακίδων κυκλοφορίας και αποτυπώματα προσώπου από ορισμένα από τα άτομα που διαμαρτύρονται και καταγράφουν τις δραστηριότητές τους δημόσια. Σε αυτό το πλαίσιο, υπάρχουν κάθε λόγος ανησυχίας για τις εξουσίες που συσσωρεύουν αυτές οι υπηρεσίες μέσω της Τεχνητής Νοημοσύνης.
Οι πράκτορες της τεχνητής νοημοσύνης θα μπορούσαν να αποτελέσουν κίνδυνο για την ανθρωπότητα. Πρέπει να δράσουμε για να αποτρέψουμε αυτό το μέλλον.
Όπως και σε άλλα πλαίσια, τα εργαλεία Τεχνητής Νοημοσύνης αφαιρούν την ανθρώπινη τριβή από το έργο της επιτήρησης, μεγεθύνοντας τους κινδύνους της ψηφιακής κατασκοπείας καθιστώντας την φθηνότερη, ταχύτερη και πιο λεπτομερή. Εάν το Κογκρέσο δεν παρέμβει, η εφαρμογή της Τεχνητής Νοημοσύνης σε «νόμιμα» αποκτηθέντα δεδομένα θα μπορούσε γρήγορα να οδηγήσει σε μια δυστοπική κυβερνητική βάση δεδομένων γεμάτη με τις πιο αποκαλυπτικές λεπτομέρειες για όλους μας. Οι συνέπειες μιας μαζικής εγχώριας βάσης δεδομένων που τροφοδοτείται από την Τεχνητή Νοημοσύνη θα ήταν καταστροφικές: μεγάλης κλίμακας παραβιάσεις της ιδιωτικότητας, ακραία πτώση στις ελευθερίες του λόγου και του συνεταιρίζεσθαι και στοχοποίηση ευάλωτων ή μη δημοφιλών πληθυσμών για περαιτέρω έλεγχο ή και χειρότερα.
Για την κοινωνία στο σύνολό της, αυτές οι επιπτώσεις είναι διαβρωτικές. Και όπως γνωρίζουμε από πρώτο χέρι από τους πελάτες μας στην ACLU, η κυβερνητική παρακολούθηση μπορεί να οδηγήσει σε μεροληπτική καταγραφή προφίλ και σε λίστες παρακολούθησης. Μπορεί να οδηγήσει σε αδικαιολόγητες έρευνες και διώξεις. Και αφήνει τους ανθρώπους να αγνοούν για δεκαετίες.
Τη Δευτέρα το βράδυ, η OpenAI – η οποία είχε ανακοινώσει συμφωνία με το Πεντάγωνο μετά την απόρριψη της συμφωνίας της Anthropic – δήλωσε ότι τροποποιεί τη συμφωνία της για να προσθέσει διατύπωση που προστατεύει τις πολιτικές ελευθερίες των πολιτών των ΗΠΑ και των μόνιμων κατοίκων. Ενώ αυτή είναι μια ευπρόσδεκτη εξέλιξη, η νέα διατύπωση είναι γεμάτη παραθυράκια. Και υπογραμμίζει ένα μεγαλύτερο πρόβλημα: τα δικαιώματά μας δεν πρέπει να αυξάνονται ή να μειώνονται με τις ιδιοτροπίες ενός διευθύνοντος συμβούλου. Το αν οι κυβερνητικές υπηρεσίες θα πρέπει να αγοράζουν τα προσωπικά δεδομένα των Αμερικανών και αν θα πρέπει να εφαρμόζουν εργαλεία Τεχνητής Νοημοσύνης για την ανάλυση αυτών των δεδομένων, είναι εξαιρετικά σημαντικά ερωτήματα. Οι απαντήσεις σε αυτά τα ερωτήματα δεν θα πρέπει να εξαρτώνται από συμβάσεις που μπορούν να αλλάξουν ανά πάσα στιγμή (και κρυφά)· ούτε θα πρέπει να εξαρτώνται από τις ατομικές απόψεις ή τα κίνητρα της αγοράς των στελεχών της τεχνολογίας. Οι άνθρωποι στις Ηνωμένες Πολιτείες αξίζουν μια πραγματική και διαρκή νομοθετική λύση για την προστασία του απορρήτου τους. Το Κογκρέσο πρέπει να παρέμβει.
Το Κογκρέσο μπορεί να ξεκινήσει ψηφίζοντας τον διμερή νόμο περί Τέταρτης Τροπολογίας «Δεν Πωλείται», ένα νομοσχέδιο κοινής λογικής για τη μεταρρύθμιση που απαγορεύει στην κυβέρνηση να αγοράζει δεδομένα για τα οποία διαφορετικά θα χρειαζόταν ένταλμα για να τα αποκτήσει. Το Κογκρέσο πρέπει επίσης να επιβάλει βασικά μέτρα προστασίας στη χρήση νέων εργαλείων τεχνητής νοημοσύνης από την κυβέρνηση: πρέπει να προστατεύει από παραβιάσεις της ιδιωτικής μας ζωής χωρίς ένταλμα και από παρεμβάσεις στις ελευθερίες του λόγου και του συνεταιρίζεσθαι, τόσο στο διαδίκτυο όσο και εκτός διαδικτύου.
