Γιατί τα ατυχήματα αποτελούν τον μεγαλύτερο κίνδυνο
Λίγοι από τους πρώτους παρατηρητές του Ψυχρού Πολέμου θα μπορούσαν να φανταστούν ότι η χειρότερη πυρηνική καταστροφή της εποχής θα συνέβαινε σε μια άγνωστη εγκατάσταση παραγωγής ενέργειας στην Ουκρανία. Η καταστροφή του Τσερνομπίλ το 1986 ήταν το αποτέλεσμα ενός ελαττωματικού σχεδιασμού πυρηνικού αντιδραστήρα και μιας σειράς λαθών που έγιναν από τους χειριστές του εργοστασίου. Το γεγονός ότι οι παγκόσμιες υπερδυνάμεις έμπαιναν σε μια κούρσα εξοπλισμών δυνητικά καταστροφικού μεγέθους έτεινε να επισκιάζει τους λιγότερο προφανείς κινδύνους που εγκυμονούσε αυτό που ήταν τότε μια πειραματική νέα τεχνολογία. Και όμως, παρά τα τρομακτικά επεισόδια, όπως η κρίση των πυραύλων της Κούβας το 1962, ήταν μια αποτυχία απλών μέτρων ασφαλείας η οποία επιδεινώθηκε από την αυταρχική αδεξιότητα της κρίσης που οδήγησε στην ανεξέλεγκτη απελευθέρωση 400 φορές περισσότερη ακτινοβολία από εκείνη που εξέπεμψε η αμερικανική πυρηνική βόμβα στην Χιροσίμα το 1945. Οι εκτιμήσεις για την καταστροφή από το Τσερνομπίλ κυμαίνονται από εκατοντάδες έως δεκάδες χιλιάδες πρόωρους θανάτους από την ακτινοβολία -για να μην αναφέρουμε μια «ζώνη αποκλεισμού» που είναι διπλάσια σε μέγεθος από το Λονδίνο και παραμένει σε μεγάλο βαθμό εγκαταλελειμμένη μέχρι σήμερα.
Καθώς ο κόσμος κατασταλάζει σε μια νέα εποχή αντιπαλότητας -αυτήν την φορά μεταξύ της Κίνας και των Ηνωμένων Πολιτειών-, ο ανταγωνισμός για μια άλλη επαναστατική τεχνολογία, την τεχνητή νοημοσύνη, έχει προκαλέσει ένα κύμα στρατιωτικών και ηθικών ανησυχιών παράλληλων με εκείνες που ξεκίνησαν από την πυρηνική κούρσα. Αυτές οι ανησυχίες αξίζουν την προσοχή που λαμβάνουν, και όχι μόνο: ένας κόσμος αυτόνομων όπλων και πολέμου με μηχανική ταχύτητα θα μπορούσε να έχει καταστροφικές συνέπειες για την ανθρωπότητα. Η χρήση εργαλείων τεχνητής νοημοσύνης από το Πεκίνο για να συμβάλει στην τροφοδότηση των εγκλημάτων κατά της ανθρωπότητας εναντίον του λαού των Ουιγούρων στην Σιντζιάνγκ ισοδυναμεί ήδη με καταστροφή.
Εξίσου ανησυχητική όμως θα πρέπει να είναι και η πιθανότητα οι μηχανικοί τεχνητής νοημοσύνης (artificial intelligence, ΑΙ) να προκαλέσουν ακούσια ατυχήματα με τραγικές συνέπειες. Παρόλο που τα συστήματα ΑΙ δεν εκρήγνυνται όπως οι πυρηνικοί αντιδραστήρες, οι εκτεταμένες δυνατότητές τους για καταστροφή περιλαμβάνουν τα πάντα, από την ανάπτυξη νέων θανατηφόρων παθογόνων μικροοργανισμών έως την παραβίαση κρίσιμων συστημάτων όπως τα ηλεκτρικά δίκτυα και οι αγωγοί πετρελαίου. Λόγω της χαλαρής προσέγγισης του Πεκίνου απέναντι στους τεχνολογικούς κινδύνους και της χρόνιας κακής διαχείρισης των κρίσεων, ο κίνδυνος ατυχημάτων από ΑΙ είναι πιο σοβαρός στην Κίνα. Μια καθαρή αξιολόγηση αυτών των κινδύνων -και της πιθανότητας διάχυσης πολύ πέρα από τα σύνορα της Κίνας- θα πρέπει να αναδιαμορφώσει τον τρόπο με τον οποίο ο τομέας της ΑΙ εξετάζει τους κινδύνους της εργασίας του.
ΜΙΑ ΔΙΑΦΟΡΕΤΙΚΗ ΑΙΣΘΗΣΗ ΚΙΝΔΥΝΟΥ
Ο χαρακτηρισμός του κινδύνου της τεχνητής νοημοσύνης αποτελεί θέμα δημόσιας συζήτησης τους τελευταίους μήνες, με ορισμένους ειδικούς να υποστηρίζουν ότι η υπεράνθρωπη νοημοσύνη θα αποτελέσει κάποια στιγμή υπαρξιακή απειλή για την ανθρωπότητα και άλλους να κατακεραυνώνουν τους «μοιρολάτρες της τεχνητής νοημοσύνης» για καταστροφολογία. Αλλά ακόμη και αν αφήσουμε κατά μέρος τους πιο ακραίους φόβους για μια δυστοπία της ΑΙ, προηγούμενα περιστατικά έχουν δώσει πολλούς λόγους να ανησυχούμε για ακούσιες καταστροφές μεγάλης κλίμακας στο εγγύς μέλλον.
Για παράδειγμα, οι σύνθετες αλληλεπιδράσεις μεταξύ των συστημάτων ΑΙ στον τομέα της χρηματοοικονομικής θα μπορούσαν να προκαλέσουν κατά λάθος συντριβή των αγορών, όπως συνέβη με τις αλγοριθμικές συναλλαγές στο «flash crash» του 2010, το οποίο εξαφάνισε προσωρινά μετοχές αξίας ενός τρισεκατομμυρίου δολαρίων μέσα σε λίγα λεπτά. Όταν οι ερευνητές φαρμάκων χρησιμοποίησαν την ΑΙ για να αναπτύξουν 40.000 πιθανά βιοχημικά όπλα σε λιγότερο από έξι ώρες πέρυσι, έδειξαν [1] το πώς σχετικά απλά συστήματα ΑΙ μπορούν εύκολα να προσαρμοστούν με καταστροφικά αποτελέσματα. Οι εξελιγμένες επιθέσεις στον κυβερνοχώρο με την βοήθεια της ΑΙ θα μπορούσαν επίσης να ξεφύγουν, εκτροχιάζοντας αδιακρίτως κρίσιμα συστήματα από τα οποία εξαρτώνται οι κοινωνίες, όχι σε αντίθεση με την περιβόητη επίθεση NotPetya, την οποία η Ρωσία εξαπέλυσε εναντίον της Ουκρανίας το 2017, αλλά τελικά μόλυνε υπολογιστές σε ολόκληρο τον κόσμο. Παρά τις προειδοποιητικές αυτές ενδείξεις, η τεχνολογία ΑΙ συνεχίζει να εξελίσσεται με ιλιγγιώδη ταχύτητα, με αποτέλεσμα οι κίνδυνοι για την ασφάλεια να πολλαπλασιάζονται ταχύτερα από όσο μπορούν να δημιουργηθούν λύσεις.
Οι περισσότεροι Αμερικανοί ίσως να μην γνωρίζουν καλά τις λεπτομέρειες αυτών των κινδύνων, αλλά αναγνωρίζουν τους κινδύνους που εγκυμονεί η ενσωμάτωση νέων ισχυρών τεχνολογιών σε πολύπλοκα, επακόλουθα συστήματα. Σύμφωνα με μια έρευνα της Ipsos [2] που δημοσιεύθηκε το 2022, μόνο το 35% των Αμερικανών πιστεύει ότι τα οφέλη της τεχνητής νοημοσύνης υπερτερούν των κινδύνων της, καθιστώντας τις Ηνωμένες Πολιτείες από τις πιο απαισιόδοξες χώρες στον κόσμο όσον αφορά τις υποσχέσεις της τεχνολογίας. Έρευνες σε μηχανικούς αμερικανικών εργαστηρίων τεχνητής νοημοσύνης υποδηλώνουν ότι μπορεί να είναι, αν μη τι άλλο, πιο ευαισθητοποιημένοι σε θέματα ασφάλειας από το ευρύτερο κοινό. Ο Geoffrey Hinton, γνωστός ως ο «νονός της τεχνητής νοημοσύνης», και μέχρι πρόσφατα αντιπρόεδρος της Google, εγκατέλειψε την βιομηχανία για να υποστηρίξει [3] ότι οι επιστήμονες πρέπει να απέχουν από την κλιμάκωση της τεχνολογίας τεχνητής νοημοσύνης «μέχρι να κατανοήσουν αν μπορούν να την ελέγξουν».
Η Κίνα, αντίθετα, κατατάσσεται ως η πιο αισιόδοξη χώρα στον κόσμο όσον αφορά την τεχνητή νοημοσύνη, με σχεδόν τέσσερις στους πέντε Κινέζους πολίτες να δηλώνουν [4] ότι πιστεύουν στα οφέλη της έναντι των κινδύνων της. Ενώ η κυβέρνηση των Ηνωμένων Πολιτειών και η Silicon Valley έχουν περάσει πολλά χρόνια σε μια αντίδραση κατά της νοοτροπίας «κινηθείτε γρήγορα και καταστρέψτε πράγματα», οι εταιρείες τεχνολογίας και η κυβέρνηση της Κίνας εξακολουθούν να υπερηφανεύονται για την υιοθέτηση αυτού του ήθους. Οι Κινέζοι ηγέτες της τεχνολογίας είναι ενθουσιασμένοι με την προθυμία της κυβέρνησής τους να ζήσει με τους κινδύνους της τεχνητής νοημοσύνης που, σύμφωνα με τα λόγια [5] του βετεράνου εμπειρογνώμονα της τεχνητής νοημοσύνης και στελέχους της κινεζικής τεχνολογίας, Kai-Fu Lee, «θα τρόμαζαν τους ευαίσθητους στον κίνδυνο Αμερικανούς πολιτικούς».
ΑΜΝΗΣΙΑ ΓΙΑ ΤΙΣ ΚΑΤΑΣΤΡΟΦΕΣ
Η διαφορά μεταξύ των αντιλήψεων των Κινέζων και των Αμερικανών για τους κινδύνους της τεχνητής νοημοσύνης και η προθυμία των αντίστοιχων τεχνολογικών τομέων τους να αναλάβουν κινδύνους δεν είναι τυχαία. Είναι αποτέλεσμα των κινεζικών πολιτικών που συστηματικά καταστέλλουν την εμπειρία των πολιτών από τις καταστροφές για να προστατεύσουν την κυβέρνηση από την δημόσια κριτική.
Στις Ηνωμένες Πολιτείες, οι καταστροφές τείνουν να προκαλούν αυξημένη δημόσια συνείδηση και ενισχυμένα μέτρα ασφαλείας, καθώς οι σπαρακτικές συνέπειές τους διαχέονται στα μέσα ενημέρωσης και την κοινωνία -σε βιομηχανίες υψηλής έντασης μηχανημάτων, όπως η εξόρυξη πετρελαίου, η καθημερινή παραγωγή τροφίμων και φαρμάκων, και η επεξεργασία επικίνδυνων χημικών ουσιών. Ακόμα και τώρα, οι νομοθέτες στο Οχάιο προχωρούν σε νέους κανονισμούς ασφαλείας μετά τον εκτροχιασμό ενός φλεγόμενου τρένου τον Φεβρουάριο που εκτόξευσε ένα σύννεφο τοξικών χημικών πάνω από την πόλη East Palestine.
Στην Κίνα, όμως, τέτοιου είδους ατυχήματα σπάνια βρίσκουν αντίκτυπο στα μέσα ενημέρωσης, καθώς το κράτος διατηρεί ασφυκτικό έλεγχο των πληροφοριών για να προάγει μια συνεχή ατμόσφαιρα σταθερότητας. Το Κινεζικό Κομμουνιστικό Κόμμα καταπνίγει τις πληροφορίες όταν οι αντιδράσεις στις καταστροφές έχουν τύχει κακής διαχείρισης και παραποιεί συστηματικά τους αριθμούς των νεκρών. Η κυβέρνηση μερικές φορές αρνείται να αναγνωρίσει, πόσω μάλλον να αναφέρει, τεράστιες τραγωδίες όπως η μαζική δηλητηρίαση από ραδιενέργεια που προήλθε από τουλάχιστον 40 πυρηνικές δοκιμές οι οποίες πραγματοποιήθηκαν μεταξύ 1964 και 1996, και οδήγησαν στον πρόωρο θάνατο σχεδόν 200.000 πολιτών.
Το αποτέλεσμα είναι μια κουλτούρα αμνησίας των καταστροφών, στην οποία είναι συχνά αδύνατο για το κοινό να απαιτήσει αλλαγή ή για την κυβέρνηση να αναγκαστεί να μάθει από τα δαπανηρά ατυχήματα. Η μικρή υπευθυνότητα για τα λάθη σημαίνει ότι οι ιδιοκτήτες επιχειρήσεων τείνουν να παίζουν γρήγορα και χαλαρά με την ασφάλεια, όπως αποδεικνύεται από την φρικτή ιστορία των βιομηχανικών ατυχημάτων στην Κίνα. Ακόμα και οι σπάνιες περιπτώσεις στις οποίες τα ατυχήματα εκτίθενται δημοσίως δεν έχουν την δύναμη της παραμονής που θα μπορούσε να οδηγήσει σε σοβαρές μεταρρυθμίσεις. Για παράδειγμα, η δημόσια κατακραυγή σχετικά με τη μαζική παραγωγή τοξικής οδοντόκρεμας το 2007, το δηλητηριασμένο βρεφικό γάλα το 2008, και η σύγκρουση τρένων υψηλής ταχύτητας κοντά στην Wenzhou το 2011 προκάλεσαν καλά δημοσιοποιημένες επιδείξεις αποδιοπομπαίων τράγων και δυνατά διακηρυγμένα κυβερνητικά σχέδια μεταρρυθμίσεων, αλλά είχαν περιορισμένες επιπτώσεις στην δημόσια ασφάλεια. Η κινεζική κυβέρνηση προβάλλει συχνά μια βιτρίνα ανταπόκρισης, αλλά στην συνέχεια θάβει πληροφορίες σχετικά με τα γεγονότα, κυριολεκτικά στην περίπτωση των -υπόγειων πλέον- υπολειμμάτων του κατεστραμμένου τρένου της Wenzhou. Δεδομένου ότι η Κίνα έχει ένα πολύ πιο περιοριστικό οικοσύστημα μέσων ενημέρωσης υπό τον Σι Τζινπίνγκ από όσο όταν συνέβησαν αυτά τα περιστατικά, η δημόσια έκθεση είναι ακόμη λιγότερο πιθανή σήμερα.
Με τις χειρότερες διαφωνίες ως προς τις αναδυόμενες τεχνολογίες να αποσιωπούνται συστηματικά από την δημόσια συνείδηση, η κινεζική κοινωνία επιδεικνύει μια φαινομενικά απεριόριστη αίσθηση τεχνο-αισιοδοξίας, ειδικά απέναντι σε νέες τεχνολογίες όπως η τεχνητή νοημοσύνη. Δεδομένου ότι η ιστορική άνοδος της Κίνας από την φτώχεια συνοδεύτηκε από υψηλής ταχύτητας τεχνολογική πρόοδο, η επιτάχυνση της επιστημονικής έρευνας είναι πρακτικά συνώνυμη της εθνικής προόδου στο κινεζικό zeitgeist (πνεύμα των καιρών) -θεωρείται ότι έχει ελάχιστα, αν όχι καθόλου, μειονεκτήματα.
Για να δείτε αυτή την προσέγγιση που κινείται ολοταχώς, μην κοιτάξετε πέρα από τον He Jiankui, τον Κινέζο επιστήμονα που συγκλόνισε τον κόσμο το 2018, τροποποιώντας γενετικά ανθρώπινα έμβρυα κρυφά για να παράγει τα πρώτα γονιδιακά τροποποιημένα μωρά στον κόσμο. Ο γιατρός περίμενε, και αρχικά έλαβε, υψηλούς επαίνους στην Κίνα για το κατόρθωμά του, αλλά η κυβέρνηση έκανε αδέξια μια στροφή ως απάντηση στην διεθνή κατακραυγή για τη μονομερή απόφασή του να ωθήσει την ανθρωπότητα σε αχαρτογράφητο έδαφος. Όπως ήταν αναμενόμενο, η περαιτέρω εξέταση έδειξε ότι ο He μπέρδεψε ανεπανόρθωτα το πείραμά του, σε αυτό που ένας γενετιστής αποκάλεσε [6] «μια παραστατική επίδειξη της απόπειρας γονιδιακής επεξεργασίας που πήγε στραβά». Όχι μόνο πιθανώς απέτυχε να κάνει τα τροποποιημένα μωρά (και τους πιθανούς απογόνους τους) ανθεκτικά στον HIV όπως σκόπευε, αλλά και δυνητικά αύξησε την ευαισθησία τους στην γρίπη, τον καρκίνο, και άλλες ασθένειες. Μετά από ένα διάστημα φυλάκισης, ο He αποφυλακίστηκε και συνεχίζει την έρευνά του, παράλληλα με τη νέα κινεζική νομοθεσία που παρέχει παραθυράκια για παρόμοια ηθικά επιβαρυμένα και δυνητικά κερδοφόρα γενετικά πειράματα.
ΑΧΑΛΙΝΩΤΗ ΦΙΛΟΔΟΞΙΑ
Όχι μόνο οι πειραματικές τεχνολογίες θεωρούνται σε μεγάλο βαθμό ακίνδυνες στην Κίνα, αλλά η χώρα έχει επίσης δεσμευτεί σε ένα πυρετώδες σπριντ για να γίνει «το κορυφαίο κέντρο καινοτομίας τεχνητής νοημοσύνης στον κόσμο» μέχρι το 2030.
Οι προσπάθειες της Κίνας να ξεπεράσει τις Ηνωμένες Πολιτείες στην τεχνητή νοημοσύνη αποτελούν προτεραιότητα για το Κομμουνιστικό Κόμμα τουλάχιστον από το 2015, όταν ο Σι ανακοίνωσε τη στρατηγική του «Made in China 2025». Αυτή η έμφαση στην ΑΙ έχει έκτοτε επαναληφθεί σε διάφορα εθνικά έγγραφα [7] και ομιλίες [8]. Η Τεχνητή Νοημοσύνη έχει καταστεί άξονας της στρατηγικής στρατιωτικού εκσυγχρονισμού της Κίνας και αποτελεί όλο και περισσότερο αναπόσπαστο μέρος του συστήματος κρατικής επιτήρησης, καταστολής, και ελέγχου της χώρας. Με τόσα πολλά να διακυβεύονται, δεν αποτελεί έκπληξη το γεγονός ότι η κυβέρνηση της Κίνας επενδύει δεκάδες δισεκατομμύρια δολάρια ετησίως στον τομέα της ΑΙ και αξιοποιεί το τεράστιο κατασκοπευτικό της δίκτυο για να προσπαθήσει να κλέψει τα τεχνολογικά μυστικά ξένων εταιρειών.
Η φρενίτιδα της τεχνητής νοημοσύνης της Κίνας αποδίδει. Η χώρα παράγει περισσότερους κορυφαίους μηχανικούς τεχνητής νοημοσύνης από οποιαδήποτε άλλη χώρα -περίπου 45% περισσότερους από τις Ηνωμένες Πολιτείες, τον πλησιέστερο ανταγωνιστή της. Έχει επίσης ξεπεράσει τις Ηνωμένες Πολιτείες στην δημοσίευση υψηλής ποιότητας έρευνας ΑΙ, αντιπροσωπεύοντας [9] σχεδόν το 30% των αναφορών σε περιοδικά ΑΙ παγκοσμίως το 2021, σε σύγκριση με το 15% για τις Ηνωμένες Πολιτείες. Φέτος, η Κίνα αναμένεται [10] να ξεπεράσει τις Ηνωμένες Πολιτείες με το μερίδιό της στο κορυφαίο 1% των πιο πολυαναφερόμενων άρθρων ΑΙ παγκοσμίως. Όπως προειδοποίησε η Επιτροπή Εθνικής Ασφάλειας των ΗΠΑ για την Τεχνητή Νοημοσύνη, «η Κίνα διαθέτει την δύναμη, το ταλέντο, και την φιλοδοξία να ξεπεράσει τις Ηνωμένες Πολιτείες ως παγκόσμιος ηγέτης στην Τεχνητή Νοημοσύνη την επόμενη δεκαετία, αν οι τρέχουσες τάσεις δεν αλλάξουν».
Οι θεωρητικοί ανησυχούν εδώ και καιρό ότι ο ανταγωνισμός της τεχνητής νοημοσύνης θα μπορούσε να προκαλέσει έναν αγώνα δρόμου προς τα κάτω όσον αφορά την ασφάλεια. Αλλά στους ανταγωνισμούς μεταξύ μεγάλων δυνάμεων, οι καθιερωμένοι κατεστημένοι και οι φιλόδοξοι διεκδικητές έχουν συνήθως πολύ διαφορετικά επίπεδα αποστροφής κινδύνου, με τους τελευταίους να επιδεικνύουν συχνά πολύ μεγαλύτερη όρεξη για ρίσκο σε μια προσπάθεια εξισορρόπησης των αντιληπτών ασυμμετριών.
Το σημερινό σπριντ τεχνητής νοημοσύνης δεν θα αποτελούσε την πρώτη φορά που η επιθυμία του Πεκίνου να επιταχύνει την πρόοδο θα προκαλούσε καταστροφή. Η προσπάθεια του Κινέζου ηγέτη, Μάο Τσετούνγκ, να κολεκτιβοποιήσει τα αγροκτήματα, να λιώσει γεωργικά εργαλεία για να τροφοδοτήσει την βιομηχανική ανάπτυξη, και να εκτοξεύσει την παραγωγή χάλυβα στο λεγόμενο Μεγάλο Άλμα προς τα εμπρός βύθισε την Κίνα στον χειρότερο λιμό στην ιστορία της ανθρωπότητας, με περίπου 30 εκατομμύρια ανθρώπους να πεθαίνουν από την πείνα μεταξύ 1959 και 1961. Αργότερα, η προσπάθεια της Κίνας να βάλει φρένο στην αύξηση του πληθυσμού μέσω της πολιτικής του ενός παιδιού το 1979 -που προσαρμόστηκε σε πολιτική δύο παιδιών μόλις το 2015- οδήγησε σε εκτεταμένες αναγκαστικές αμβλώσεις και παιδοκτονίες, σε μια πληθυσμιακή ανισορροπία με περίπου 33 εκατομμύρια περισσότερους άνδρες από όσο γυναίκες και σε μια σοβαρή δημογραφική κρίση γήρανσης σε ολόκληρη την χώρα.
Λιγότερο εκτεταμένες προσπάθειες επιτάχυνσης, όπως η βιασύνη της Κίνας την δεκαετία του 1990 να επωφεληθεί από την εμπορική βιομηχανία εκτόξευσης δορυφόρων, προκάλεσε επίσης τραγωδία όταν ένας πύραυλος έπεσε σε μια κινεζική πόλη το 1996, σκοτώνοντας άγνωστο αριθμό θυμάτων. Σήμερα, σύμφωνα με ερευνητικό ρεπορτάζ της Wall Street Journal, υδροηλεκτρικοί σταθμοί, συγκροτήματα κοινωνικής στέγασης, και σχολεία που κατασκευάστηκαν σε όλο τον κόσμο στο πλαίσιο της φιλόδοξης κινεζικής πρωτοβουλίας «Ζώνη και Οδός» (Belt and Road Initiative) καταρρέουν κυριολεκτικά [11], επιβάλλοντας τεράστιο κόστος στις ήδη φτωχές χώρες.
ΕΝΑ ΤΡΑΓΙΚΟ ΙΣΤΟΡΙΚΟ
Η προσπάθεια της Κίνας να ξεπεράσει τις Ηνωμένες Πολιτείες σε δυνατότητες τεχνητής νοημοσύνης δεν έχει ακόμη προκαλέσει κρίσεις. Αλλά η ιστορία υποδηλώνει ότι αν συνέβαινε μια, η αντίδραση του Πεκίνου θα ήταν ολέθρια. Τα αυταρχικά κράτη συνήθως διαχειρίζονται λανθασμένα τις καταστάσεις έκτακτης ανάγκης, μετατρέποντας τα ατυχήματα σε ολοκληρωμένες τραγωδίες. Η αποφυγή των χειρότερων αποτελεσμάτων εξαρτάται από την έγκαιρη αναγνώριση των ανωμαλιών, ιδίως εκείνων που μπορεί να υποδηλώνουν άσχημα νέα. Αλλά οι απολυταρχίες δυσκολεύονται να το κάνουν αυτό. Δεν υπάρχει λόγος να περιμένουμε κάτι διαφορετικό καθώς οι κίνδυνοι που συνδέονται με την τεχνητή νοημοσύνη παίρνουν σάρκα και οστά.
Όταν προκύπτουν ανησυχητικές εξελίξεις στην Κίνα, οι κομματικοί αξιωματούχοι έχουν κίνητρο να αποσιωπήσουν τις στενόχωρες πληροφορίες αντί να διακινδυνεύσουν την θέση τους αναφέροντας τα κακά νέα στους ανωτέρους τους, ξεκινώντας έναν φαύλο κύκλο που τείνει προς την καταστροφή. Ο λιμός που προκλήθηκε από το Μεγάλο Άλμα προς τα Εμπρός του Μάο είναι ένα χαρακτηριστικό παράδειγμα. Αν η κολεκτιβοποίηση των γεωργικών εκμεταλλεύσεων και το λιώσιμο των εργαλείων δημιούργησαν τις προϋποθέσεις για μια κρίση, ήταν η επίσημη συγκάλυψη των πρώτων σημείων κινδύνου που τελικά μετέτρεψε ως χιονοστιβάδα μια κακή συγκομιδή σε μαζική πείνα.
Το ίδιο μοτίβο επαναλαμβάνεται στην σύγχρονη Κίνα με ανησυχητική συχνότητα. Σκεφτείτε, για παράδειγμα, τα στρώματα κυβερνητικής συγκάλυψης που οδήγησαν τουλάχιστον ένα εκατομμύριο Κινέζους άνδρες, γυναίκες, και παιδιά να μολυνθούν από τον ιό HIV πουλώντας αίμα ή λαμβάνοντας μεταγγίσεις μολυσμένου αίματος την δεκαετία του 1990. Παρά τις τακτικές πρώιμες αναφορές για την εκκολαπτόμενη καταστροφή, οι τοπικοί αξιωματούχοι απέκρυπταν επιθετικά τα στοιχεία επί χρόνια για να προστατεύσουν τις καριέρες τους. Πολλοί από αυτούς προήχθησαν ακόμη και μετά την γνωστοποίηση της καταστολής και των επιπτώσεών της.
Το εξαιρετικά θανατηφόρο ξέσπασμα του SARS το 2002 στην Κίνα συγκαλύφθηκε επίσης από την κινεζική κυβέρνηση για περίπου τέσσερις μήνες, ακόμη και όταν ο θανατηφόρος ιός [121] μόλυνε περισσότερους από 8.000 ανθρώπους σε όλο τον κόσμο και σκότωσε 774. Και παρά την επένδυση 850 εκατομμυρίων δολαρίων σε μηχανισμούς δημόσιας υγείας ειδικά σχεδιασμένους για να διασφαλίσουν ότι δεν θα επαναληφθεί μια συγκάλυψη όπως αυτή του SARS, η κυβέρνηση ακολούθησε παρόμοια πορεία στην αντίδρασή της στην πανδημία COVID-19. Πέρασαν κρίσιμες εβδομάδες μεταξύ του πρώτου καταγεγραμμένου κρούσματος COVID στην Γουχάν τον Δεκέμβριο του 2019 και της αναγνώρισης από την Κίνα του κινδύνου μετάδοσης από άνθρωπο σε άνθρωπο στις 20 Ιανουαρίου 2020. Μέχρι τότε, επτά εκατομμύρια άτομα είχαν ταξιδέψει ελεύθερα από την Γουχάν σε άλλες τοποθεσίες, εξαπλώνοντας τον ιό σε ολόκληρη την χώρα και πέραν αυτής.
Κατά την διάρκεια και μετά το ξέσπασμα της COVID-19, η κινεζική κυβέρνηση παρενοχλούσε και κρατούσε γιατρούς και δημοσιογράφους που προσπαθούσαν να φέρουν στο φως σωτήριες πληροφορίες για τον ιό. Ταυτόχρονα, είπε ψέματα στον Παγκόσμιο Οργανισμό Υγείας, με αποτέλεσμα ο ΠΟΥ να παραπλανήσει μοιραία τον υπόλοιπο κόσμο σχετικά με τους κινδύνους της COVID κατά τις πρώτες εβδομάδες της πανδημίας. Μέχρι σήμερα, η κινεζική κυβέρνηση αρνείται να προσφέρει την διαφάνεια που απαιτείται για να προσδιοριστεί η προέλευση του ιού, ο οποίος μπορεί κάλλιστα να ήταν αποτέλεσμα ενός ακόμη κινεζικού ατυχήματος υψηλής τεχνολογίας.
ΕΠΑΓΡΥΠΝΕΙΤΕ, ΦΡΟΝΤΙΣΤΕ
Όσοι αντιμετωπίζουν με σκεπτικισμό τους κινδύνους μιας κινεζικής καταστροφής από την Τεχνητή Νοημοσύνη μπορεί να επικαλεστούν την συγκριτική προθυμία της κυβέρνησης να ρυθμίσει την τεχνητή νοημοσύνη ή το γεγονός ότι η Κίνα εξακολουθεί να υστερεί έναντι των Ηνωμένων Πολιτειών στην κατασκευή των πιο εξελιγμένων και συνεπώς επικίνδυνων δυνατοτήτων. Όμως, όπως και με τους κανόνες που διέπουν το κινεζικό Διαδίκτυο, μεγάλο μέρος της νομοθεσίας του Πεκίνου για την τεχνητή νοημοσύνη αποσκοπεί μόνο στο να διασφαλίσει ότι οι εταιρείες παραμένουν υποταγμένες στην κυβέρνηση και ικανές να ανταγωνιστούν τις αντίστοιχες Δυτικές. Αυτοί οι νόμοι έχουν επίσης σχεδιαστεί για την καταστολή κάθε πληροφορίας που απειλεί το καθεστώς.
Και παρόλο που μπορεί να είναι αλήθεια ότι οι Ηνωμένες Πολιτείες κατέχουν ηγετική θέση στην τεχνολογία αιχμής της τεχνητής νοημοσύνης, είναι επίσης σαφές ότι η έξυπνη τροποποίηση στα συστήματα άλλων μπορεί να αναδείξει μερικές από τις πιο επικίνδυνες και απρόβλεπτες δυνατότητές τους, όπως ο συνδυασμός μοντέλων για αυξημένη ικανότητα σχεδιασμού και εκτέλεσης χημικών πειραμάτων. Είναι πολύ εύκολο να κλέψει, να αντιγράψει, ή να κλωνοποιήσει κάποιος προηγμένα μοντέλα ΑΙ και να τα τροποποιήσει, αφαιρώντας τους ενδεχομένως χαρακτηριστικά ασφαλείας. Και αν ο τεχνολογικός τομέας της Κίνας είναι καλός σε κάτι, αυτό είναι η γρήγορη προσαρμογή των δημιουργιών των άλλων για μέγιστο αντίκτυπο, μια στρατηγική που αποτέλεσε τον κινητήριο μοχλό της ανάπτυξής της επί δεκαετίες.
Το ενδεχόμενο τραγωδίας με την τεχνητή νοημοσύνη δεν αφορά μόνο την Κίνα. Όπως συμβαίνει με κάθε ισχυρή νέα τεχνολογία, οι καταστροφές θα μπορούσαν να χτυπήσουν οπουδήποτε, και περιστατικά μικρότερης κλίμακας από ατυχήματα και κακή χρήση συμβαίνουν ήδη τακτικά σε όλο τον κόσμο με συγκρούσεις αυτοκινούμενων αυτοκινήτων, απάτες με κλωνοποίηση της φωνής μέσω τεχνητής νοημοσύνης, και την εσφαλμένη ταυτοποίηση ανθρώπων από τις υπηρεσίες επιβολής του νόμου με την χρήση αναγνώρισης προσώπου, για να αναφέρουμε μερικά από αυτά. Δεδομένου του ηγετικού τους ρόλου στην πρωτοπορία στην ανάπτυξη νέων δυνατοτήτων ΑΙ, οι Ηνωμένες Πολιτείες αντιμετωπίζουν ιδιαίτερα υψηλό κίνδυνο δαπανηρών αποτυχιών. Οι αμερικανικές εταιρείες και η κυβέρνηση θα ήταν φρόνιμο να ενισχύσουν τις δικές τους προσπάθειες για την ασφάλεια της ΑΙ, όπως συνειδητοποιούν τώρα πολλοί νομοθέτες.
Όμως, από το Τσερνομπίλ μέχρι την COVID, η ιστορία δείχνει ότι οι πιο έντονοι κίνδυνοι καταστροφής προέρχονται από αυταρχικά κράτη, τα οποία είναι πολύ πιο επιρρεπή σε συστημικά λάθη που επιδεινώνουν ένα αρχικό λάθος ή ατύχημα. Η ανέμελη στάση της Κίνας απέναντι στον τεχνολογικό κίνδυνο, η απερίσκεπτη φιλοδοξία της κυβέρνησης, και η κακή διαχείριση κρίσεων από το Πεκίνο βρίσκονται σε πορεία σύγκρουσης με τους κλιμακούμενους κινδύνους της τεχνητής νοημοσύνης.
Μια ποικιλία μέτρων πολιτικής των ΗΠΑ θα μπορούσε να συμβάλει στον μετριασμό αυτών των κινδύνων. Η βιομηχανία και η κυβέρνηση θα μπορούσαν να διπλασιάσουν τις προσπάθειες για τον περιορισμό της εμπορικής ροής της εύκολα οπλοποιήσιμης έρευνας τεχνητής νοημοσύνης προς την Κίνα, αναγνωρίζοντας την σοβαρή απειλή που αποτελεί, μεταξύ άλλων μέσω τακτικών μεταφοράς τεχνολογίας που μοχλεύουν κοινοπραξίες και κινεζικές επενδύσεις. Η αμερικανική διπλωματία θα μπορούσε να υπερασπιστεί την καθιέρωση παγκόσμιων προτύπων ασφάλειας της τεχνητής νοημοσύνης. Οι Ηνωμένες Πολιτείες, σε συντονισμό με την διεθνή κοινότητα, θα μπορούσαν επίσης να παρακολουθούν τις πιθανές ανησυχίες για την ασφάλεια σε προηγμένα εργαστήρια τεχνητής νοημοσύνης σε όλο τον κόσμο, με στόχο την δημιουργία σχεδίων έκτακτης ανάγκης σε περίπτωση αποτυχιών με δευτερογενή αποτελέσματα. Υπάρχει προηγούμενο για κάτι τέτοιο: είναι γνωστό ότι οι Ηνωμένες Πολιτείες παρακολουθούν τους κινδύνους ατυχημάτων από επικίνδυνες συμπεριφορές σε κινεζικά βιολογικά εργαστήρια, πυρηνικούς αντιδραστήρες, και διαστημικές επιχειρήσεις.
Αλλά το πρώτο βήμα είναι η σωστή ιεράρχηση της απειλής. Όπως και στον Ψυχρό Πόλεμο, η κούρσα των όπλων και ο τεχνολογικός ανταγωνισμός μπορεί να προσελκύουν μεγάλο ενδιαφέρον, αλλά οι κίνδυνοι για την ασφάλεια είναι εξίσου άξιοι ανησυχίας, ιδίως σε αυταρχικά κράτη. Και για να αποφευχθεί άλλη μια καταστροφή όπως αυτή του Τσερνόμπιλ, η αντιμετώπιση των κινδύνων της Κίνας από μια καταστροφή με τεχνητή νοημοσύνη θα πρέπει να βρίσκεται στην κορυφή της ατζέντας.
