Το Κομμουνιστικό Κόμμα δημιούργησε μια ακμάζουσα αλλά απολυταρχική ψηφιακή οικονομία. Μπορεί να κάνει το ίδιο με την τεχνητή νοημοσύνη;
Η Κίνα αντιμετωπίζει ένα πρόβλημα που γνωρίζουν οι δικτατορίες σε όλη την ιστορία: πώς να επιτύχει μια ισορροπία μεταξύ της καινοτομίας που ενισχύει την ανάπτυξη, η οποία ευδοκιμεί σε μια ελεύθερη κοινωνία, και της παράνοιας ενός αυταρχικού κράτους. Ο ηγέτης της, Σι Τζινπίνγκ, θέλει η χώρα να γίνει μια υπερ-προηγμένη οικονομία. Η κυβέρνησή του προωθεί επιθετικά την εμπορευματοποίηση των υψηλών τεχνολογιών που της αρέσουν, από τα ηλεκτρικά οχήματα μέχρι την κβαντική πληροφορική.
Ταυτόχρονα, σφίγγει τις βίδες σε όσους αποδοκιμάζει. Το 2021 ρύθμισε μια ανθηρή βιομηχανία διαδικτυακής διδασκαλίας σχεδόν εν μια νυκτί, προφανώς από φόβο ότι τα υψηλά δίδακτρα καθιστούσαν την εκπαίδευση των παιδιών τόσο ακριβή ώστε οι Κινέζοι αποθαρρύνονταν από την ιδέα της γονεϊκότητας. Στις 22 Δεκεμβρίου η κυβέρνηση έριξε ένα γαλλικό κλειδί στη βιομηχανία των βιντεοπαιχνιδιών, εισάγοντας κανόνες που, μεταξύ άλλων, περιορίζουν το πόσα χρήματα μπορούν να ξοδεύουν οι παίκτες για αγορές εντός του παιχνιδιού – και άρα το πόσα μπορούν να βγάζουν οι προγραμματιστές. Η χρηματιστηριακή αξία της Tencent, μιας από τις πιο καινοτόμες εταιρείες της Κίνας που έχει επίσης μεγάλη δραστηριότητα στον τομέα των παιχνιδιών, κατρακύλησε κατά 12%.
Πουθενά δεν είναι πιο ξεκάθαρη αυτή η ένταση από ό,τι στην πιο καυτή τεχνολογία του 2023 – την τεχνητή νοημοσύνη (ai). Σε πολλές χώρες, ο έλεγχος της τεχνητής νοημοσύνης θεωρείται τόσο οικονομικά όσο και στρατηγικά σημαντικός. Οι πολιτικοί παντού ανησυχούν για τις μηχανές που θα αποστατήσουν ή, πιο ρεαλιστικά, θα αξιοποιηθούν από ανθρώπους που κάνουν κακόβουλη δουλειά. Στο Πεκίνο η πρόσθετη ανησυχία είναι ότι η τεχνολογία, η οποία ευδοκιμεί με απεριόριστα δεδομένα και, στο σημερινό στάδιο ανάπτυξής της, σε μη ρυθμισμένους χώρους, θα μπορούσε να αποδειχθεί ανατρεπτική αν δεν κρατηθεί υπό έλεγχο. Ως εκ τούτου, ενισχύει επιμελώς το “μεγάλο τείχος προστασίας” του για την εποχή του ai.
Το 2000 ο Μπιλ Κλίντον, τότε πρόεδρος της Αμερικής, παρομοίασε την προσπάθεια της Κίνας να ελέγξει το διαδίκτυο με την “προσπάθεια να καρφώσει το ζελέ στον τοίχο”. Σήμερα το ζελέ φαίνεται να είναι σταθερά στη θέση του. Οι δυτικές διαδικτυακές υπηρεσίες, από το Facebook και την αναζήτηση στο Google μέχρι το Netflix, δεν είναι διαθέσιμες στους περισσότερους Κινέζους (εκτός από εκείνους που είναι διατεθειμένοι να διακινδυνεύσουν τη χρήση παράνομων “εικονικών ιδιωτικών δικτύων”). Στις τοπικές πλατφόρμες, κάθε ανεπιθύμητο περιεχόμενο διαγράφεται, είτε προληπτικά από τις ίδιες τις πλατφόρμες, χρησιμοποιώντας αλγόριθμους και στρατιές συντονιστών, είτε εκ των υστέρων, μόλις εντοπιστεί από τους κυβερνητικούς λογοκριτές. Μια τεχνολογική καταστολή το 2020 έφερε τους ισχυρούς τεχνολογικούς γίγαντες της Κίνας, όπως η Tencent και η Alibaba, σε δύσκολη θέση – και πιο κοντά στην κυβέρνηση, η οποία έχει αναλάβει μικρά μερίδια στις εταιρείες και μεγάλο ενδιαφέρον για τις καθημερινές τους δραστηριότητες.
Το αποτέλεσμα είναι μια ψηφιακή οικονομία που έχει εξυγιανθεί αλλά παρ’ όλα αυτά ευδοκιμεί. Η σούπερ εφαρμογή της Tencent, WeChat, η οποία συνδυάζει την ανταλλαγή μηνυμάτων, τα μέσα κοινωνικής δικτύωσης, το ηλεκτρονικό εμπόριο και τις πληρωμές, παράγει από μόνη της εκατοντάδες δισεκατομμύρια δολάρια σε ετήσιες συναλλαγές. Ο κ. Σι ελπίζει τώρα να πετύχει μια παρόμοια πράξη εξισορρόπησης με την ai. Για άλλη μια φορά, ορισμένοι ξένοι εμπειρογνώμονες προβλέπουν μια κατάσταση ζελέ. Και για άλλη μια φορά, το Κομμουνιστικό Κόμμα κατασκευάζει εργαλεία για να τους διαψεύσει.
Οι προσπάθειες του κόμματος ξεκινούν με τους αυστηρότερους κανόνες στον κόσμο για τα κινεζικά ισοδύναμα του Chatgpt (το οποίο, όπως ήταν αναμενόμενο, απαγορεύεται στην Κίνα) και άλλα “παραγωγικά” ai που απευθύνονται στους καταναλωτές. Από τον Μάρτιο οι εταιρείες πρέπει να καταχωρούν στους αξιωματούχους κάθε αλγόριθμο που κάνει συστάσεις ή μπορεί να επηρεάσει τις αποφάσεις των ανθρώπων. Στην πράξη, αυτό σημαίνει βασικά οποιοδήποτε τέτοιο λογισμικό που απευθύνεται στους καταναλωτές. Τον Ιούλιο, η κυβέρνηση εξέδωσε κανόνες που απαιτούν από όλο το περιεχόμενο που παράγεται από τεχνητή νοημοσύνη να “υποστηρίζει τις σοσιαλιστικές αξίες” – με άλλα λόγια, όχι πρόστυχα τραγούδια, αντικοινοβουλευτικά συνθήματα ή, Θεός φυλάξοι, να κοροϊδεύει τον κ. Σι. Τον Σεπτέμβριο δημοσίευσε έναν κατάλογο 110 εγγεγραμμένων υπηρεσιών. Μόνο οι προγραμματιστές τους και η κυβέρνηση γνωρίζουν όλα τα μυστικά της διαδικασίας εγγραφής και τα ακριβή κριτήρια που απαιτούνται.
Τον Οκτώβριο μια επιτροπή προτύπων για την εθνική ασφάλεια των πληροφοριών δημοσίευσε έναν κατάλογο κατευθυντήριων γραμμών ασφαλείας που απαιτούν λεπτομερή αυτοαξιολόγηση των δεδομένων που χρησιμοποιούνται για την εκπαίδευση γεννητικών μοντέλων-ai. Ένας κανόνας απαιτεί τη χειροκίνητη δοκιμή τουλάχιστον 4.000 υποσυνόλων του συνόλου των δεδομένων εκπαίδευσης- τουλάχιστον το 96% αυτών πρέπει να χαρακτηρίζονται ως “αποδεκτά”, σύμφωνα με έναν κατάλογο 31 ασαφώς διατυπωμένων κινδύνων ασφαλείας. Το πρώτο κριτήριο για το μη αποδεκτό περιεχόμενο είναι οτιδήποτε “υποκινεί την ανατροπή της κρατικής εξουσίας ή την ανατροπή του σοσιαλιστικού συστήματος”. Τα chatbots πρέπει να αρνούνται να απαντήσουν στο 95% των ερωτήσεων που θα προκαλούσαν απαράδεκτο περιεχόμενο (όσες περνούν, προφανώς, θα λογοκρίνονται εκ των υστέρων). Πρέπει επίσης να απορρίπτουν όχι περισσότερο από το 5% των ακίνδυνων ερωτήσεων.
Οτιδήποτε παράγεται από μη καταχωρημένους αλγορίθμους θα μπλοκάρεται και οι δημιουργοί του θα τιμωρούνται. Τον Μάιο συνελήφθη ένας άνδρας στην επαρχία Gansu, αφού χρησιμοποίησε το Chatgpt για να παράγει κείμενο και εικόνες ενός ψεύτικου σιδηροδρομικού δυστυχήματος και να τις δημοσιεύσει στα μέσα κοινωνικής δικτύωσης. Μπορεί να ήταν ο πρώτος Κινέζος που συνελήφθη για τη διάδοση παραπληροφόρησης που παρήγαγε ο τεχνητός νοημοσύνη. Δεν θα είναι ο τελευταίος.
Αυτή η σκληρή στρατηγική έχει επιβραδύνει την εξάπλωση της δημιουργικής τεχνητής νοημοσύνης στη χώρα. Το Ernie Bot, το οποίο κατασκευάστηκε από την Baidu, μια άλλη τεχνολογική εταιρεία, ήταν έτοιμο περίπου την εποχή της έναρξης της Chatgpt, αλλά κυκλοφόρησε μόλις εννέα μήνες αργότερα, τον Αύγουστο -ένας χρόνος αν αναλογιστεί κανείς πόσο γρήγορα εξελίσσεται η τεχνολογία. Εξακολουθεί να είναι αδέξιο όταν πρόκειται να εκφράσει την αφοσίωσή του στο κόμμα. Όταν του τίθενται ευαίσθητες ερωτήσεις για τον κ. Σι, λογοκρίνει υπάκουα, δεν δίνει καμία απάντηση και διαγράφει το ερώτημα.
Πρότυπο σοσιαλιστών
Με περισσότερη δουλειά το κόμμα μπορεί να είναι σε θέση να κάνει τα μοντέλα της ai όχι απλώς καλούς κομμουνιστές, αλλά άπταιστους. Αυτό θα εξαλείψει την ανάγκη για εκ των υστέρων λογοκρισία, λέει ο Luciano Floridi του Πανεπιστημίου Yale. Ωστόσο, οι αρχές δεν φαίνεται να βιάζονται να φτάσουν εκεί. Αντιθέτως, προωθούν τις επιχειρηματικές εφαρμογές της τεχνολογίας.
Σε αντίθεση με την καταναλωτική τεχνητή νοημοσύνη, η επιχειρησιακή τεχνητή νοημοσύνη αντιμετωπίζει λίγους περιορισμούς στην ανάπτυξη, σημειώνει η Mimi Zou του Oxford Martin School, ενός ερευνητικού ινστιτούτου. Όπως εξηγεί ο Steven Rolf από το Digital Futures at Work Research Centre, ένα βρετανικό think-tank, αυτό έχει ως αποτέλεσμα τη διοχέτευση κεφαλαίου και εργασίας μακριά από πράγματα όπως τα chatbots των καταναλωτών και προς τη μηχανική μάθηση για τις επιχειρήσεις. Αυτό, όπως φαίνεται να στοιχηματίζει η κυβέρνηση, θα επιτρέψει στην Κίνα να καλύψει ή και να ξεπεράσει την Αμερική στην τεχνητή νοημοσύνη χωρίς την ταλαιπωρία της αντιμετώπισης του δυνητικά ανατρεπτικού περιεχομένου που παράγεται από την τεχνητή νοημοσύνη.
Τον Μάιο η νότια πόλη Σενζέν ανακοίνωσε ότι θα ξεκινήσει ένα επενδυτικό ταμείο 100 δισ. γιουάν (14 δισ. δολάρια) με επίκεντρο την τεχνητή νοημοσύνη, το μεγαλύτερο του είδους του στον κόσμο. Αρκετές κυβερνήσεις πόλεων έχουν δρομολογήσει παρόμοια επενδυτικά ταμεία. Πολλά από αυτά τα χρήματα πηγαίνουν σε εταιρείες όπως η Qi An Xin, η οποία προσφέρει γεννητικό ai που διαχειρίζεται τους κινδύνους ασφάλειας δεδομένων για τις εταιρείες. Η εταιρεία ισχυρίζεται ότι το ρομπότ μπορεί να κάνει τη δουλειά 60 εμπειρογνωμόνων ασφαλείας, 24 ώρες την ημέρα. Πριν από τη δημόσια εγγραφή της το 2020, έλαβε μεγάλες επενδύσεις από κρατικές εταιρείες, όπως και πολλές παρόμοιες νεοφυείς επιχειρήσεις.
Για να λειτουργήσει αυτή η στρατηγική, οι εταιρείες enterprise-ai χρειάζονται το σωστό είδος πρώτης ύλης. Τα καταναλωτικά chatbots χρησιμοποιούν μοντέλα ai που εκπαιδεύονται σε τμήματα του δημόσιου διαδικτύου. Οι εταιρικές εφαρμογές χρειάζονται εταιρικά δεδομένα, πολλά από τα οποία είναι κρυμμένα μέσα στις εταιρείες. Έτσι, το άλλο σκέλος της στρατηγικής της Κίνας είναι να μετατρέψει τα εταιρικά δεδομένα σε δημόσιο αγαθό. Το κράτος δεν θέλει να κατέχει τα δεδομένα, αλλά -όπως και με τους άλλους παράγοντες- να ελέγχει τα κανάλια μέσω των οποίων ρέουν.
Για τον σκοπό αυτό, η κυβέρνηση προωθεί την ανταλλαγή δεδομένων. Αυτά έχουν ως στόχο να επιτρέψουν στις επιχειρήσεις να ανταλλάσσουν πληροφορίες, συσκευασμένες σε τυποποιημένα προϊόντα, για όλους τους τομείς της εμπορικής ζωής, από τη δραστηριότητα σε μεμονωμένα εργοστάσια έως τα δεδομένα πωλήσεων σε μεμονωμένα καταστήματα. Οι μικρές επιχειρήσεις θα αποκτήσουν πρόσβαση σε γνώσεις που κάποτε προορίζονταν για τους τεχνολογικούς γίγαντες. Οι τράπεζες και οι χρηματιστές θα έχουν εικόνα της οικονομίας σε πραγματικό χρόνο.
Οι κινεζικές πόλεις άρχισαν να εγκαινιάζουν ανταλλαγές δεδομένων πριν από περίπου μια δεκαετία. Τώρα υπάρχουν περίπου 50 σε όλη την Κίνα. Και επιτέλους κερδίζουν ταχύτητα. Το Χρηματιστήριο Δεδομένων της Σαγκάης (sde), το οποίο ξεκίνησε το 2021, έχει αρχίσει να εμπορεύεται μια σειρά από νέα προϊόντα δεδομένων. Σε μία από τις πρώτες συναλλαγές του, η icbc, μια τράπεζα, αγόρασε πληροφορίες από τον τομέα της ενέργειας. Αυτά μπορούν να χρησιμοποιηθούν για την αξιολόγηση της κατανάλωσης ενέργειας των εταιρειών και, επειδή αντικατοπτρίζουν τα πραγματικά επίπεδα δραστηριότητας, για τη δημιουργία εναλλακτικών πιστωτικών προφίλ για τις εταιρείες. το sde πωλεί δεδομένα που προέρχονται από δορυφόρους σχετικά με την παραγωγή χάλυβα στην καρδιά της Κίνας και τις περιβαλλοντικές παραβιάσεις από εταιρείες εξόρυξης. Ένα άλλο προϊόν παρέχει δεδομένα σε πραγματικό χρόνο για τους γιατρούς, τους νοσηλευτές και τα νοσοκομειακά κρεβάτια σε όλη τη χώρα, προκειμένου να βοηθήσει τις ιατρικές εταιρείες να λάβουν επιχειρηματικές αποφάσεις. Η sde πειραματίζεται επίσης με τη χρήση δεδομένων ως εγγύηση για δάνεια.
Σε κλίμακα, η datafication της βιομηχανίας θα μπορούσε να προσφέρει σημαντική οικονομική ώθηση, λέει ο Tom Nunlist της Trivium, μιας εταιρείας συμβούλων στο Πεκίνο. Και περισσότερα δεδομένα μπορεί να έρθουν σύντομα στα χρηματιστήρια. Τον Αύγουστο η κεντρική κυβέρνηση ανέθεσε στις κρατικές επιχειρήσεις να σκεφτούν πώς θα αποτιμήσουν τα δεδομένα τους. Τους τελευταίους μήνες ομάδες ελεγκτών προσπαθούν να βρουν τρόπους για να το κάνουν αυτό, με σκοπό να προσθέσουν τα δεδομένα αυτά στους ισολογισμούς των εταιρειών ως άυλα περιουσιακά στοιχεία. Υποτίθεται ότι πρέπει να υποβάλουν έκθεση έως την 1η Ιανουαρίου (αν και η προθεσμία φαίνεται πιθανό να χαθεί, δεδομένης της πρωτοφανούς φύσης του έργου).
Ωστόσο, το στοίχημα της κυβέρνησης για το enterprise ai δεν είναι χωρίς προβλήματα. Η αυτοκινητοβιομηχανία είναι ένα χαρακτηριστικό παράδειγμα. Το 2022 περίπου 185 εκατ. οχήματα στους κινεζικούς δρόμους είχαν σύνδεση στο διαδίκτυο και ένα εθνικό σχέδιο προβλέπει μαζική παραγωγή ημιαυτόνομων αυτοκινήτων μέχρι το 2025. Για να συμβεί αυτό, οι εταιρείες που επινοούν αλγορίθμους αυτόματης οδήγησης χρειάζονται πολλά δεδομένα για να εκπαιδεύσουν τα συστήματά τους. Μια εταιρεία που ονομάζεται wicv κατασκευάζει μια πλατφόρμα για τα δεδομένα που αρχίζουν να διαρρέουν από τα αυτοκίνητα.
Προς το παρόν, η wicv επιστρέφει τα δεδομένα ενός αυτοκινήτου στην αυτοκινητοβιομηχανία που το κατασκεύασε, οπότε το byd παίρνει δεδομένα από το byds, το Nio από το Nios κ.ο.κ. Αλλά το σχέδιο είναι τελικά τα δεδομένα να διαπραγματεύονται σε χρηματιστήρια, όπου θα μπορούσαν να αγοραστούν από άλλους προγραμματιστές συστημάτων αυτόματης οδήγησης. Για να συμβεί αυτό, όμως, τα δεδομένα οδήγησης πρέπει πρώτα να “απευαισθητοποιηθούν”, εξηγεί ο Chu Wenfu, ιδρυτής της wicv, αφαιρώντας τα βιομετρικά στοιχεία και τις λεπτομέρειες γεωγραφικού εντοπισμού που θα μπορούσαν να βοηθήσουν τους κακοποιούς να εντοπίσουν τις κινήσεις συγκεκριμένων ανθρώπων.
Η δυνατότητα τέτοιας παρακολούθησης τρομάζει τις κινεζικές αρχές. Ένας σημαντικός λόγος για τον οποίο κατέστρεψαν την Didi Global λίγες ημέρες μετά την αρχική δημόσια προσφορά της εταιρείας μεταφορών στη Νέα Υόρκη το 2021 ήταν, όπως αποκαλύφθηκε αργότερα, ο φόβος ότι τα δεδομένα για τις 25 εκατομμύρια ημερήσιες διαδρομές της Didi, συμπεριλαμβανομένων των πληροφοριών γεωεντοπισμού που συνδέονται με τους επιβάτες, θα μπορούσαν να πέσουν στα χέρια των αμερικανικών αρχών. Η κινεζική κυβέρνηση χαρτογραφεί προληπτικά τεράστιες περιοχές της Κίνας όπου η συλλογή δεδομένων θα μπορούσε δυνητικά να αποτελέσει απειλή για την εθνική ασφάλεια.
Πολλές αυτοκινητοβιομηχανίες, συμπεριλαμβανομένων των δυτικών, όπως η bmw, δεν έχουν άλλη επιλογή από το να συνεργαστούν με εταιρείες που υποστηρίζονται από το κράτος για να χειριστούν τις πληροφορίες οδήγησης και να διασφαλίσουν ότι τηρούνται οι τοπικοί κανόνες συμμόρφωσης με τα δεδομένα. Για παν ενδεχόμενο, ορισμένες αυτοκινητοβιομηχανίες εγκαταλείπουν ορισμένα χαρακτηριστικά, όπως το να επιτρέπουν στους οδηγούς να παρακολουθούν ζωντανό υλικό από το εσωτερικό και το εξωτερικό του αυτοκινήτου τους στα τηλέφωνά τους. Κάποια από αυτά τα πλάνα θα μπορούσαν, άλλωστε, να καταγράψουν κατά λάθος κάτι ευαίσθητο.
Τέτοιου είδους συμβιβασμοί μεταξύ καινοτομίας και ασφάλειας είναι απίθανο να περιορίζονται μόνο στα αυτοκίνητα. Και άλλα βιομηχανικά και εταιρικά δεδομένα, επίσης, θα χρειαστούν πιθανώς ευαισθητοποίηση προτού μπορέσουν να αποτελέσουν αντικείμενο διαπραγμάτευσης σε κλίμακα στα χρηματιστήρια. Αυτό θα επιβραδύνει την ανάπτυξη της επιχειρησιακής τεχνητής νοημοσύνης, ακόμη και αν οι αλγόριθμοι παραμείνουν αδέσμευτοι. Είναι ένα τίμημα που το κόμμα φαίνεται πρόθυμο να πληρώσει για την παράνοιά του.
