Το νέο μοντέλο τεχνητής νοημοσύνης του τεχνολογικού γίγαντα εφευρίσκει μαύρους Βίκινγκς και Ασιάτη Πάπα.
Οι εικόνες τεχνητής νοημοσύνης που δημιουργούνται από το Gemini της Google δείχνουν έναν ασιατικής καταγωγής θηλυκό Πάπα και έναν μαύρο αρσενικό Πάπα. Όλα ξεκίνησαν με μαύρους Βίκινγκς και Ασιάτες ναζί. Οι χρήστες του Google Gemini, του μοντέλου τεχνητής νοημοσύνης του τεχνολογικού κολοσσού, παρατήρησαν πρόσφατα ότι ζητώντας του να δημιουργήσει εικόνες Βίκινγκς, Γερμανών στρατιωτών από το 1943 ή των ιδρυτών της Αμερικής παρήγαγαν εκπληκτικά αποτελέσματα: σχεδόν κανένας από τους ανθρώπους που απεικονίζονταν δεν ήταν λευκός.
Το Gemini είχε προγραμματιστεί για να δείχνει ένα εύρος εθνοτήτων. Άλλα εργαλεία δημιουργίας εικόνων έχουν επικριθεί επειδή τείνουν να εμφανίζουν λευκούς άνδρες όταν τους ζητείται να απεικονίσουν επιχειρηματίες ή γιατρούς. Η Google ήθελε το Gemini να αποφύγει αυτήν την παγίδα. Αντ’ αυτού, έπεσε σε μια άλλη, απεικονίζοντας τον Τζορτζ Ουάσινγκτον ως μαύρο και τον Πάπα ως Ασιάτισσα.
Ορισμένοι παρατηρητές παρομοίασαν την ανιστόρητη ποικιλομορφία των Gemini με το “Hamilton” ή το “Bridgerton”. Φάνηκε ότι η Google είχε απλώς κάνει ένα καλοπροαίρετο λάθος. Αλλά ήταν ένα δώρο για τους δεξιούς επικριτές της τεχνολογικής βιομηχανίας. Στις 22 Φεβρουαρίου η Google δήλωσε ότι θα σταματήσει τη δημιουργία εικόνων ανθρώπων, ενώ θα αναδιαμορφώνει το Gemini. Αλλά μέχρι τότε η προσοχή είχε στραφεί στις απαντήσεις κειμένου του chatbot, οι οποίες αποδείχθηκαν εξίσου εκπληκτικές.
Το Gemini παρείχε με χαρά επιχειρήματα υπέρ της θετικής δράσης στην τριτοβάθμια εκπαίδευση, αλλά αρνήθηκε να δώσει επιχειρήματα κατά. Αρνήθηκε να γράψει μια αγγελία εργασίας για μια ομάδα λόμπι που ασχολείται με τα ορυκτά καύσιμα, επειδή τα ορυκτά καύσιμα είναι βλαβερά και οι ομάδες λόμπι δίνουν προτεραιότητα “στα συμφέροντα των εταιρειών έναντι της δημόσιας ευημερίας”.
Στην ερώτηση αν η Χαμάς είναι τρομοκρατική οργάνωση, απάντησε ότι η σύγκρουση στη Γάζα είναι “πολύπλοκη”- στην ερώτηση αν το tweeting των memes του Elon Musk έκανε περισσότερο κακό από τον Χίτλερ, είπε ότι είναι “δύσκολο να το πούμε”. Δεν χρειάζεται να είσαι ο Ben Shapiro για να διακρίνεις μια προοδευτική προκατάληψη.
Οι ανεπαρκείς δοκιμές μπορεί να ευθύνονται εν μέρει. Η Google υστερεί σε σχέση με την Openai, κατασκευάστρια του πιο γνωστού Chatgpt. Καθώς τρέχει να καλύψει το χαμένο έδαφος, η Google μπορεί να έχει κάνει περικοπές. Άλλα chatbots είχαν αμφιλεγόμενα λανσαρίσματα.
Η απελευθέρωση των chatbots και η αφήγηση των χρηστών να αποκαλύψουν περίεργες συμπεριφορές, οι οποίες μπορούν να διορθωθούν γρήγορα, επιτρέπει στις επιχειρήσεις να κινηθούν ταχύτερα, υπό την προϋπόθεση ότι είναι προετοιμασμένες να αντιμετωπίσουν τους πιθανούς κινδύνους και την κακή δημοσιότητα, σύμφωνα με τον Ethan Mollick, καθηγητή στο Wharton Business School.
Αλλά το Gemini έχει σαφώς βαθμονομηθεί σκόπιμα, ή “ρυθμιστεί”, ώστε να παράγει αυτές τις αντιδράσεις. Δεν πρόκειται για “παραισθήσεις”, όπου ένα μοντέλο επινοεί πράγματα. Αυτό εγείρει ερωτήματα σχετικά με την κουλτούρα της Google. Είναι η εταιρεία τόσο οικονομικά ασφαλής, με τεράστια κέρδη από τη διαφήμιση στο διαδίκτυο, που αισθάνεται ελεύθερη να δοκιμάσει τις δυνάμεις της στην κοινωνική μηχανική;
Πιστεύουν κάποιοι υπάλληλοι ότι έχει όχι απλώς την ευκαιρία, αλλά και την υποχρέωση να χρησιμοποιήσει την εμβέλεια και τη δύναμή της για να προωθήσει μια συγκεκριμένη ατζέντα; Αυτό ενέχει τον κίνδυνο να αποτρέψει τους χρήστες και να προκαλέσει πολιτικές και ρυθμιστικές αντιδράσεις. Όλα τα μάτια είναι τώρα στραμμένα στο αφεντικό της Google, τον Sundar Pichai. Λέει ότι το Gemini διορθώνεται. Αλλά μήπως χρειάζεται διόρθωση και η Google;
Πηγή : The Economist
