Εξισορρόπηση κινδύνων και ευκαιριών της τεχνητής νοημοσύνης: Μια συνολική αξιολόγηση για τους επενδυτές

408 σελίδες, σε δύο στήλες: Τι αποκαλύπτει το έγγραφο S-1 της Anthropic

Οι επενδυτές μελετούν προσεκτικά το ενημερωτικό δελτίο S-1 της Anthropic εν αναμονή της μεγαλύτερης δημόσιας προσφοράς μετοχών (IPO) στην ιστορία. Το έγγραφο αυτό έχει ως σκοπό τη στάθμιση της επενδυτικής ευκαιρίας σε σχέση με τον κίνδυνο. Ωστόσο, οι πρώτες ενδείξεις δείχνουν ότι οι αναγνώστες αφιερώνουν το μεγαλύτερο μέρος του χρόνου τους σε μία από αυτές τις στήλες. Από τις 408 σελίδες του, κανένα τμήμα δεν καταλαμβάνει περισσότερο χώρο από το κεφάλαιο που αφορά τον κίνδυνο. Οι αναγνώστες του S-1, καθώς και σχεδόν όλων των σχολίων σχετικά με την τεχνητή νοημοσύνη, κινδυνεύουν να παραμελήσουν το έργο που είναι ταυτόχρονα το πιο δύσκολο και το πιο απαραίτητο: την αξιολόγηση των κινδύνων και των ευκαιριών της τεχνητής νοημοσύνης συνολικά, και όχι ξεχωριστά.

Παρόλο που ο χώρος της τεχνητής νοημοσύνης έχει αποκτήσει τη φήμη ότι χαρακτηρίζεται από δράμα και πολιτικές ίντριγκες, το συγκεκριμένο έγγραφο είναι εξαιρετικά σημαντικό· δεν πρόκειται για ανάρτηση σε ιστολόγιο ούτε για ένα φιλοσοφικό δοκίμιο. Αποτελεί τη βάση για αποφάσεις που αφορούν δισεκατομμύρια δολάρια. Πρόκειται για κανονιστική υποχρέωση, η οποία έχει θεσπιστεί με σκοπό να παρέχει στους επενδυτές ουσιαστικές, ακριβείς και διαφανείς πληροφορίες, ώστε να μπορούν να αξιολογήσουν τους κινδύνους και τις ευκαιρίες που συνδέονται με μια επένδυση.

Η επιστήμη της παράλληλης ανάλυσης των ευκαιριών και των κινδύνων της τεχνητής νοημοσύνης είναι μια σπάνια επιστήμη, η οποία συχνά υπονομεύεται από την ανθρώπινη τάση μας να επικεντρωνόμαστε στα ακραία φάσματα. Ωστόσο, πρόκειται για μια επιστήμη που τόσο οι επενδυτές όσο και η κοινωνία στο σύνολό της πρέπει να υιοθετήσουν, όχι μόνο για την αξιολόγηση των εταιρειών τεχνητής νοημοσύνης, αλλά και για την κατανόηση των ευρύτερων δυνατοτήτων που απορρέουν από τα κέντρα δεδομένων τους.

Το πρόβλημα της μονής στήλης: Γιατί τα άρθρα για την τεχνητή νοημοσύνη αναφέρουν είτε τον κίνδυνο είτε την ευκαιρία, και όχι και τα δύο

Η δημόσια συζήτηση τείνει να επικεντρώνεται σε μία μόνο πτυχή κάθε φορά: τους κινδύνους ή τις ευκαιρίες. Σπάνιες είναι οι συζητήσεις που αφήνουν χώρο και για τα δύο. Ακόμη και ο πιο αισιόδοξος θα παραδεχτεί ότι τα άκρα κάνουν καλύτερους τίτλους. Και για να γίνουν τα πράγματα ακόμα πιο περίπλοκα: τα τρισεκατομμύρια δολάρια που βρίσκονται στο τραπέζι σημαίνουν ότι κανένα μέρος δεν είναι αδιάφορο.

Για να μην πέσουμε θύματα της ανοησίας της προκατάληψης της πρόσφατης εμπειρίας, πρέπει να σημειώσουμε ότι οι νέες τεχνολογίες δεν εμφανίζονται ποτέ μόνο με μία πτυχή. Οι μετασχηματιστικές τεχνολογίες υπερβαίνουν τη δυαδική ταξινόμηση σε «καλές» ή «κακές»· δεν χρειάζεται να ψάξετε πολύ για ιστορικά παραδείγματα.

• Η τυπογραφική μηχανή οδήγησε στη μαζική παραγωγή του Malleus Maleficarum και πυροδότησε έναν αιώνα θρησκευτικών πολέμων.
  • Επίσης, διέδωσε την επιστημονική γνώση και την παιδεία στις λαϊκές μάζες.
• Η μέθοδος Χάμπερ-Μπόσχ προμήθευσε τη Γερμανία του Α΄ Παγκοσμίου Πολέμου με νιτρικά άλατα για την παραγωγή εκρηκτικών.
  • Επιπλέον, επέτρεψε την παραγωγή συνθετικών λιπασμάτων και συνέβαλε στη διατροφή του μισού παγκόσμιου πληθυσμού.
• Το Διαδίκτυο διαδίδει ρητορική μίσους, απάτες μεγάλης κλίμακας και παραπλανητικές πληροφορίες.
  • Επίσης, συνδέει περισσότερα από έξι δισεκατομμύρια άτομα με το σύνολο της ανθρώπινης γνώσης, αλλά και μεταξύ τους.

Υπάρχει όμως μια προφανής διαφορά μεταξύ της παρούσας στιγμής και αυτών των ιστορικών παραδειγμάτων: ο χρόνος έχει συμπληρώσει αυτά τα βιβλία. Όπως είπε ο Στιβ Τζομπς στη διάσημη φράση του: «Μπορείς να συνδέσεις [τις κουκκίδες] μόνο κοιτάζοντας προς τα πίσω». Ο Γουτεμβέργιος και οι σύγχρονοί του δεν θα μπορούσαν να γνωρίζουν ότι η ίδια μηχανή θα διαδώσει εγχειρίδια για το κυνήγι μαγισσών και θρησκευτικούς πολέμους, ενώ ταυτόχρονα θα προωθούσε τη μαζική αλφαβητοποίηση και θα τροφοδοτούσε την Επιστημονική Επανάσταση. Το πρώιμο Διαδίκτυο προωθήθηκε ως μέσο σύνδεσης και γνώσης. Οι εκτεταμένες απάτες και η παραπληροφόρηση εμφανίστηκαν στο ιστορικό πολύ αργότερα.

Με τους καταιγιστικούς ρυθμούς που επικρατούν, κανείς δεν μπορεί να καταγράψει κάθε στοιχείο στο «καθολικό» της τεχνητής νοημοσύνης. Το παρόν άρθρο δεν θα επιχειρήσει να το κάνει αυτό. Πιο χρήσιμη είναι η προσπάθεια να κατανοήσουμε πώς σχετίζονται μεταξύ τους οι δύο στήλες, οι κίνδυνοι και οι ευκαιρίες. Η ανάλυση αυτή αποκαλύπτει μια κρίσιμη αλήθεια: σχεδόν κάθε στοιχείο έχει ένα αντίστοιχο στην άλλη στήλη.

Δύο άνθη του ίδιου κλαδιού: Πώς συσχετίζονται οι κίνδυνοι και οι ευκαιρίες της τεχνητής νοημοσύνης

Αυτή η σύνδεση δεν είναι τυχαία· οι ευκαιρίες και οι κίνδυνοι της τεχνητής νοημοσύνης είναι στενά αλληλένδετοι, καθώς πηγάζουν από τον ίδιο κλάδο ικανοτήτων. Ως εκ τούτου, οι κίνδυνοι και οι ευκαιρίες εξελίσσονται παράλληλα.

Αν εξετάσουμε σχεδόν οποιαδήποτε σημαντική καινοτομία, θα διαπιστώσουμε το ίδιο μοτίβο. Τα μοντέλα που αναλύουν τις πρωτεΐνες μπορούν να σχεδιάσουν εμβόλια. Η ίδια αυτή κατανόηση μπορεί να βοηθήσει κάποιον να δημιουργήσει ένα θανατηφόρο παθογόνο. Τα μοντέλα που εντοπίζουν ελαττώματα στο λογισμικό επιτρέπουν στους υπεύθυνους ασφαλείας να τα επιδιορθώνουν ταχύτερα. Παράλληλα, δίνουν τη δυνατότητα και στους επιτιθέμενους να τα εκμεταλλευτούν ταχύτερα. Ένας πράκτορας τεχνητής νοημοσύνης που ενεργεί αυτόνομα μπορεί να διεκπεραιώσει το διοικητικό έργο μιας ολόκληρης ημέρας. Μπορεί όμως επίσης να προβεί σε ενέργειες που ενδέχεται να είναι καταστροφικές και τις οποίες δεν έχετε εγκρίνει.

Δεν μπορείς να μειώσεις τον κίνδυνο χωρίς να μειώσεις και τις ευκαιρίες. Αυτό μας καθιστά κηπουρούς ενός και μόνο κλαδιού, και η πρώτη αντίδραση ενός κηπουρού είναι να κλαδέψει. Το κλάδεμα όντως εξαλείφει τον κίνδυνο, αλλά ως συνέπεια αφαιρεί και το όφελος. Η εξισορρόπηση των ευκαιριών και των κινδύνων της τεχνητής νοημοσύνης σημαίνει να φροντίζουμε το κλαδί έτσι ώστε το όφελος να υπερβαίνει τον κίνδυνο.

Δύο παράγοντες καθιστούν αυτό εφικτό. Πρώτον, η προσοχή τόσο στο εσωτερικό όσο και στο εξωτερικό του μοντέλου: έλεγχοι, δοκιμαστικά περιβάλλοντα, ανθρώπινη παρέμβαση, φυσικοί περιορισμοί του συστήματος (περισσότερα για αυτό σε λίγο). Δεύτερον, η ικανότητα που δημιουργεί έναν κίνδυνο είναι συχνά το καλύτερο εργαλείο για την άμβλυνσή του.

Η βιολογία, μία από τις δυνατότητες της τεχνητής νοημοσύνης που αναφέρονται συχνότερα στις συζητήσεις για το P(doom) (την πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει καταστροφή) λόγω της πιθανής κλίμακας της σχετικής καταστροφής, παρουσιάζει αυτό που ίσως είναι το πιο προκλητικό από όλα τα προαναφερθέντα ζεύγη κινδύνου-ευκαιρίας. Οι OpenAI, Anthropic, xAI και Google DeepMind έχουν όλες αντιμετωπίσει τις πιθανές αρνητικές επιπτώσεις της τάσης της τεχνητής νοημοσύνης για βιολογική έρευνα, ενσωματώνοντας μηχανισμούς ασφαλείας στα συστήματά τους, μερικοί πιο αποτελεσματικά από άλλους. Πράγματι, κατά τη διάρκεια της έρευνας για αυτό το άρθρο, ο ταξινομητής του Claude με υποβάθμισε από το Opus 5,5 στο Opus 4,8 σε τρεις περιπτώσεις. 

Μετάβαση στο Opus 4.8 Επεξεργασία και επανάληψη με το Opus 5.5

Τα συστήματα προστασίας του Opus 5.5 επισήμαναν αυτό το μήνυμα. Ίσως είναι η πρώτη φορά που το βλέπετε σε ένα μοντέλο Opus: το Opus 5.5 διαθέτει περισσότερες δυνατότητες και, κατά συνέπεια, ισχυρότερα συστήματα προστασίας, τα οποία ενίοτε μπορεί να επισημάνουν εργασίες που σχετίζονται με τη βιολογική έρευνα. Βελτιώνουμε αυτά τα συστήματα προστασίας προκειμένου να μειώσουμε τον αριθμό των μηνυμάτων που επισημαίνονται εσφαλμένα. Στείλτε τα σχόλιά σας ή μάθετε περισσότερα.

Λεπτομέρειες: [βιογραφικό]

Αυτό είναι χρήσιμο στο βαθμό που δημιουργεί εμπόδια για πιθανούς κακόβουλους δράστες, αλλά είναι ανεπαρκές, καθώς δεν θα καταφέρει να αποτρέψει έναν εισβολέα με έστω και ελάχιστη επιμονή. Όπως υποστηρίζουν οι O.H. Scharfman και Will Bellamy, τα μοντέλα ανοιχτών βαρών υστερούν σε σχέση με την αιχμή της τεχνολογίας κατά λιγότερο από ένα έτος και μπορούν να λειτουργούν ιδιωτικά, χωρίς να επιβαρύνονται από τους περιορισμούς που επιβάλλουν τα μέτρα ασφαλείας των εργαστηρίων αιχμής. Έτσι, το μεγαλύτερο μέτρο επιρροής βρίσκεται εκτός των μοντέλων, σε φυσικά σημεία ελέγχου όπως ο έλεγχος KYC στους παρόχους σύνθεσης DNA και τα συστήματα έγκαιρης προειδοποίησης που αναλύουν τα λύματα και τα κλινικά δείγματα για απειλές πριν αυτές εξαπλωθούν. Η τεχνητή νοημοσύνη καθιστά δυνατές και τις δύο αυτές προσεγγίσεις και ενισχύεται από το γεγονός ότι οι υπερασπιστές, σύμφωνα με τα λόγια των Bellamy και Scharfman, «γενικά έχουν μεγαλύτερη πρόσβαση σε κεφάλαια, έρευνα, υποδομές και ικανό προσωπικό».

Αν εφαρμόσουμε αυτή την προσέγγιση πάνω στην «μονοδιάστατη» ανάλυση του κινδύνου, γίνεται σαφές τι διακυβεύεται. Αν εξετάσουμε μόνο τον κίνδυνο, η αντίδρασή μας θα είναι να «ακινητοποιήσουμε» το μοντέλο. Με αυτόν τον τρόπο, χάνουμε τις βιολογικές εξελίξεις που συνδέονται με έργα όπως το AlphaFold (το οποίο χρησιμοποιούν πάνω από 3 εκατομμύρια ερευνητές για να μειώσουν κατά χρόνια τη διάρκεια της εργαστηριακής έρευνας) και τα εμβόλια που έχουν βελτιωθεί με τεχνητή νοημοσύνη και ήδη περνάνε τις κλινικές δοκιμές σε ανθρώπους. Και όλα αυτά, ενώ εξακολουθούμε να μην μπορούμε να αποκρούσουμε τους επιτιθέμενους που χρησιμοποιούν μοντέλα ανοιχτών βαρών.

Η απάντηση αλλάζει όταν αξιολογεί κανείς ταυτόχρονα και τις δύο στήλες. Αντί για ένα πιο αδύναμο μοντέλο, ισχυρότερες άμυνες γύρω από ένα ικανό μοντέλο. Αντί να κλαδέψουμε το κλαδί, ας επενδύσουμε περισσότερο χρόνο και πόρους στη φροντίδα του. Πρόκειται για μια επιλογή, και κάποιος πρέπει να την κάνει.

Ο χρηματοοικονομικός τομέας ως διαχειριστής: Πώς οι επενδυτές διαμορφώνουν την ανάπτυξη της τεχνητής νοημοσύνης

Το τμήμα Οικονομικών βρίσκεται σε μοναδική θέση για να επηρεάσει αυτή την απόφαση. Το έντυπο S-1 της Anthropic αποτελεί σπάνιο φαινόμενο, επειδή το επιβάλλει ο νόμος. Η νομοθεσία υποχρεώνει τους εκδότες να παρουσιάζουν και τις δύο πλευρές του ισολογισμού, τους κινδύνους και τις ευκαιρίες, στο ίδιο έγγραφο, ελεγμένο και υπογεγραμμένο. Σχεδόν τίποτα άλλο σε αυτή την ιστορία της τεχνητής νοημοσύνης δεν παρουσιάζεται με αυτόν τον τρόπο. Οι επιτυχίες συνοδεύονται από δελτία τύπου και εντυπωσιακά βίντεο επίδειξης, ενώ οι αποτυχίες από τίτλους με έντονη γραφή και αγωνία. Κάθε μία από αυτές μας παρουσιάζεται ως ξεχωριστή στήλη.

Έτσι, το δύσκολο έργο της συμφιλίωσης εναπόκειται στον αναγνώστη. Ευτυχώς, στον χρηματοοικονομικό τομέα, ο αναγνώστης έχει στα χέρια του τα μέσα. Αποφασίζοντας πού θα διατεθεί το κεφάλαιο, πώς θα ασκηθεί το δικαίωμα ψήφου στις μετοχές και τι θα δημοσιοποιήσουν οι εταιρείες, οι επενδυτές μπορούν να καθορίσουν τι θα συμβεί σε αυτά τα στριμμένα κλαδιά και τα ανταγωνιστικά άνθη τους.

Χρειάστηκαν αιώνες για να συμπληρωθούν εκείνα τα παλαιότερα βιβλία καταγραφής των επαναστατικών τεχνολογιών. Μέσα στον ταχύ ρυθμό της τεχνητής νοημοσύνης και την απεριόριστη πρόσβασή μας στην πληροφορία, δεν έχουμε ούτε αυτή την πολυτέλεια, ούτε αυτή τη δικαιολογία. Οι σημερινές επενδύσεις, οι ψήφοι και ο ακτιβισμός αποτελούν την ιστορία του αύριο. Οι επενδυτές δεν μπορούν να περιμένουν να συνδεθούν τα κομμάτια του παζλ. Πρέπει οι ίδιοι να τα συνδέσουν.

Η εντολή συμφιλίωσης: Αξιολόγηση των κινδύνων και των ευκαιριών της τεχνητής νοημοσύνης από κοινού

Δεν μπορούμε ακόμη να εξετάσουμε λεπτομερώς το ολοκληρωμένο ιστορικό της ΤΝ. Εκτός αν η ΤΝ επιταχύνει την πρόοδο της επιστήμης της μακροζωίας, πιθανότατα δεν θα έχουμε αυτή την ευκαιρία στη διάρκεια της ζωής μας. Ωστόσο, η ιστορία μας δείχνει πώς πρέπει να ερμηνεύονται τέτοια ιστορικά στοιχεία. Η τυπογραφία έφερε την επιστημονική επανάσταση και τις δίκες των μαγισσών· η μέθοδος Χάμπερ-Μπόσχ τάισε τον κόσμο και εξόπλισε τον Κάιζερ. Η εκ των υστέρων γνώση μας δεν διαγράφει καμία από τις δύο πλευρές από τα ιστορικά αρχεία. Μας διδάσκει να τις δεχόμαστε και τις δύο ταυτόχρονα.

Η τεχνητή νοημοσύνη δεν θα περιμένει να δούμε τα πράγματα εκ των υστέρων. Επομένως, την πειθαρχία που επιβάλλει νομικά το έντυπο S-1 της Anthropic, πρέπει να την επιβάλλουμε εμείς ως συνήθεια. Αυτή είναι η καθαρή εκτίμηση. Δεν πρόκειται για μια κρίση που εκδίδουμε όταν η κατάσταση έχει ηρεμήσει, αλλά μάλλον για μια ισορροπία που επιτυγχάνουμε ενώ η κατάσταση είναι ακόμα σε εξέλιξη. Παρακολουθήστε τους κινδύνους και αντιδράστε σε αυτούς, αλλά φροντίστε και ό,τι αναπτύσσεται παράλληλα με αυτούς.