Μια συζήτηση με τη Λίλιαν Φράιμπεργκ και τον Όστιν Ρίτζελ
Η τεχνητή νοημοσύνη εξελίσσεται με ρυθμούς που οι περισσότερες χρηματοπιστωτικές εταιρείες δεν προλαβαίνουν να αφομοιώσουν. Σε αυτή τη συζήτηση εξετάζουμε τι σημαίνει αυτό στην πράξη: για την ασφάλεια, τη στρατηγική προμηθευτών, αλλά και για τα άτομα μέσα στον οργανισμό σας που προσπαθούν να καταλάβουν πώς λειτουργεί, χωρίς να το γνωρίζετε.
Μέρος 1: Η «στιγμή του Μύθου» — Όταν ένα μοντέλο ήταν πολύ επικίνδυνο για να κυκλοφορήσει
Λίλιαν Φράιμπεργκ: Γεια σας όλους. Καλώς ήρθατε. Ονομάζομαι Λίλιαν Φράιμπεργκ. Είμαι επικεφαλής της Clarity AI για τη Βόρεια Αμερική. Μαζί μου βρίσκεται ο συνάδελφός μου Όστιν Ρίτζελ, ο ανώτερος διευθυντής στρατηγικής τεχνητής νοημοσύνης και στρατηγικών έργων. Βασικά, είναι το άτομο στο οποίο απευθύνομαι όταν συμβαίνει κάποιο πρόβλημα στον κόσμο της τεχνητής νοημοσύνης και πρέπει να καταλάβω πώς αυτό θα επηρεάσει εμένα και τους πελάτες μου.
Θα καλύψουμε πολλά θέματα. Πόσο γρήγορα εξελίσσεται στην πραγματικότητα αυτή η τεχνολογία. Τι σημαίνει αυτό για τις εταιρείες που προσπαθούν να συμβαδίσουν, καθώς και τις στρατηγικές αποφάσεις που θα ξεχωρίσουν τους νικητές από εκείνους που ακόμα προσπαθούν να ξεμπερδέψουν τις επιλογές που έκαναν πριν από δύο χρόνια.
Όστιν Ρίτζελ: Ευχαριστώ, Λίλιαν. Δεν μπορώ να ξεπεράσω αυτή την εισαγωγή. Μου έφτιαξες το έδαφος τέλεια. Ξέρω ότι έχουμε πολλά να συζητήσουμε σήμερα. Αυτή τη στιγμή, δεν λείπουν τα συναρπαστικά θέματα στον κόσμο της τεχνητής νοημοσύνης.
Λίλιαν Φράιμπεργκ: Ας ξεκινήσουμε με κάτι που πραγματικά συγκλόνισε τον κόσμο πριν από μερικούς μήνες. Και αν δεν το γνωρίζετε, θα σας κάνω μια σύντομη ανασκόπηση.
Η Anthropic — η ομάδα πίσω από το Claude, ένα από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης — κυκλοφόρησε ένα μοντέλο με την ονομασία Mythos. Οι κυκλοφορίες μοντέλων τεχνητής νοημοσύνης είναι συχνές. Όμως, αυτή η συγκεκριμένη είχε πολύ διαφορετική απήχηση. Το Mythos σχεδιάστηκε για να είναι εξαιρετικό στον προγραμματισμό. Αυτό που κανείς δεν είχε προβλέψει πλήρως ήταν ότι οι ίδιες ικανότητες που το έκαναν εξαιρετικό στη συγγραφή κώδικα το μετέτρεψαν ουσιαστικά στον πιο ισχυρό σαρωτή ευπαθειών ασφαλείας που έχει εμφανιστεί ποτέ. Μόνο στον Firefox εντοπίστηκαν σχεδόν 200 σοβαρά σφάλματα. Για λόγους σύγκρισης, το προηγούμενο μοντέλο είχε εντοπίσει περίπου 20, μόλις δύο μήνες νωρίτερα.
Αυτό είναι το σημείο που πραγματικά τράβηξε την προσοχή του κόσμου. Η Anthropic επέλεξε εθελοντικά να μην το δημοσιοποιήσει. Παρείχε πρόσβαση σε περίπου 40 οργανισμούς — μεγάλες χρηματοπιστωτικές εταιρείες, εταιρείες τεχνολογίας, κρίσιμες υποδομές — ειδικά ώστε οι υπερασπιστές να μπορέσουν να ενισχύσουν την άμυνά τους πριν αυτή η δυνατότητα διαδοθεί ευρέως. Αυτού του είδους η εθελοντική αυτοσυγκράτηση σε τέτοια κλίμακα δεν είχε συμβεί πραγματικά στο παρελθόν. Προκάλεσε ανησυχία στην Ουάσιγκτον, ανησυχία στις Βρυξέλλες και ανάγκασε σε μια πραγματική συζήτηση σχετικά με το πού βρίσκεται πραγματικά ο αγώνας της τεχνητής νοημοσύνης.
Η πρώτη μου εντύπωση είναι ότι δεν έχουμε φτάσει καθόλου σε συμφωνία. Ποια είναι η δική σου;
«Για τον έντιμο χρήστη, αυτό αποτελεί μια πολύ ισχυρή ασπίδα. Για τους κακόβουλους χρήστες, το Mythos είναι ένα πολύ ισχυρό επιθετικό όπλο.»
Όστιν Ρίτζελ: Σε ένα περιβάλλον όπου φαίνεται να βιώνουμε καθοριστικές στιγμές, πρωτοφανείς στιγμές κάθε δύο εβδομάδες, αυτή ήταν πραγματικά μια πολύ καθοριστική στιγμή για τον τομέα της τεχνητής νοημοσύνης. Και υπήρχαν μερικοί λόγοι γι’ αυτό.
Πρώτον, όπως αναφέρατε, το Mythos διαθέτει μοναδική αποτελεσματικότητα στην ικανότητά του να εντοπίζει κενά ασφαλείας, και φυσικά αυτό δημιουργεί ανησυχίες σχετικά με τη διπλή χρήση. Από τη μία πλευρά, για τον έντιμο χρήστη, αποτελεί μια πολύ ισχυρή ασπίδα. Από την άλλη όμως, για τους κακόβουλους χρήστες, το Mythos είναι ένα πολύ ισχυρό επιθετικό όπλο — ένα σπαθί, για να ολοκληρώσω τη μεταφορά.
Ο δεύτερος λόγος για τον οποίο ήταν τόσο σημαντικό είναι αυτή η ιδέα που ανέφερες: τα μοντέλα «αναπτύσσονται», δεν «κατασκευάζονται». Πρόκειται για έναν εντελώς διαφορετικό τρόπο σκέψης όσον αφορά την τεχνολογία. Δεν είναι μια ιδέα που εφεύρα εγώ. Στην πραγματικότητα, έτσι περιγράφει ο Dario Amodei, Διευθύνων Σύμβουλος της Anthropic, τη διαδικασία δημιουργίας ενός μοντέλου. Το Mythos δεν είχε βελτιστοποιηθεί ειδικά για σάρωση στον τομέα της κυβερνοασφάλειας. Είχε βελτιστοποιηθεί για την κωδικοποίηση, όπως πολλά μεγάλα γλωσσικά μοντέλα. Όμως, οι ίδιες δυνατότητες, τα ίδια χαρακτηριστικά που το έκαναν πραγματικά εξαιρετικό στην κωδικοποίηση, το έκαναν επίσης απολύτως παραγωγικό στην ανακάλυψη ευπαθειών.
«Το Mythos αποτελεί μια ριζική αλλαγή σε σχέση με τις δυνατότητες του Opus 4.6 όσον αφορά τον εντοπισμό τρωτών σημείων ασφαλείας. Μεγάλη αλλαγή.»
Υπήρχαν κάποιοι που έλεγαν στην αρχή ότι πρόκειται για τη μεγαλύτερη διαφημιστική φούσκα που έχει γίνει ποτέ — ένα μοντέλο τόσο ισχυρό που δεν μπορεί να κυκλοφορήσει. Όμως, σύντομα διαπιστώσαμε ότι στην πραγματικότητα δεν ήταν διαφημιστική φούσκα. Πρόκειται για μια ριζική αλλαγή σε σχέση με τις δυνατότητες του προηγούμενου μοντέλου, του Opus 4.6, όσον αφορά τον εντοπισμό τρωτών σημείων ασφαλείας. Μεγάλη αλλαγή.
Παρεμπιπτόντως, θα ήθελα να επισημάνω ότι αυτή η ιδέα της μεταφοράς ικανοτήτων από έναν τομέα σε έναν άλλο είναι κάτι που παρατηρούμε στον χρηματοοικονομικό τομέα. Πολλά από τα στοιχεία που κάνουν τα μεγάλα γλωσσικά μοντέλα εξαιρετικά ικανά στον προγραμματισμό, όπως η λογική, τα καθιστούν εξίσου εξαιρετικά ικανά και σε πολλές χρηματοοικονομικές εργασίες.
Ο τρίτος λόγος για τον οποίο αυτό ήταν τόσο σημαντικό: η Anthropic, με δική της πρωτοβουλία, δεν το δημοσιοποίησε και το παραχώρησε σε αυτά τα 40 — νομίζω ότι τώρα μπορεί να είναι 70 — ιδρύματα, ώστε να μπορέσουν να ενισχύσουν τα συστήματα άμυνάς τους. Επίσης , εν μέρει λόγω ορισμένων ανησυχιών σχετικά με την υπολογιστική ισχύ. Το Mythos είναι ένα πολύ μεγάλο μοντέλο.
«Η κυβέρνηση Τραμπ έθεσε την ιδέα να υποχρεωθούν τα εργαστήρια τεχνητής νοημοσύνης να υποβάλλουν τα μοντέλα τους στις ομοσπονδιακές αρχές πριν από τη δημόσια κυκλοφορία τους. Σαν μια FDA για τον τομέα της τεχνητής νοημοσύνης.»
Αυτό προκάλεσε μια πολύ ενδιαφέρουσα αντίδραση από την κυβέρνηση Τραμπ. Από ιδεολογική άποψη, η κυβέρνηση αντιτάσσεται στη ρύθμιση, ειδικά στον τομέα της τεχνητής νοημοσύνης — μία από τις πρώτες εκτελεστικές διαταγές της ήταν η κατάργηση ενός κανονισμού που είχε θεσπίσει η κυβέρνηση Μπάιντεν. Τώρα όμως έθεσαν την ιδέα μιας εκτελεστικής διαταγής που θα υποχρεώνει τα εργαστήρια τεχνητής νοημοσύνης να υποβάλλουν τα μοντέλα τους στις ομοσπονδιακές αρχές πριν από τη δημόσια κυκλοφορία τους. Έχει περιγραφεί ως μια «FDA» για τον τομέα της τεχνητής νοημοσύνης. Μια μεγάλη αλλαγή στο ρυθμιστικό τοπίο.
Αυτό προκάλεσε επίσης την αντίδραση της ΕΕ, καθώς βρέθηκαν σε δύσκολη θέση — κανένας οργανισμός με έδρα στην ΕΕ δεν είχε πρόσβαση. Υπάρχουν επίσης ερωτήματα σχετικά με την ελεύθερη και δίκαιη πρόσβαση όλων των κυβερνήσεων, προκειμένου να ενισχύσουν τις άμυνές τους.
Τούτου λεχθέντος, όσον αφορά το πρώτο μέρος της ερώτησής σας: είναι ο αγώνας της τεχνητής νοημοσύνης μακριά από το να έχει κριθεί; Απολύτως. Οι ειδικοί γενικά υποστηρίζουν — και αυτό προέρχεται από τους διευθύνοντες συμβούλους αυτών των εταιρειών — ότι τα εργαστήρια των ΗΠΑ βρίσκονται μόνο περίπου 1 έως 3 μήνες μπροστά ή πίσω το ένα από το άλλο αυτές τις μέρες. Τα κινεζικά εργαστήρια, όπως το DeepSeek, βρίσκονται περίπου 6 έως 12 μήνες πίσω. Είναι πολύ, πολύ συγκεντρωμένα. Και νομίζω ότι, ως αποτέλεσμα, πρέπει να περιμένουμε να δούμε τον τομέα να ανακατεύεται και να αναδιατάσσεται συνεχώς.
Μέρος 2: Γιατί ο τομέας των χρηματοοικονομικών υπηρεσιών βρίσκεται στο επίκεντρο
Λίλιαν Φράιμπεργκ: Ενδιαφέρον. Οπότε, παρόλο που η Anthropic βρίσκεται σε αυτή τη φάση, δεν έχει ακόμη αναδειχθεί νικητής. Ο αγώνας συνεχίζεται με αμείωτη ένταση . Και ένας από τους τομείς όπου ο αγώνας αυτός εκτυλίσσεται με τον πιο ορατό τρόπο είναι αυτός των χρηματοοικονομικών υπηρεσιών, όπως επισημάνατε νωρίτερα. Όλοι οι μεγάλοι πάροχοι τεχνητής νοημοσύνης καταβάλλουν τεράστιες προσπάθειες για να εισχωρήσουν σε αυτόν τον κλάδο. Θα λέγατε ότι πρόκειται για διαρθρωτικό φαινόμενο ή απλώς επειδή εκεί βρίσκονται τα χρήματα;
Όστιν Ρίτζελ: Νομίζω και τα δύο. Από δομική άποψη, πολλά από τα χαρακτηριστικά που κάνουν τα μεγάλα γλωσσικά μοντέλα πραγματικά αποτελεσματικά στον προγραμματισμό τα καθιστούν επίσης πολύ αποτελεσματικά στις χρηματοοικονομικές ροές εργασιών — ή σε πολλές από αυτές, σίγουρα όχι σε όλες. Η ίδια η Anthropic εκτιμά ότι ο χρηματοοικονομικός τομέας βρίσκεται περίπου 6 έως 12 μήνες πίσω από το σημείο όπου βρίσκεται σήμερα η προγραμματιστική στην καμπύλη αυτοματοποίησης. Και όποιος έχει δώσει έστω και λίγη προσοχή στον χώρο της τεχνητής νοημοσύνης ξέρει τι συμβαίνει με την προγραμματιστική αυτές τις μέρες.
Είναι επίσης αναμφίβολα εκεί που βρίσκονται τα χρήματα. Τα μεγάλα εργαστήρια αποκομίζουν σημαντικά έσοδα από τον χρηματοοικονομικό τομέα. Για την Anthropic — και την αναφέρω επειδή μόλις δημοσίευσε μια πληθώρα στοιχείων σχετικά με αυτό — ο χρηματοοικονομικός τομέας καταλαμβάνει τη δεύτερη θέση μεταξύ όλων των κλάδων όσον αφορά τα έσοδα. Βρίσκεται πίσω μόνο από τον τεχνολογικό κλάδο, ενώ το 40% των 50 μεγαλύτερων πελατών της είναι χρηματοπιστωτικά ιδρύματα.
Λίλιαν Φράιμπεργκ: Αυτό είναι απολύτως λογικό. Όμως, μια καθυστέρηση έξι έως δώδεκα μηνών σε σχέση με τον τομέα της προγραμματιστικής… Νομίζω ότι είναι πραγματικά μικρότερη από ό,τι συνειδητοποιούν οι περισσότεροι. Και όμως, ο τομέας των χρηματοοικονομικών υπηρεσιών είναι γνωστός για τον αργό ρυθμό του. Κύκλοι προμηθειών, εγκρίσεις κινδύνων, υπογραφές συμμόρφωσης. Ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης αποτελεί ένα προσωρινό πρόβλημα για τον κλάδο ή υπάρχει εδώ μια πιο θεμελιώδης αναντιστοιχία;
«Τα μεγάλα εργαστήρια αποκομίζουν σημαντικά έσοδα από τον χρηματοοικονομικό τομέα. Όσον αφορά τα έσοδα, ο χρηματοοικονομικός τομέας καταλαμβάνει τη δεύτερη θέση μεταξύ όλων των κλάδων για την Anthropic.
Όστιν Ρίτζελ: Νομίζω ότι πρέπει να το εξετάσουμε ξεκινώντας από τα βασικά. Από πού προέρχεται η τριβή; Φαίνεται να υπάρχει τόσο διαδικαστική όσο και δομική τριβή.
Οι διαδικαστικές δυσκολίες — οι κύκλοι τεκμηρίωσης, η ενσωμάτωση προμηθευτών και άλλα παρόμοια θέματα — η τεχνητή νοημοσύνη θα μπορούσε πιθανώς να τις περιορίσει σε μεγάλο βαθμό. Οι δομικές δυσκολίες είναι μάλλον πιο διαρκείς. Και με τον όρο «δομικές δυσκολίες» εννοώ τη νομοθεσία, το καθήκον εμπιστοσύνης και την προσωπική ευθύνη για τις αποφάσεις σε τομείς με αυστηρή ρύθμιση. Αυτά θα ήταν προτιμότερο να θεωρηθούν χαρακτηριστικά και όχι ελαττώματα στον κόσμο των χρηματοοικονομικών, ειδικά καθώς ο τομέας αυτός αντιμετωπίζει την πρόκληση της τεχνητής νοημοσύνης, όπου το κόστος ενός λάθους είναι πολύ υψηλό.
Ο πιο ενδεχομένως προκλητικός διαρθρωτικός περιορισμός είναι μια ιδέα για την οποία έχω γράψει και ονομάζεται «Silicon Ceiling»: το όριο της ικανότητας μιας επιχείρησης να αφομοιώσει νέες δυνατότητες. Πράγματα όπως η διαχείριση της αλλαγής, η κάλυψη των κενών δεξιοτήτων μεταξύ των εργαζομένων και η εκπαίδευση των εργαζομένων . Υπάρχει μια αναντιστοιχία μεταξύ της ταχύτητας των πρωτοποριακών ικανοτήτων και της ταχύτητας της οργανωτικής απορρόφησης. Και αυτό δεν αφορά μόνο τα χρηματοπιστωτικά ιδρύματα. Η έρευνα της Deloitte για την κατάσταση της τεχνητής νοημοσύνης στις επιχειρήσεις το 2026 διαπίστωσε ότι το κενό δεξιοτήτων στον τομέα της τεχνητής νοημοσύνης θεωρείται το μεγαλύτερο εμπόδιο στην ενσωμάτωσή της στις επιχειρήσεις. Επομένως , αυτή η πιο ασαφής πλευρά του διαρθρωτικού εμποδίου είναι εξαιρετικά σημαντική για την κατανόηση του πόσο γρήγορα μπορούν να κινηθούν όλες οι εταιρείες.
Θα περίμενα αυτό το χάσμα να διευρυνθεί μάλλον πριν αρχίσει να μειώνεται. Θα παρατηρήσετε όμως μια απόκλιση μεταξύ των εταιρειών που επενδύουν σε ικανότητα απορρόφησης — κάτι που ουσιαστικά σημαίνει επένδυση σε ανθρώπινο δυναμικό και διαδικασίες ως στρατηγικό πλεονέκτημα — και εκείνων που δεν το κάνουν. Προβλέπω ότι οι πρώτες θα ξεπεράσουν τις δεύτερες.
«Ο πιο ενδεχομένως προκλητικός διαρθρωτικός περιορισμός είναι το λεγόμενο «Silicon Ceiling»: το όριο της ικανότητας μιας επιχείρησης να αφομοιώσει νέες δυνατότητες. Πρόκειται για θέματα όπως η διαχείριση της αλλαγής, η κάλυψη των ελλείψεων δεξιοτήτων μεταξύ των εργαζομένων και η κατάρτιση του προσωπικού. Υπάρχει μια αναντιστοιχία μεταξύ της ταχύτητας με την οποία αναπτύσσονται οι πρωτοποριακές δυνατότητες και της ταχύτητας με την οποία τις αφομοιώνει ο οργανισμός.»
Λίλιαν Φράιμπεργκ: Μου αρέσει αυτή η ευέλικτη προσέγγιση. Και το «Silicon Ceiling» είναι ένα πολύ χρήσιμο πλαίσιο, γιατί το πρόβλημα δεν είναι απαραίτητα η τεχνολογία. Είναι οι άνθρωποι, η οργάνωση, η ενσωμάτωση. Και αυτό συνδέεται άμεσα με κάτι που θέλω να βεβαιωθώ ότι θα θίξουμε πριν προχωρήσουμε, επειδή είναι πολύ σημαντικό και μου κάνουν αυτή την ερώτηση συνεχώς. Πρόκειται για την κυβερνοασφάλεια. Η Mythos το έκανε πιο κατανοητό. Όταν τα μοντέλα αναπτύσσονται ταχύτερα, τι συμβαίνει στην πραγματικότητα στην επιφάνεια απειλής για ένα χρηματοπιστωτικό ίδρυμα;
Όστιν Ρίτζελ: Είναι μια πολύ σημαντική ερώτηση και, στην πραγματικότητα, παρουσιάζει αυτή την αργοπορία των χρηματοπιστωτικών ιδρυμάτων υπό ένα πολύ θετικό πρίσμα. Αντί για αργοπορία, την ερμηνεύεις ως προσεκτικότητα.
Η ταχύτητα ανάπτυξης των μοντέλων μεταβάλλει την επιφάνεια απειλής μέσω δύο βασικών παραγόντων. Ο πρώτος είναι η ασυμμετρία μεταξύ επιθετικών και αμυντικών δυνατοτήτων. Ο κύκλος που περιλαμβάνει την εμφάνιση μιας δυνατότητας, την εισβολή της στο προσκήνιο και τη διάδοσή της στο περιβάλλον, συμπιέζεται. Και όταν αυτό το χρονικό περιθώριο συμπιέζεται, δεν δίνει απλώς στους υπερασπιστές λιγότερο χρόνο για να καλύψουν τα κενά. Τους δίνει λιγότερο χρόνο για να κατανοήσουν τι ακριβώς προσπαθούν να αντιμετωπίσουν. Η απόφαση της Anthropic να αναστείλει το Mythos είναι το καλύτερο παράδειγμα που έχουμε δει μέχρι στιγμής μιας εταιρείας που πατάει φρένο, προσπαθώντας να διαχωρίσει τη δυνατότητα από την ανάπτυξη και να δώσει σε όλους λίγο χρόνο προετοιμασίας.
Ο δεύτερος παράγοντας είναι ότι τα παραδοσιακά όρια ασφαλείας αλλάζουν, ειδικά καθώς η τεχνητή νοημοσύνη αποκτά αυτονομία και αρχίζει να εκτελεί πραγματικές ενέργειες. Η τεχνητή νοημοσύνη με «χέρια» αποτελεί ένα εντελώς διαφορετικό ζήτημα από έναν εγκέφαλο σε ένα βάζο. Κάθε ενσωμάτωση τεχνητής νοημοσύνης συνεπάγεται την ανάπτυξη ενός νέου περιμέτρου. Ένας πράκτορας με πρόσβαση στο ημερολόγιο, στο ηλεκτρονικό ταχυδρομείο, στο σύστημα αρχείων... Δεν ταιριάζει απόλυτα στα μοντέλα ελάχιστων προνομίων στα οποία βασιζόμασταν. Οι πρακτικές ασφάλειας πιθανώς πρέπει να αλλάξουν ριζικά για να αντανακλούν αυτόν τον ρυθμό αλλαγής. Αντί να ενημερώνεται η στάση ασφάλειας ετησίως, πρέπει να μοιάζει πολύ περισσότερο με μηνιαίο ρυθμό, προκειμένου να προσπαθήσει να συμβαδίσει με το ρυθμό ανάπτυξης της τεχνητής νοημοσύνης.
«Τα παραδοσιακά όρια ασφάλειας αλλάζουν, ειδικά καθώς η τεχνητή νοημοσύνη αποκτά αυτονομία και αρχίζει να ενεργεί πραγματικά. Η τεχνητή νοημοσύνη με φυσική παρουσία αποτελεί ένα εντελώς διαφορετικό ζήτημα από έναν εγκέφαλο σε ένα βάζο.»
Μέρος 3: Η λάθος απόφαση στο λάθος επίπεδο
Λίλιαν Φράιμπεργκ: Αυτό θα αποτελέσει μια τεράστια προσαρμογή για ορισμένες εταιρείες. Ας αλλάξουμε λοιπόν λίγο θέμα και ας μιλήσουμε για ένα πρόβλημα που υποψιάζομαι ότι πολλοί άνθρωποι αντιμετωπίζουν σιωπηλά αυτή τη στιγμή.
Ας υποθέσουμε: Πριν από 18 μήνες, η εταιρεία σας ολοκλήρωσε όλη τη διαδικασία: έλεγχο από το τμήμα πληροφορικής, έγκριση κινδύνων, έγκριση συμμόρφωσης, και ενέκρινε ένα βασικό μοντέλο. Έχουν επενδυθεί πόροι. Και τώρα το τοπίο έχει αλλάξει και αναρωτιέστε: μήπως ποντάραμε στο σωστό άλογο;
Ένας σημαντικός παράγοντας που επιδείνωσε την κατάσταση είναι ότι πολλές από αυτές τις αποφάσεις ελήφθησαν σε λάθος επίπεδο. Το τμήμα διαχείρισης κινδύνων ή το τμήμα πληροφορικής ενέκρινε κάτι πριν το επιχειρηματικό τμήμα καταλάβει πραγματικά τι αγόραζε, πώς θα το χρησιμοποιούσε ή ακόμα και ποιος θα το χρησιμοποιούσε. Τώρα έχετε ένα συμβόλαιο, ροές εργασιών που έχουν δημιουργηθεί με βάση αυτό, ενώ ο υπόλοιπος κόσμος έχει προχωρήσει.
Όστιν, υπάρχει λύση σε αυτό; Ή μήπως ο κλάδος θα πρέπει να συνεχίσει να βαρύνεται με αυτές τις αρχικές αποφάσεις για λίγο ακόμα;
Όστιν Ρίτζελ: Όταν το έδαφος αλλάζει συνεχώς, η καταλληλότερη αντίδραση είναι να διασφαλίσουμε ότι τα θεμέλια είναι αρκετά ευέλικτα ώστε να προσαρμόζονται. Αυτό που παρατηρήσαμε κατά το πρώτο κύμα της τεχνητής νοημοσύνης, όταν ο ενθουσιασμός αυξανόταν, αλλά η τεχνολογία ήταν ακόμα αρκετά καινούργια, ας πούμε το 2024, είναι ότι μονάδες εκτός του επιχειρηματικού τομέα λάμβαναν πολλές από αυτές τις αποφάσεις εκ μέρους των επιχειρηματικών χρηστών. Ομάδες πληροφορικής, διαχείρισης κινδύνων και προμηθειών.
Οι επιχειρηματικές μονάδες πιθανώς ανέβαλαν τη λήψη αποφάσεων λόγω της καινοτομίας του θέματος. Δεν είχαν ακόμη διαμορφώσει προσωπικές προτιμήσεις. Δεν είχαν εξοικειωθεί με τις δυνατότητες αυτών των εργαλείων. Και, ειλικρινά, οι δυνατότητες ήταν πολύ διαφορετικές. Το 2024, μιλούσαμε για chatbots. Τώρα μιλάμε για ανθρώπους που δημιουργούν ρομπότ σε λίγες ώρες. Είναι μια τεράστια αλλαγή.
Παρ’ όλα αυτά, θα περίμενα ο «μοντελο-αγνωστικισμός» να αναδειχθεί ως η κυρίαρχη προσέγγιση, τόσο μεταξύ των εταιρειών που αναπτύσσουν εξειδικευμένες λύσεις όσο και μεταξύ των πελατών που τις αγοράζουν. Ωστόσο, ο μοντελο-αγνωστικισμός δεν είναι απλώς μια απόφαση που παίρνεις. Δεν αρκεί να πεις απλώς «είμαστε μοντελο-αγνωστικιστές». Απαιτεί τεράστια επένδυση σε επίπεδο αρχιτεκτονικής.
«Όταν το έδαφος βρίσκεται σε συνεχή μετακίνηση, η καταλληλότερη αντίδραση είναι να διασφαλίσουμε ότι τα θεμέλια είναι αρκετά ευέλικτα ώστε να προσαρμόζονται.»
Clarity AI τελεί ένα χαρακτηριστικό παράδειγμα αυτού. Από την αρχή λειτουργούμε με μια δομή ανεξάρτητη από συγκεκριμένα μοντέλα. Η πλατφόρμα εξαγωγής δεδομένων που έχουμε δημιουργήσει, τόσο για εσωτερική χρήση όσο και για τους πελάτες μας, επιτρέπει την απρόσκοπτη εναλλαγή μεταξύ μοντέλων των Anthropic, OpenAI, Gemini και πολλών άλλων. Αν συμπεριλάβουμε και τα μοντέλα ανοιχτού κώδικα, μιλάμε για πρόσβαση σε περισσότερα από χίλια βασικά μοντέλα. Ένας νέος συμμετέχων μπορεί να ενσωματωθεί σε μόλις δύο ημέρες. Αυτό διασφαλίζει ότι δεν εξαρτόμαστε ποτέ από ένα μόνο εργαστήριο και δεν είμαστε ποτέ ευάλωτοι στο να καταστούμε ξεπερασμένοι από μια νέα έκδοση ή να μείνουμε στο δρόμο λόγω διακοπής λειτουργίας.
Οι αγοραστές από την άλλη πλευρά θα πρέπει να ακολουθήσουν το παράδειγμα που έδωσε πρόσφατα η Apple. Η Apple πρόκειται να χρησιμοποιήσει το Gemini ως βάση για τα βασικά της μοντέλα, αλλά με την κυκλοφορία του iOS 27 θα επιτρέψει στους χρήστες να επιλέξουν τον τρίτο πάροχο που επιθυμούν — Gemini, OpenAI, Anthropic — για την υποστήριξη λειτουργιών σε όλο το λογισμικό της. Μια απάντηση της Siri που δημιουργείται μέσω του Claude θα είναι διαφορετική από αυτή που δημιουργείται με το Gemini. Θα μπορούσατε να κάνετε αυτή την επιλογή με βάση την προτίμησή σας για τον τόνο ή την προσωπικότητα του μοντέλου, τη φήμη του για συγκεκριμένες εργασίες, την εμπιστοσύνη σας στο εργαστήριο ή την εξοικείωσή σας με αυτό από επαγγελματικά περιβάλλοντα.
Η Apple δεν στοιχηματίζει στα άλογα. Χτίζει την ίδια την πίστα. Αυτή είναι η προσέγγιση που ακολουθούμε Clarity AI χρόνια στην Clarity AI , και αναμένω ότι θα υιοθετηθεί όλο και περισσότερο τόσο από τους δημιουργούς όσο και από τους αγοραστές, καθώς συνειδητοποιούν ότι η αποκλειστικότητα ενέχει τεράστιο κίνδυνο.
«Η Apple δεν στοιχηματίζει στα άλογα. Χτίζει την πίστα αγώνων. Αυτή είναι η ίδια προσέγγιση που ακολουθούμε Clarity AI χρόνια στην Clarity AI .»
Λίλιαν Φράιμπεργκ: Φτιάξε την πίστα, μην στοιχηματίζεις στο άλογο. Μου αρέσει πολύ αυτό. Όχι μόνο επειδή μου αρέσει να στοιχηματίζω, αλλά επειδή ακούγεται προφανές εκ των υστέρων. Όμως, προφανώς δεν το συνειδητοποίησαν όλοι από νωρίς. Αναφέρθηκες στο γεγονός ότι οι αποφάσεις λαμβάνονται στο λάθος επίπεδο. Ισχύει αυτό το μοτίβο σε ολόκληρη την αγορά;
Όστιν Ρίτζελ: Νομίζω ότι ναι. Και αυτό δεν είναι κάτι για το οποίο ευθύνεται αποκλειστικά ο χρηματοπιστωτικός τομέας. Αυτό συμβαίνει σε όλους τους κλάδους. Τα κεντρικά τμήματα πληροφορικής, διαχείρισης κινδύνων και προμηθειών είχαν την πρώτη ευκαιρία να αξιολογήσουν τους παρόχους τεχνητής νοημοσύνης, όταν αυτή ήταν κάτι εντελώς καινούργιο, και οι επιχειρήσεις ανέβαλαν κάπως την άσκηση της επιρροής τους. Έτσι καταλήγουμε να έχουμε εταιρείες που ενέκριναν ένα μοντέλο το 2024 και τώρα είναι δεσμευμένες σε αυτό. Και αυτό ακούμε και οι δύο από τους πελάτες μας στην καθημερινή μας εργασία.
Η έξυπνη κίνηση ήταν και θα είναι πάντα η προσέγγιση από τη βάση προς την κορυφή. Πρέπει πρώτα να κατανοήσετε την περίπτωση χρήσης και μετά να προχωρήσετε στην επιλογή του προμηθευτή. Ξεκινάτε με τις λειτουργίες που είναι πιο κοντά στην εργασία. Αν σκέφτεστε να υιοθετήσετε ένα εργαλείο τεχνητής νοημοσύνης για μηχανικούς λογισμικού, καλύτερα να μιλήσετε με τους μηχανικούς λογισμικού. Αν σκέφτεστε να υιοθετήσετε ένα εργαλείο για διαχειριστές σχέσεων, πρέπει να μιλήσετε με τους διαχειριστές σχέσεων για να καταλάβετε ποιες δυνατότητες έχουν σημασία και ποιες όχι. Προχωρήστε πέρα από τα όμορφα demo και εστιάστε στην πραγματική αξία.
Η κεντρική αξιολόγηση πρέπει να λειτουργήσει ως συμπληρωματικό επίπεδο — τα τμήματα πληροφορικής, διαχείρισης κινδύνων και προμηθειών πρέπει όλα να υποβάλουν αυτά τα εργαλεία σε ενδελεχή έλεγχο από άποψη ασφάλειας, όπως έχουμε ήδη αναφέρει. Ωστόσο, θα πρέπει να είναι ανοιχτά στην επιρροή των επιχειρηματικών μονάδων. Οι χρήστες των επιχειρηματικών μονάδων αποκτούν πλέον επαρκή ικανότητα ώστε να ασκούν επιρροή στις αξιολογήσεις των τεχνικών ομάδων.
Λίλιαν Φράιμπεργκ: Και αυτό μας οδηγεί άψογα σε ένα ξεχωριστό αλλά συναφές φαινόμενο. Πιστεύω ότι είναι πολύ πιο διαδεδομένο από ό,τι οι εταιρείες θέλουν να παραδεχτούν: οι άνθρωποι μέσα σε αυτούς τους οργανισμούς γνωρίζουν ότι υπάρχουν καλύτερα εργαλεία και τα χρησιμοποιούν κρυφά ούτως ή άλλως, είτε έχουν εγκριθεί είτε όχι. Τι αποτέλεσμα έχει τελικά αυτή η πίεση σε θεσμικό επίπεδο;
Όστιν Ρίτζελ: Πιστεύω ότι αυτή η κρυφή χρήση αποτελεί σύμπτωμα ενός πολύ βαθιού προβλήματος. Ο Ίθαν Μόλικ, από το Wharton, ο οποίος γράφει εκτενώς για την τεχνητή νοημοσύνη σε επιχειρηματικό περιβάλλον, έχει ονομάσει αυτόν τον τύπο «Secret Cyborg» (Μυστικός Κυβόργ) . Ο «Secret Cyborg» είναι σιωπηλός και φοβισμένος. Πρόκειται για έναν υπάλληλο που χρησιμοποιεί την τεχνητή νοημοσύνη για να ξεπεράσει τους συναδέλφους του κρυφά, αλλά δεν βλέπει κανένα όφελος, κανένα κίνητρο για να αποκαλύψει αυτή τη χρήση. Φοβούνται την κριτική ή φοβούνται ότι η τεχνητή νοημοσύνη θα μπορούσε να τους αντικαταστήσει. Όποια και αν είναι η αποθάρρυνση που τον ωθεί να κρατήσει τη χρήση της τεχνητής νοημοσύνης κρυφή, είναι προβληματική. Και υποδηλώνει ότι η ίδια η εταιρεία δεν έχει χτίσει τη σωστή εσωτερική σχέση με την τεχνητή νοημοσύνη. Αυτή είναι η ασθένεια της οποίας αυτός ο χαρακτήρας αποτελεί σύμπτωμα.
Οι συνέπειες είναι σοβαρές. Υπάρχουν προβλήματα όπως η διαρροή δεδομένων μέσω του ιστορικού προτροπών — αν χρησιμοποιείτε μη ασφαλείς, μη εταιρικές εκδόσεις εργαλείων, ενδέχεται να διαβιβάζετε ευαίσθητες πληροφορίες σε συστήματα που θα μπορούσαν να εκπαιδευτούν με βάση αυτές, και οι πληροφορίες αυτές θα μπορούσαν να εμφανιστούν στις απαντήσεις που παρέχονται σε άλλους χρήστες. Αυτό οδηγεί σε ασυνεπή αποτελέσματα μεταξύ των ομάδων. Αλλά ίσως το πιο δαπανηρό ζήτημα είναι ότι δημιουργεί κενά στις δυνατότητες. Μειώνει την αποδοτικότητα του προσωπικού σας και δημιουργεί ένα αυξανόμενο χάσμα μεταξύ των εταιρειών όπου επικρατούν αυτοί οι «μυστικοί κυβόργοι» και εκείνων των εταιρειών που έχουν δημιουργήσει επιεικείς, καλά διαχειριζόμενα περιβάλλοντα τεχνητής νοημοσύνης, όπου οι άνθρωποι χρησιμοποιούν τα εργαλεία τους χωρίς αντίποινα.
Η λύση είναι να διασφαλίσετε ότι διαμορφώνετε ένα πλαίσιο διακυβέρνησης που αφορά το πώς — και όχι το αν — οι εργαζόμενοι χρησιμοποιούν την τεχνητή νοημοσύνη, γιατί είναι σίγουρο ότι θα την χρησιμοποιήσουν. Και να αλλάξετε τη λογική από την κορυφή προς τα κάτω: η τεχνητή νοημοσύνη αποτελεί καταλύτη για την εργασία των ειδικών, όχι υποκατάστατο αυτής. Ένας εργαζόμενος που αξιοποιεί την τεχνητή νοημοσύνη επιτυγχάνει πολύ περισσότερα από έναν εργαζόμενο που αντικαθίσταται από αυτήν. Οι εταιρείες που καταφέρνουν να κάνουν περισσότερα με τους ίδιους πόρους, αντί να κάνουν τα ίδια με λιγότερους, θα είναι πραγματικά οι νικητές.
Λίλιαν Φράιμπεργκ: Κατάλαβα. Το «Μυστικό Κυβόργ». Σιωπηλό και φοβισμένο. Βλέπω να ανοίγεται μπροστά τους ένα εντελώς νέο πελατολόγιο για θεραπευτικές υπηρεσίες.
Όστιν Ρίτζελ: Πράγματι. Ή μια σειρά επιστημονικής φαντασίας.
Λίλιαν Φράιμπεργκ: Θα μπορούσαμε να το πουλήσουμε στο «Star Wars».
Όστιν Ρίτζελ: Είναι μια πολύ θλιβερή ταινία της σειράς «Star Wars», αλλά ναι.
«Ένας εργαζόμενος που αξιοποιεί την τεχνητή νοημοσύνη καταφέρνει πολύ περισσότερα από έναν εργαζόμενο που αντικαθίσταται από την τεχνητή νοημοσύνη. Οι εταιρείες που καταφέρνουν περισσότερα με τα ίδια μέσα, αντί να κάνουν τα ίδια με λιγότερα — αυτές θα είναι πραγματικά οι νικήτριες.»
Μέρος 4: Κατασκευή ή αγορά — και πόσο κοστίζει πραγματικά το «λευκό ελέφαντας»
Λίλιαν Φράιμπεργκ: Ορισμένες εταιρείες που παρακολουθούν την εξέλιξη όλων αυτών έχουν καταλήξει σε μια απάντηση που ακούγεται λογική εκ πρώτης όψεως: «Αν δεν μπορούμε να βρούμε τον κατάλληλο προμηθευτή, θα το φτιάξουμε μόνοι μας». Να κατέχουμε το stack, να ελέγχουμε το roadmap, να μην εξαρτόμαστε από εξωτερικό πάροχο. Έχω ακούσει αυτό το επιχείρημα να προβάλλεται πειστικά σε πολλές συνεδριάσεις διοικητικών συμβουλίων. Όμως, η υλοποίησή του διαφέρει πολύ από την παρουσίαση. Πώς βλέπετε αυτή την ανταλλαγή;
Όστιν Ρίτζελ: Υπάρχουν δύο επίπεδα που πρέπει να διαχωρίσουμε όταν μιλάμε για το αν θα αναπτύξουμε ή θα αγοράσουμε. Το πρώτο είναι τα βασικά μοντέλα: αυτά που αναπτύσσει η DeepMind της Google στο Gemini, η Anthropic στο Claude και η OpenAI στο ChatGPT. Σχεδόν κανένα χρηματοπιστωτικό ίδρυμα δεν εξετάζει σοβαρά το ενδεχόμενο να αναπτύξει ένα βασικό μοντέλο. Το χάσμα σε ανθρώπινο δυναμικό είναι τεράστιο, οι απαιτούμενες κεφαλαιουχικές δαπάνες είναι τεράστιες και οι υπολογιστικοί περιορισμοί είναι τεράστιοι. Ωστόσο, η ανάπτυξη εξειδικευμένων εργαλείων και εφαρμογών που αξιοποιούν την τεχνητή νοημοσύνη ως κεντρική δυνατότητα — πλατφόρμες εξαγωγής δεδομένων, γεννήτριες αναφορών, συστήματα υποβοήθησης — αποτελεί ένα πιο ενδιαφέρον θέμα συζήτησης, και εκεί βρίσκονται οι πραγματικές αντισταθμίσεις.
Με τα σημερινά εργαλεία, θα μπορούσατε θεωρητικά να φτιάξετε το δικό σας Gmail, το δικό σας Slack, το δικό σας HubSpot. Λίγοι όμως το κάνουν αυτό σε επιχειρηματικό επίπεδο. Όχι επειδή δεν θα μπορούσαν τεχνικά, αλλά επειδή το κόστος της σωστής υλοποίησης — και στη συνέχεια της σωστής λειτουργίας και συντήρησής του — θα επισκίαζε κάθε πιθανό όφελος από την κατοχή αυτού του πλήρους στοίβα. Γίνεται ένα καταραμένο άχρηστο βάρος. Έχετε αγοράσει αυτόν τον ελέφαντα και τώρα πρέπει να βρείτε πώς να τον ταΐσετε και να τον κρατήσετε ζωντανό.
Υπάρχουν τρεις λόγοι για τους οποίους η εσωτερική διαδρομή τείνει να μην ανταποκρίνεται στις προσδοκίες:
- Πρώτον, υπάρχει ένα σαφές κόστος ευκαιρίας. Κάθε μηχανικός που αναλαμβάνει την ανάπτυξη ενός εσωτερικού εργαλείου τεχνητής νοημοσύνης είναι ένας μηχανικός που δεν ασχολείται με τις βασικές δραστηριότητες του οργανισμού.
- Δεύτερον, τα εξειδικευμένα εργαλεία συνοδεύονται από ειδικούς: επαγγελματίες που είναι αφοσιωμένοι στο συγκεκριμένο θέμα και το γνωρίζουν από μέσα. Στην Clarity AI, αφιερώσαμε μια δεκαετία στη συλλογή, την επικύρωση, τον εμπλουτισμό και την οργάνωση ενός τεράστιου σώματος δεδομένων για τη βιωσιμότητα, που προέρχονται από εκατοντάδες πελάτες, χρησιμοποιώντας ιδιόκτητες μεθοδολογίες που έχουν αναπτυχθεί αποκλειστικά για αυτόν τον σκοπό. Αυτή η εμπειρογνωμοσύνη συσσωρεύεται. Μια εσωτερική ομάδα που ξεκινά από το μηδέν θα δυσκολευτεί να αναπαράγει αυτό το βάθος.
- Τρίτον — και αυτό είναι κάτι που τονίζει ιδιαίτερα ο Τεχνικός Διευθυντής μας — η συντήρηση είναι αόρατη, αλλά εξαιρετικά δαπανηρή. Διατηρούμε ενημερωμένες πάνω από 400 μεθοδολογίες μέτρησης και 20 μεθοδολογίες σε επίπεδο προϊόντος, αξιολογούμε και ενσωματώνουμε νέα μοντέλα, ενώ υποστηρίζουμε τη ροή εργασιών καθώς αλλάζουν τα βασικά μοντέλα και μεταβάλλονται τα κανονιστικά πλαίσια. Μπορούμε να κατανείμουμε αυτό το βάρος σε εκατοντάδες πελάτες. Μια εσωτερική ομάδα φέρει αυτό το βάρος μόνη της, για πάντα.
«Λίγοι είναι σήμερα εκείνοι που αναπτύσσουν εργαλεία καθημερινής χρήσης σε επιχειρηματικό επίπεδο. Όχι επειδή δεν θα μπορούσαν τεχνικά, αλλά επειδή το κόστος της σωστής υλοποίησης — και στη συνέχεια της διατήρησης και συντήρησής της — θα επισκίαζε κάθε πιθανό όφελος από την κατοχή αυτού του πλήρους στοίβα.»
Η JP Morgan αποτελεί ένα χαρακτηριστικό παράδειγμα. Διαθέτει περισσότερο κεφάλαιο και περισσότερους μηχανικούς από πολλές εταιρείες τεχνολογίας. Ο Jamie Dimon έχει δηλώσει: «Είμαστε μια εταιρεία τεχνολογίας που απλώς ασχολείται και με τη χρηματοοικονομική». Ωστόσο, συνεργάζεται με την Anthropic στο επίπεδο των μοντέλων και εξαγοράζει εξειδικευμένους προμηθευτές στα επίπεδα των ροών εργασίας και των εργαλείων. Αγοράζει τον πυρήνα και αναπτύσσει τα περιφερειακά τμήματα.
Λίλιαν Φράιμπεργκ: Υπάρχει επίσης το ζήτημα της οικονομικής σταθερότητας που κρύβεται πίσω από όλα αυτά και το οποίο, κατά τη γνώμη μου, δεν λαμβάνουν επαρκώς υπόψη αρκετές εταιρείες. Κανένας από τους μεγάλους παρόχους μοντέλων βάσης δεν είναι κερδοφόρος. Ορισμένοι έχουν σημαντικό χρέος. Αν κάποιος από αυτούς βρεθεί σε σοβαρή δυσχέρεια, τι θα συμβεί σε όλους όσους έχουν βασίσει τις εφαρμογές τους πάνω στα μοντέλα τους; Είναι αυτός ένας κίνδυνος που οι άνθρωποι πραγματικά συνυπολογίζουν;
Όστιν Ρίτζελ: Είναι μια πολύ καλή ερώτηση. Και θέλω να ξεκαθαρίσω ότι η Alphabet αποτελεί πιθανή εξαίρεση σε αυτό το πλαίσιο: η Alphabet είναι εξαιρετικά κερδοφόρα. Αλλά αν εξετάσουμε ξεχωριστά τη DeepMind, το εσωτερικό εργαστήριο που αναπτύσσει το Gemini, η ίδια η DeepMind δεν είναι κερδοφόρα. Πιθανότατα μοιάζει πολύ με την Anthropic ή την OpenAI, αν λάβουμε υπόψη όλα τα έξοδα.
Η υπερβολική προσήλωση σε ένα μόνο μοντέλο αποτελεί κίνδυνο, ακόμη και αν αφήσουμε κατά μέρος τα οικονομικά ζητήματα. Πιστεύω ότι το οικονομικό μοντέλο αρχίζει να αποδίδει καρπούς στον τομέα της εξαγωγής συμπερασμάτων. Ωστόσο, η εκπαίδευση είναι πολύ δαπανηρή και αυτές οι ανησυχίες είναι βάσιμες. Και κανένα από αυτά τα εργαστήρια των ιδρυμάτων δεν είναι αναπόφευκτο.
Πρόσφατα είχαμε ένα χαρακτηριστικό παράδειγμα: ο Έλον Μασκ εκμίσθωσε το μεγαλύτερο κέντρο δεδομένων του έξω από το Μέμφις, το Colossus Data Center, στην Anthropic. Παράλληλα, ο Μασκ διαθέτει και το Grok. Και φαίνεται ότι ουσιαστικά εγκατέλειψε την ιδέα του Grok ως κορυφαίου μοντέλου, εκμισθώνοντας όλη αυτή την υπολογιστική ισχύ στην Anthropic. Οι εταιρείες πρέπει να είναι ανθεκτικές σε οποιαδήποτε εξωγενή κρίση, είτε πρόκειται για πτώχευση είτε απλώς για κάποιον που μένει πίσω.
Αυτή είναι ακριβώς η σημασία της προσέγγισης της ανοιχτής αρχιτεκτονικής. Η δημιουργία μιας βάσης που σας επιτρέπει να προσαρμόζεστε και να αλλάζετε πορεία όταν κάποιος μένει πίσω ή αποχωρεί εντελώς από το έργο. Στην Clarity AI, η πλατφόρμα εξαγωγής δεδομένων που διαθέτουμε χρησιμοποιεί όλα τα μοντέλα που ανέφερα, όχι μόνο επειδή διαφορετικά μοντέλα ταιριάζουν καλύτερα σε διαφορετικές εργασίες, αλλά και επειδή δεν θέλουμε να αναλάβουμε τον κίνδυνο συγκέντρωσης που συνεπάγεται η δέσμευση σε ένα μόνο εργαστήριο.
«Η σημασία της προσέγγισης της ανοιχτής αρχιτεκτονικής έγκειται στο ότι δημιουργεί τα θεμέλια που σας επιτρέπουν να προσαρμόζετε την πορεία και να αλλάζετε κατεύθυνση όταν κάποιος μείνει πίσω ή εγκαταλείψει εντελώς την προσπάθεια.»
Υπάρχει επίσης ένα ευρύτερο φιλοσοφικό ερώτημα που με απασχολεί. Είναι η εξάρτηση που έχουμε αναπτύξει τα τελευταία χρόνια από τα μεγάλα ερευνητικά εργαστήρια των ιδρυμάτων τόσο μεγάλη, ώστε να τα θεωρούμε «πολύ μεγάλα για να χρεοκοπήσουν»;
Λίλιαν Φράιμπεργκ: Βλέπω πολλές διαφορετικές οπτικές γωνίες. Βλέπω πολλούς να υποστηρίζουν αυτό το επιχείρημα και από τις δύο πλευρές. Αλλά αυτό που είναι απολύτως βέβαιο είναι ότι κανένα χρηματοπιστωτικό ίδρυμα — καμία επιχείρηση — δεν πρέπει να βρεθεί σε θέση να βιώσει από πρώτο χέρι τις συνέπειες μιας απάντησης που μοιάζει με «όχι» σε αυτό το ερώτημα.
Μέρος 5: Ποιος κερδίζει τελικά
Λίλιαν Φράιμπεργκ: Όταν μιλάμε για όλα αυτά, ειδικά όσον αφορά τις χρηματοοικονομικές εταιρείες, αναφερόμαστε στην απώλεια ανταγωνιστικού πλεονεκτήματος, στην απώλεια «άλφα». Αυτό με φέρνει σε αυτό που θεωρώ ότι είναι η βασική υπόθεση πίσω από όλη αυτή τη συζήτηση. Πώς θα διαμορφωθεί τελικά αυτή η αγορά; Η διαίσθησή μου, με βάση όσα ακούω από πελάτες και ηγέτες της σκέψης, είναι ότι οι εξειδικευμένοι παίκτες, αυτοί με πραγματική εμπειρία σε έναν συγκεκριμένο τομέα, που μπορούν να λειτουργήσουν με οποιοδήποτε μοντέλο έχει ήδη εγκρίνει ένας πελάτης, θα καταλήξουν στην ισχυρότερη θέση. Έτσι το βλέπετε και εσείς;
Όστιν Ρίτζελ: Ναι. Και νομίζω ότι οι οικονομικοί παράγοντες πιθανώς επιβάλλουν αυτή την πραγματικότητα. Το βασικό επίπεδο πιθανώς μετατρέπεται σε προϊόν ευρείας κατανάλωσης σε κάποιο βαθμό. Ο ίδιος ο Σαμ Άλτμαν έχει συγκρίνει την τελική μορφή της OpenAI με μια υπηρεσία κοινής ωφέλειας. Και ως συνέπεια αυτής της μετατροπής του επιπέδου σε προϊόν ευρείας κατανάλωσης, πιθανώς θα δούμε την διαφοροποιημένη αξία να μετατοπίζεται σε επίπεδα της στοίβας που μπορούν να κάνουν πράγματα τα οποία ένα γενικό μοντέλο δεν μπορεί.
Σκεφτείτε το LLM ως τον κινητήρα. Οι εταιρείες που θα ξεχωρίσουν είναι εκείνες που μπορούν να κατασκευάσουν ένα πλαίσιο γύρω από αυτό: πραγματική εξειδίκευση στον τομέα, επιμελημένη γνώση, καθοριστικές μεθοδολογίες που μετασχηματίζουν αυτό που είναι ουσιαστικά ένα πιθανολογικό εργαλείο. Δύο άτομα που θέτουν την ίδια ερώτηση πρέπει να λαμβάνουν την ίδια απάντηση. Χρειάζεστε αξιολογήσεις. Χρειάζεστε αξιολογήσεις από ειδικούς με ανθρώπινη παρέμβαση. Οι άνθρωποι που μπορούν να κατασκευάσουν το σασί — το τιμόνι, τα φρένα, το αμάξωμα — θα αντλήσουν έναν πολύ ειδικό τύπο αξίας από αυτό το οικοσύστημα.
Η υποδομή επαλήθευσης θα είναι επίσης θεμελιώδης, ειδικά για τα χρηματοπιστωτικά ιδρύματα ή οποιονδήποτε οργανισμό που δραστηριοποιείται σε ρυθμιζόμενο τομέα. Η δυνατότητα εξήγησης, η προέλευση που ανάγεται σε μια επιμελημένη βάση δεδομένων, η ιχνηλασιμότητα της μετατροπής από τα ακατέργαστα δεδομένα και τη μεθοδολογία μέχρι το τελικό αποτέλεσμα: όλα αυτά είναι που καθιστούν τα αποτελέσματα αυτά πραγματικά χρησιμοποιήσιμα σε ρυθμιζόμενα πλαίσια.
«Σκεφτείτε το LLM ως τον κινητήρα. Οι εταιρείες που ξεχωρίζουν είναι εκείνες που μπορούν να χτίσουν ένα πλαίσιο γύρω από αυτό: πραγματική εξειδίκευση στον τομέα, επιμελημένη γνώση, καθοριστικές μεθοδολογίες που μετασχηματίζουν αυτό που είναι ουσιαστικά ένα πιθανοτικό εργαλείο.»
Λίλιαν Φράιμπεργκ: Απολύτως. Και ειδικά για τους πελάτες του χρηματοοικονομικού τομέα — η ιχνηλασιμότητα, η εμπιστοσύνη, η συμβατότητα με τα πρότυπα IC και η ετοιμότητα για έλεγχο — είναι πρωταρχικής σημασίας. Λοιπόν, λαμβάνοντας όλα αυτά υπόψη, τι είναι αυτό που διακρίνει τους εξειδικευμένους προμηθευτές που βγαίνουν πιο δυνατοί από εκείνους που δεν καταφέρνουν να επιβιώσουν;
Όστιν Ρίτζελ: Μερικά πράγματα. Αρχιτεκτονική ευελιξία, ανεξαρτησία από μοντέλα. Πραγματικό βάθος στον τομέα: να αξιοποιούμε τα ιδιόκτητα δεδομένα και τις μεθοδολογίες μας για να μετατρέπουμε τα πιθανοτικά αποτελέσματα σε καθοριστικά. Τα δεδομένα θα αποτελέσουν πραγματικό ανταγωνιστικό πλεονέκτημα στο μέλλον.
Επιπλέον, οι εξειδικευμένοι πάροχοι που ξεχωρίζουν από τον ανταγωνισμό θα απαιτούν επίσης μια πραγματικά ισχυρή υποδομή ελεγξιμότητας. Όχι μόνο αριθμούς σελίδων, αλλά και τη γεωμετρία των αναφορών: πού ακριβώς στη σελίδα βρίσκεται η πληροφορία, τη συγκεκριμένη θέση της. Την προέλευση της πηγής. Ελεγχόμενες μετασχηματισμοί: πώς μετατράπηκαν τα ακατέργαστα δεδομένα που βρέθηκαν στη σελίδα σε ένα μετασχηματισμένο αποτέλεσμα σε μια αυτόματα δημιουργημένη αναφορά; Πώς μειώνετε το κόστος επαλήθευσης, δηλαδή τον χρόνο που χρειάζεται κάποιος για να επιβεβαιώσει ότι η τεχνητή νοημοσύνη έχει παράγει κάτι ακριβές, όσο το δυνατόν πιο κοντά στο μηδέν;
Οι «περιβάλλουσες εφαρμογές» — εταιρείες που δημιουργούν όμορφα περιβάλλοντα χρήστη πάνω σε ένα μοντέλο γενικής χρήσης, χωρίς καμία εξειδίκευση στον συγκεκριμένο τομέα — πιθανότατα θα καταλήξουν να απορροφηθούν. Αυτό που σας ξεχωρίζει είναι τα επιμελημένα ή ιδιόκτητα δεδομένα, τα ελεγχόμενα και διαφανή αποτελέσματα που μειώνουν το κόστος επαλήθευσης, καθώς και το να κάνετε ό,τι αυτά τα γενικά μοντέλα απλά δεν μπορούν να κάνουν.
Λίλιαν Φράιμπεργκ: Τα λεπτά περιτυλίγματα καταβροχθίζονται. Νομίζω ότι αυτή είναι η φράση της ημέρας. Όστιν, σε ευχαριστώ. Ήταν πραγματικά φανταστικό. Παραλίγο να πετύχεις τρία στη σειρά με τον «αγνωστικισμό των μοντέλων», αλλά κατάφερες να τα κάνεις όλα να βγάζουν νόημα, και αυτό δεν είναι καθόλου μικρό κατόρθωμα.
Όστιν Ρίτζελ: Ευχαριστώ, Λίλιαν.






