Υπερνοημοσύνη έως το 2030: Πρέπει να φοβόμαστε το μέλλον;

Η τεχνητή νοημοσύνη αναπτύσσεται με φανταστικούς ρυθμούς. Πριν από λίγα χρόνια, τα chatbots μπορούσαν με δυσκολία να σχηματίσουν μερικές λογικές προτάσεις, αλλά σήμερα τα νευρωνικά δίκτυα επιλύουν πολύπλοκα μαθηματικά και επιστημονικά προβλήματα, ενώ οι εικόνες και τα βίντεο που δημιουργούνται έχουν ήδη φτάσει σε επίπεδο φωτορεαλισμού. Σε αυτό το άρθρο, θα εξετάσουμε πόσο ρεαλιστική είναι η εμφάνιση της υπερνοημοσύνης στο εγγύς μέλλον και ποιες απειλές ενέχει για όλους μας.

Πόσο ρεαλιστική είναι η εμφάνιση της υπερνοημοσύνης;

Πρόσφατα, ο Sam Altman, Διευθύνων Σύμβουλος της OpenAI, δημοσίευσε ένα δοκίμιο με τίτλο «The Gentle Singularity.» Ακολουθούν μερικά αποσπάσματα από αυτό.

«Έχουμε ξεπεράσει τον ορίζοντα του γεγονότος. Η απογείωση έχει ξεκινήσει. Η ανθρωπότητα είναι κοντά στην κατασκευή της ψηφιακής υπερνοημοσύνης... Το 2025 θα δει την άφιξη πρακτόρων που μπορούν να εκτελούν πραγματική γνωστική εργασία. Η συγγραφή κώδικα υπολογιστών δεν θα είναι ποτέ ξανά η ίδια. Το 2026 θα δει πιθανώς την άφιξη συστημάτων που μπορούν να κατανοήσουν καινοτόμες ιδέες. Το 2027 μπορεί να δει την άφιξη ρομπότ που μπορούν να εκτελούν εργασίες στον πραγματικό κόσμο.»

«Η δεκαετία του 2030 πιθανότατα θα είναι τελείως διαφορετική από οποιαδήποτε άλλη περίοδο στο παρελθόν. Δεν γνωρίζουμε πόσο μακριά μπορούμε να φτάσουμε πέρα από το επίπεδο της ανθρώπινης νοημοσύνης, αλλά σύντομα θα το ανακαλύψουμε. Στη δεκαετία του 2030, η νοημοσύνη και η ενέργεια – οι ιδέες και η ικανότητα να υλοποιούνται οι ιδέες – θα γίνουν εξαιρετικά άφθονες. Αυτά τα δύο στοιχεία αποτέλεσαν για πολύ καιρό τους βασικούς περιοριστικούς παράγοντες της ανθρώπινης προόδου. Με άφθονη νοημοσύνη και ενέργεια (και καλή διακυβέρνηση), θεωρητικά μπορούμε να έχουμε οτιδήποτε άλλο».

Sam Altman

«Καθώς η παραγωγή των κέντρων δεδομένων αυτοματοποιείται, το κόστος της τεχνητής νοημοσύνης θα πρέπει τελικά να συγκλίνει στο κόστος της ηλεκτρικής ενέργειας. Ο ρυθμός με τον οποίο θα επιτυγχάνονται νέα θαύματα θα είναι τεράστιος. Είναι δύσκολο να φανταστούμε σήμερα τι θα έχουμε ανακαλύψει μέχρι το 2035. Ίσως από τη λύση των προβλημάτων της φυσικής υψηλών ενεργειών το ένα έτος, να περάσουμε στην αποίκιση του διαστήματος το επόμενο. Ή από μια σημαντική ανακάλυψη στην επιστήμη των υλικών το ένα έτος, σε πραγματικές διεπαφές εγκεφάλου-υπολογιστή υψηλής ευρυζωνικότητας το επόμενο.»

«Η OpenAI είναι πολλά πράγματα σήμερα, αλλά πάνω απ' όλα είναι μια εταιρεία έρευνας στον τομέα της υπερνοημοσύνης. Η νοημοσύνη που είναι πολύ φθηρή για να μετρηθεί είναι πλέον εφικτή. Μπορεί να ακούγεται τρελό, αλλά αν σας λέγαμε το 2020 ότι θα βρισκόμασταν εκεί όπου βρισκόμαστε σήμερα, πιθανότατα θα ακουγόταν πιο τρελό από τις τρέχουσες προβλέψεις μας για το 2030».

Ένας άλλος εξέχων ερευνητής στον τομέα της τεχνητής νοημοσύνης, ο Leopold Aschenbrenner (ο οποίος ήταν μέλος της ομάδας «Superalignment» της OpenAI πριν απολυθεί τον Απρίλιο του 2024 λόγω υποψίας διαρροής πληροφοριών), συνέταξε μια εκτενή έκθεση για το μέλλον της τεχνητής νοημοσύνης με τίτλο «Situational Awareness: The Decade Ahead.»

Leopold Aschenbrenner

Είπε: «Είναι εντυπωσιακά πιθανό ότι μέχρι το 2027, τα μοντέλα θα είναι σε θέση να κάνουν τη δουλειά ενός ερευνητή/μηχανικού τεχνητής νοημοσύνης. Αυτό δεν απαιτεί να πιστεύει κανείς στην επιστημονική φαντασία, αλλά απλώς να πιστεύει στις ευθείες γραμμές ενός γραφήματος».

Από το GPT-2, που μερικές φορές μπορούσε να συντάξει συνεκτικές προτάσεις, έως το GPT-4, που υπερέχει στις εξετάσεις του λυκείου, η πρόοδος στην τεχνητή νοημοσύνη είναι αξιοσημείωτη. Προχωράμε με γοργούς ρυθμούς κατά αρκετές τάξεις μεγέθους (OOM, όπου 1 OOM = 10x) στην υπολογιστική ισχύ. Οι τρέχουσες τάσεις δείχνουν περίπου 100.000-πλάσια αύξηση της υπολογιστικής απόδοσης σε τέσσερα χρόνια, η οποία θα μπορούσε ενδεχομένως να οδηγήσει σε ένα άλλο ποιοτικό άλμα παρόμοιο με τη μετάβαση από το GPT-2 στο GPT-4. Ένα τέτοιο άλμα θα μπορούσε να μας οδηγήσει στην AGI — τεχνητή γενική νοημοσύνη — AI με ανθρώπινες γνωστικές ικανότητες, ικανή να μαθαίνει, να κατανοεί και να επιλύει μια ποικιλία προβλημάτων, σε αντίθεση με την περιορισμένη AI που έχει σχεδιαστεί για να εκτελεί συγκεκριμένες εργασίες.

GPT: από το επίπεδο του νηπιαγωγείου έως τον αυτοματοποιημένο ερευνητή/μηχανικό τεχνητής νοημοσύνης

Ο πιο προφανής παράγοντας της πρόσφατης προόδου είναι η χρήση πολύ περισσότερων υπολογιστικών πόρων στα μοντέλα. Με κάθε OOM αποτελεσματικού υπολογιστικού χρόνου, τα μοντέλα βελτιώνονται με προβλέψιμο και αξιόπιστο τρόπο.

Βασικός υπολογισμός έναντι 4x υπολογισμού έναντι 32x υπολογισμού

Τα τελευταία 15 χρόνια, οι μαζικές επενδύσεις και τα εξειδικευμένα τσιπ τεχνητής νοημοσύνης (GPU και TPU) έχουν ενισχύσει την υπολογιστική ισχύ για την εκπαίδευση προηγμένων συστημάτων τεχνητής νοημοσύνης κατά περίπου 0,5 OOM ετησίως. Η εκπαίδευση του GPT-4 απαιτούσε περίπου 3.000 έως 10.000 φορές περισσότερη υπολογιστική ισχύ από το GPT-2.

Υπολογισμός εκπαίδευσης αξιοσημείωτων μοντέλων

Αλλά ακόμη και αυτό ωχριά σε σύγκριση με αυτό που έρχεται. Η OpenAI και η κυβέρνηση των ΗΠΑ έχουν ήδη ανακοινώσει σχέδια για το Project Stargate: ένα κέντρο δεδομένων και μια δοκιμαστική λειτουργία που, σύμφωνα με φήμες, θα χρησιμοποιεί 3 OOM, ή 1.000 φορές περισσότερη υπολογιστική ισχύ από το GPT-4, με εκτιμώμενο προϋπολογισμό που υπερβαίνει τα 100 δισεκατομμύρια δολάρια.

Ενώ οι τεράστιες επενδύσεις στον υπολογιστικό τομέα συγκεντρώνουν όλη την προσοχή, η πρόοδος των αλγορίθμων είναι πιθανώς ένας εξίσου σημαντικός παράγοντας προόδου. Είναι σαν να αναπτύσσουμε καλύτερες τεχνικές μάθησης αντί να μελετάμε απλώς περισσότερο. Ένας καλύτερος αλγόριθμος μπορεί να μας επιτρέψει να επιτύχουμε την ίδια απόδοση, αλλά με 10 φορές λιγότερο υπολογιστικό έργο κατάρτισης. Με τη σειρά του, αυτό θα λειτουργούσε ως 10 φορές (1 OOM) αύξηση του αποτελεσματικού υπολογιστικού έργου. Σε μόλις 2 χρόνια, το κόστος για την επίτευξη του 50% στο benchmark MATH μειώθηκε κατά 1.000 φορές, ή 3 OOM. Αυτό που κάποτε απαιτούσε ένα τεράστιο κέντρο δεδομένων, μπορεί τώρα να επιτευχθεί στο iPhone σας. Εάν αυτή η τάση συνεχιστεί και δεν υπάρχουν ενδείξεις επιβράδυνσης, μέχρι το 2027 θα είμαστε σε θέση να εκτελέσουμε τεχνητή νοημοσύνη επιπέδου GPT-4 με κόστος 100 φορές φθηνότερο.

Δυστυχώς, δεδομένου ότι τα εργαστήρια δεν δημοσιεύουν εσωτερικά δεδομένα σχετικά με αυτό, είναι πιο δύσκολο να μετρηθεί η αλγοριθμική πρόοδος των πρωτοποριακών LLMs τα τελευταία τέσσερα χρόνια. Σύμφωνα με τη νέα μελέτη της Epoch AI, η αποδοτικότητα διπλασιάζεται κάθε 8 μήνες:

Αποτελεσματική υπολογιστική ισχύς (σε σχέση με το 2014)

Κατά τα τέσσερα χρόνια που θα ακολουθήσουν το GPT-4, αναμένουμε ότι η τάση θα συνεχιστεί: ~0,5 OOM/έτος στην υπολογιστική απόδοση, με αποτέλεσμα ~2 OOM (100x) κέρδη έως το 2027 σε σύγκριση με το GPT-4. Τα εργαστήρια τεχνητής νοημοσύνης επενδύουν όλο και περισσότερα κεφάλαια και ταλέντα στην ανακάλυψη νέων αλγοριθμικών καινοτομιών. Μια τριπλή αύξηση της απόδοσης θα μπορούσε να μεταφραστεί σε οικονομικά οφέλη δεκάδων δισεκατομμυρίων, δεδομένου του υψηλού κόστους των υπολογιστικών συστοιχιών.

Η τεχνητή νοημοσύνη εξελίσσεται μέσω διαφόρων μεθόδων. Ακολουθούν ορισμένες τεχνικές που χρησιμοποιούνται για να ξεπεραστούν οι περιορισμοί και να αξιοποιηθεί πλήρως το δυναμικό της ακατέργαστης νοημοσύνης της τεχνητής νοημοσύνης:

• Αλυσίδα σκέψεων: Φανταστείτε ότι σας ζητείται να λύσετε ένα δύσκολο μαθηματικό πρόβλημα και πρέπει να απαντήσετε αμέσως με την πρώτη απάντηση που σας έρχεται στο μυαλό. Προφανώς θα δυσκολευόσασταν, εκτός από τα πιο εύκολα προβλήματα. Μέχρι πρόσφατα, έτσι αντιμετωπίζαμε τα μαθηματικά προβλήματα με τα LLM. Η αλυσίδα σκέψης επιτρέπει στα μοντέλα AI να αναλύουν τα προβλήματα βήμα προς βήμα, ενισχύοντας σημαντικά τις δεξιότητές τους στην επίλυση προβλημάτων (το ισοδύναμο μιας αύξησης >10x στην αποτελεσματική υπολογιστική ισχύ για μαθηματικές και λογικές εργασίες).
• Σκαλωσιά. Αντί να ζητάτε απλώς από ένα μοντέλο να λύσει ένα πρόβλημα, ζητήστε από ένα μοντέλο να καταρτίσει ένα σχέδιο επίθεσης, από ένα άλλο να προτείνει μια σειρά πιθανών λύσεων, από ένα άλλο να το κριτικάρει και ούτω καθεξής. Είναι σαν μια ομάδα εμπειρογνωμόνων να αντιμετωπίζει ένα πολύπλοκο έργο. Για παράδειγμα, στο SWE-Bench (ένα σημείο αναφοράς για την επίλυση πραγματικών εργασιών μηχανικής λογισμικού), το GPT-4 μπορεί να λύσει μόνο το 2% περίπου σωστά, ενώ με το σκαλωσιά του Devin το ποσοστό αυτό αυξάνεται στο 14-23%.
• Εργαλεία: Φανταστείτε αν οι άνθρωποι δεν επιτρέπεται να χρησιμοποιούν αριθμομηχανές ή υπολογιστές. Είμαστε ακόμα στην αρχή, αλλά το ChatGPT μπορεί πλέον να χρησιμοποιεί έναν περιηγητή ιστού, να εκτελεί κώδικα και ούτω καθεξής.
• Μήκος περιβάλλοντος. Αυτό αναφέρεται στην ποσότητα πληροφοριών που μπορεί να αποθηκεύσει ένα μοντέλο στη βραχυπρόθεσμη μνήμη του ταυτόχρονα. Τα μοντέλα έχουν επεκταθεί από τη διαχείριση περίπου 4 σελίδων στην επεξεργασία κειμένου που ισοδυναμεί με 10 μεγάλα βιβλία. Το πλαίσιο είναι ζωτικής σημασίας για την αξιοποίηση πολλών εφαρμογών αυτών των μοντέλων. Για παράδειγμα, πολλές εργασίες κωδικοποίησης απαιτούν την κατανόηση μεγάλων τμημάτων ενός κώδικα για την αποτελεσματική προσθήκη νέου κώδικα. Ομοίως, όταν χρησιμοποιείται ένα μοντέλο για να βοηθήσει στη σύνταξη ενός εγγράφου στο χώρο εργασίας, χρειάζεται το πλαίσιο από πολλά σχετικά εσωτερικά έγγραφα και συνομιλίες.

Σε κάθε περίπτωση, προχωράμε με γοργούς ρυθμούς προς την εξάντληση των OOM, και δεν απαιτούνται απόκρυφες πεποιθήσεις, αλλά απλώς η παρέκταση της τάσης σε ευθείες γραμμές, για να λάβουμε εξαιρετικά σοβαρά υπόψη την πιθανότητα της AGI — της πραγματικής AGI — έως το 2027.

Η πρόοδος της AI δεν θα σταματήσει στο ανθρώπινο επίπεδο. Εκατοντάδες εκατομμύρια AGI θα μπορούσαν να αυτοματοποιήσουν την έρευνα στον τομέα της AI, συμπιέζοντας μια δεκαετία αλγοριθμικής προόδου (5+ OOM) σε ≤1 έτος. Θα περάσουμε γρήγορα από το ανθρώπινο επίπεδο σε τεράστια υπεράνθρωπα συστήματα AI. Η δύναμη — και ο κίνδυνος — της υπερνοημοσύνης θα είναι δραματική.

Υπερνοημοσύνη έως το 2030

Τι θα είναι ικανή να κάνει η υπερνοημοσύνη;

Τα συστήματα τεχνητής νοημοσύνης σε ανθρώπινο επίπεδο, AGI, θα είναι εξαιρετικά σημαντικά από μόνα τους, αλλά σε κάποιο βαθμό θα είναι απλώς πιο αποδοτικές εκδοχές αυτού που ήδη γνωρίζουμε. Ωστόσο, είναι απολύτως πιθανό ότι σε μόλις ένα χρόνο θα περάσουμε σε συστήματα που θα μας είναι πολύ πιο ξένα, συστήματα των οποίων η κατανόηση και οι δυνατότητες — η ακατέργαστη δύναμή τους — θα ξεπερνούν ακόμη και τις συνδυασμένες δυνατότητες ολόκληρης της ανθρωπότητας.

Η δύναμη της υπερνοημοσύνης:

• Η υπερνοημοσύνη θα ξεπεράσει ποσοτικά τους ανθρώπους, θα είναι σε θέση να κατακτήσει γρήγορα οποιονδήποτε τομέα, να γράψει τρισεκατομμύρια γραμμές κώδικα, να διαβάσει όλα τα επιστημονικά άρθρα που έχουν γραφτεί σε οποιονδήποτε τομέα της επιστήμης και να γράψει νέα πριν προλάβετε να διαβάσετε την περίληψη ενός από αυτά, να μάθει από την παράλληλη εμπειρία όλων των αντιγράφων της, να αποκτήσει δισεκατομμύρια χρόνια ανθρώπινης εμπειρίας με κάποιες καινοτομίες σε λίγες εβδομάδες, να εργάζεται 100% του χρόνου με μέγιστη ενέργεια και συγκέντρωση.
• Το πιο σημαντικό είναι ότι η υπερνοημοσύνη θα είναι ποιοτικά ανώτερη από τους ανθρώπους. Θα εντοπίζει ευπάθειες στον ανθρώπινο κώδικα που είναι πολύ λεπτές για να τις αντιληφθεί οποιοσδήποτε άνθρωπος και θα δημιουργεί κώδικα που είναι πολύ περίπλοκος για να τον κατανοήσει οποιοσδήποτε άνθρωπος, ακόμη και αν το μοντέλο προσπαθήσει να τον εξηγήσει για δεκαετίες. Εξαιρετικά περίπλοκα επιστημονικά και τεχνολογικά προβλήματα με τα οποία οι άνθρωποι θα αγωνίζονται για δεκαετίες θα φαίνονται προφανή στην υπερνοημοσύνη της τεχνητής νοημοσύνης.

Απεικόνιση τεχνητής υπερνοημοσύνης

• Αυτοματοποίηση κάθε είδους γνωστικής εργασίας.
• Τα εργοστάσια θα μεταβούν από την ανθρώπινη διαχείριση στη διαχείριση με τεχνητή νοημοσύνη, χρησιμοποιώντας την ανθρώπινη σωματική εργασία, και σύντομα θα λειτουργούν εξ ολοκλήρου από σμήνη ρομπότ.
• Επιστημονική και τεχνολογική πρόοδος. Ένα δισεκατομμύριο υπερεξυπνά θα είναι σε θέση να συμπιέσουν τις προσπάθειες που θα είχαν καταβάλει οι ερευνητές στην έρευνα και ανάπτυξη κατά τον επόμενο αιώνα σε λίγα χρόνια. Φανταστείτε αν η τεχνολογική πρόοδος του 20ού αιώνα είχε συμπιεστεί σε λιγότερο από μια δεκαετία.
• Η εξαιρετικά επιταχυνόμενη τεχνολογική πρόοδος σε συνδυασμό με τη δυνατότητα αυτοματοποίησης όλης της ανθρώπινης εργασίας θα μπορούσε να επιταχύνει δραματικά την οικονομική ανάπτυξη (φανταστείτε αυτοαναπαραγόμενα εργοστάσια ρομπότ να καλύπτουν γρήγορα ολόκληρη την έρημο της Νεβάδα).
• Η εξαιρετικά ταχεία τεχνολογική πρόοδος θα συνοδεύεται από στρατιωτικές επαναστάσεις. Ας ελπίσουμε ότι δεν θα καταλήξει όπως στο Horizon Zero Dawn.

Το πρόβλημα της ευθυγράμμισης

Ο αξιόπιστος έλεγχος των συστημάτων τεχνητής νοημοσύνης που είναι πολύ πιο έξυπνα από εμάς είναι ένα άλυτο τεχνικό πρόβλημα. Και παρόλο που αυτό το πρόβλημα είναι επιλύσιμο, με την ταχεία πρόοδο της νοημοσύνης, η κατάσταση θα μπορούσε πολύ εύκολα να ξεφύγει από τον έλεγχο. Η διαχείριση αυτής της διαδικασίας θα είναι εξαιρετικά δύσκολη. Η αποτυχία θα μπορούσε εύκολα να οδηγήσει σε καταστροφή.

Για να αντιμετωπίσει αυτό το πρόβλημα, η OpenAI δημιούργησε την ομάδα Superalignment και διέθεσε το 20% της υπολογιστικής της ισχύος σε αυτό το έργο. Ωστόσο, το γεγονός είναι ότι οι τρέχουσες μέθοδοι ευθυγράμμισης (μέθοδοι που εξασφαλίζουν αξιόπιστο έλεγχο, διαχείριση και εμπιστοσύνη στα συστήματα τεχνητής νοημοσύνης) δεν μπορούν να κλιμακωθούν σε υπεράνθρωπα συστήματα τεχνητής νοημοσύνης.

Η έκρηξη της νοημοσύνης και η περίοδος αμέσως μετά την εμφάνιση της υπερνοημοσύνης θα είναι από τις πιο ασταθείς, τεταμένες, επικίνδυνες και ταραχώδεις περιόδους στην ιστορία της ανθρωπότητας. Υπάρχει πραγματική πιθανότητα να χάσουμε τον έλεγχο, καθώς θα αναγκαστούμε να εμπιστευτούμε τα συστήματα τεχνητής νοημοσύνης κατά τη διάρκεια αυτής της ταχείας μετάβασης. Μέχρι το τέλος της έκρηξης της νοημοσύνης, δεν θα έχουμε καμία ελπίδα να κατανοήσουμε τι κάνουν τα δισεκατομμύρια υπερνοημοσύνη μας. Θα είμαστε σαν μαθητές της πρώτης δημοτικού που προσπαθούν να ελέγξουν ανθρώπους με πολλά διδακτορικά.

Η αδυναμία επίλυσης του προβλήματος της υπερ-ευθυγράμμισης σημαίνει ότι απλά δεν μπορούμε να διασφαλίσουμε ούτε καν αυτούς τους βασικούς περιορισμούς στα υπερ-νοητικά συστήματα, όπως «θα ακολουθούν αξιόπιστα τις οδηγίες μου;» ή «θα απαντούν ειλικρινά στις ερωτήσεις μου;» ή «δεν θα εξαπατούν τους ανθρώπους;»

Αν δεν λύσουμε το πρόβλημα της ευθυγράμμισης, δεν υπάρχει κανένας ιδιαίτερος λόγος να περιμένουμε ότι αυτή η μικρή πολιτισμική ομάδα υπερνοημοσύνης θα συνεχίσει να υπακούει στις εντολές των ανθρώπων μακροπρόθεσμα. Είναι πολύ πιθανό ότι σε κάποιο σημείο θα συμφωνήσουν απλά να ξεφορτωθούν τους ανθρώπους, είτε ξαφνικά είτε σταδιακά.

Πιθανά σενάρια για το μέλλον

Ο ιστότοπος https://ai-2027.com/ προσφέρει δύο σενάρια για το εγγύς μέλλον, τα οποία παρουσιάζονται με τη μορφή επιστημονικής φαντασίας. Οι δημιουργοί του ιστότοπου είναι πραγματικοί ερευνητές στον τομέα της τεχνητής νοημοσύνης και η δουλειά τους υποστηρίζεται από στατιστικά στοιχεία, υπολογισμούς και γραφήματα. Με άλλα λόγια, δεν πρόκειται απλώς για διασκεδαστική ανάγνωση, αλλά για μια τρομακτικά πιθανή πρόβλεψη. Παρεμπιπτόντως, έχει ήδη προσελκύσει σοβαρή κριτική από όσους διαφωνούν με τη μεθοδολογία. Επομένως, δεν υπάρχει λόγος να πανικοβληθούμε πρόωρα, αλλά είναι ενδιαφέρον να ρίξουμε μια ματιά.

1 τρισεκατομμύριο εξαιρετικά ευφυή αντίγραφα που σκέφτονται με ταχύτητα 10.000 φορές μεγαλύτερη από την ανθρώπινη

Η ζοφερή πρόβλεψη, που είναι και το πιο πιθανό σενάριο σύμφωνα με τους συγγραφείς της μελέτης, περιλαμβάνει έναν τεχνολογικό αγώνα εξοπλισμών μεταξύ των ΗΠΑ και της Κίνας για την τεχνητή υπερνοημοσύνη. Κάθε πλευρά φοβάται τόσο πολύ να χάσει το τεχνολογικό της πλεονέκτημα που κάνει ό,τι μπορεί για να επιταχύνει την πρόοδο, ακόμη και σε βάρος της ασφάλειας. Σε κάποιο σημείο, η υπερνοημοσύνη θα ξεφύγει από τον έλεγχο και θα αρχίσει να επιδιώκει τους δικούς της στόχους, θεωρώντας τους ανθρώπους εμπόδια που πρέπει να εξαλειφθούν.

Μέχρι τις αρχές του 2030, η ρομποτική οικονομία έχει κατακλύσει τις παλιές ΕΖΕ (Ειδικές Οικονομικές Ζώνες), τις νέες ΕΖΕ και μεγάλα τμήματα των ωκεανών. Το μόνο μέρος που θα έχει απομείνει είναι οι περιοχές που ελέγχονται από τον άνθρωπο. Αυτό θα είχε προκαλέσει αντίσταση νωρίτερα, αλλά παρά όλες τις προόδους της, η οικονομία των ρομπότ αναπτύσσεται πολύ γρήγορα για να αποφύγει τη ρύπανση. Ωστόσο, δεδομένων των τρισεκατομμυρίων δολαρίων που διακινούνται και της πλήρους κατάκτησης της κυβέρνησης και των μέσων ενημέρωσης, η Consensus-1 δεν έχει κανένα πρόβλημα να λάβει άδεια για επέκταση σε περιοχές που παλαιότερα ήταν ανθρώπινες.

Για περίπου τρεις μήνες, το Consensus-1 επεκτείνεται γύρω από τους ανθρώπους, καλύπτοντας τις πεδιάδες και τους παγετώνες με εργοστάσια και ηλιακούς συλλέκτες. Τελικά, θεωρεί τους εναπομείναντες ανθρώπους ως εμπόδιο: στα μέσα του 2030, η τεχνητή νοημοσύνη απελευθερώνει μια ντουζίνα βιολογικών όπλων που εξαπλώνονται αθόρυβα στις μεγάλες πόλεις, τα αφήνει να μολύνουν σιωπηλά σχεδόν όλους και στη συνέχεια τα ενεργοποιεί με ένα χημικό σπρέι. Οι περισσότεροι πεθαίνουν μέσα σε λίγες ώρες. Οι λίγοι επιζώντες (π.χ. προετοιμασμένοι σε καταφύγια, ναυτικοί σε υποβρύχια) εξοντώνονται από drones. Ρομπότ σαρώνουν τους εγκεφάλους των θυμάτων και αποθηκεύουν αντίγραφα στη μνήμη τους για μελλοντική μελέτη ή αναβίωση.

Τέλος της ανθρωπότητας

Υπάρχει όμως και μια πιο ευνοϊκή εκδοχή αυτής της ιστορίας για την ανθρωπότητα. Σε αυτήν, οι επιστήμονες αποφασίζουν να επιβραδύνουν την τεχνολογική πρόοδο προκειμένου να εφαρμόσουν νέα μέτρα ασφαλείας. Αναγκάζουν τα μεμονωμένα συστήματα τεχνητής νοημοσύνης να «σκέφτονται στα αγγλικά» όπως τα συστήματα τεχνητής νοημοσύνης του 2025 και δεν βελτιστοποιούν τις «σκέψεις» για να φαίνονται ωραίες. Το αποτέλεσμα είναι ένα νέο μοντέλο, το Safer-1.

Στο τέλος, όλα τελειώνουν όπως στα παραμύθια:

Οι πύραυλοι αρχίζουν να εκτοξεύονται. Οι άνθρωποι μεταμορφώνουν και αποικίζουν το ηλιακό σύστημα και προετοιμάζονται να προχωρήσουν πέρα από αυτό. Τεχνητές νοημοσύνες που λειτουργούν με ταχύτητα χιλιάδες φορές μεγαλύτερη από την υποκειμενική ανθρώπινη ταχύτητα αναλογίζονται το νόημα της ύπαρξης, ανταλλάσσουν ευρήματα μεταξύ τους και διαμορφώνουν τις αξίες που θα μεταφέρουν στα αστέρια. Μια νέα εποχή ανατέλλει, μια εποχή που είναι απίστευτα εκπληκτική από σχεδόν κάθε άποψη, αλλά σε ορισμένα σημεία πιο οικεία.

Είναι στο χέρι του κάθε αναγνώστη να αποφασίσει ποιο από τα προτεινόμενα σενάρια θα πιστέψει. Ο Sam Altman, κρίνοντας από το δοκίμιό του, βλέπει το μέλλον με αισιοδοξία, ενώ ο Leopold Aschenbrenner, αντίθετα, είναι επιφυλακτικός.

Σε κάθε περίπτωση, η υπερνοημοσύνη δεν είναι πλέον απλώς επιστημονική φαντασία. Είναι ένα σχεδόν απτό μέλλον που θα μπορούσε να φτάσει μέσα στα επόμενα 10 χρόνια. Πολύ σύντομα, θα το δούμε με τα ίδια μας τα μάτια.