Οι μεγαλύτεροι φόβοι γύρω από την Τεχνητή Νοημοσύνη δεν αφορούν ένα chatbot που κάνει λάθος σε μια απάντηση.

Αφορούν κάτι πολύ βαθύτερο:

τι θα συμβεί εάν κάποια στιγμή η ανάπτυξη της ίδιας της AI αρχίσει να γίνεται ταχύτερα από όσο οι άνθρωποι μπορούν να την κατανοήσουν, να την ελέγξουν και να τη ρυθμίσουν;

Οι κίνδυνοι συγκεντρώνονται κυρίως σε τρεις αλληλένδετους παράγοντες:

Αναδρομική αυτοβελτίωση: η πιθανότητα μελλοντικά προηγμένα συστήματα AI να μπορούν να συμβάλλουν αποφασιστικά στη δημιουργία ακόμη ισχυρότερων συστημάτων AI, επιταχύνοντας διαδοχικά την ίδια τους την εξέλιξη.

Απώλεια ελέγχου: όσο αυξάνεται η αυτονομία και η ικανότητα ενός συστήματος να σχεδιάζει, να χρησιμοποιεί εργαλεία και να ενεργεί για μεγάλα χρονικά διαστήματα, τόσο δυσκολότερο γίνεται το ερώτημα πώς εξασφαλίζεται ότι οι στόχοι και οι ενέργειές του παραμένουν συμβατοί με τις ανθρώπινες προθέσεις.

Ρυθμιστική υστέρηση: η τεχνολογία μπορεί να εξελίσσεται σε κύκλους μηνών, ενώ η νομοθεσία, οι διεθνείς συμφωνίες και οι κρατικοί μηχανισμοί εποπτείας χρειάζονται συχνά χρόνια για να σχεδιαστούν και να εφαρμοστούν.

Το πρώτο μεγάλο καμπανάκι είχε ήδη χτυπήσει το 2023.

Στις 22 Μαρτίου εκείνης της χρονιάς, επιστήμονες, επιχειρηματίες και προσωπικότητες της τεχνολογίας υπέγραψαν ανοιχτή επιστολή ζητώντας από τα μεγάλα εργαστήρια Τεχνητής Νοημοσύνης να σταματήσουν για τουλάχιστον έξι μήνες την εκπαίδευση συστημάτων ισχυρότερων από το GPT-4.

Η έκκληση δεν σταμάτησε εκεί.

Λίγους μήνες αργότερα, στις 30 Μαΐου 2023, μια νέα και εξαιρετικά σύντομη δήλωση του Center for AI Safety προκάλεσε παγκόσμια συζήτηση.

Αυτή τη φορά ανάμεσα στους υπογράφοντες βρίσκονταν άνθρωποι που βρίσκονταν στην ίδια την καρδιά της επανάστασης της Τεχνητής Νοημοσύνης: ο Sam Altman της OpenAI, ο Demis Hassabis της Google DeepMind, ο Dario Amodei της Anthropic, καθώς και οι πρωτοπόροι Geoffrey Hinton και Yoshua Bengio.

Το μήνυμα χωρούσε ουσιαστικά σε μία πρόταση:

Η αντιμετώπιση του κινδύνου εξαφάνισης από την Τεχνητή Νοημοσύνη πρέπει να αποτελέσει παγκόσμια προτεραιότητα, αντίστοιχη με άλλους κινδύνους μεγάλης κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος.

Δεν επρόκειτο για την πρόβλεψη ότι η ανθρωπότητα βρίσκεται αναπόφευκτα μπροστά στην εξαφάνιση.

Ήταν κάτι διαφορετικό — και ίσως γι' αυτό σημαντικότερο.

Άνθρωποι που γνωρίζουν από πρώτο χέρι τις δυνατότητες της τεχνολογίας έλεγαν δημόσια ότι υπάρχει ένα σενάριο τόσο σοβαρό, ώστε ακόμη και αν η πιθανότητά του είναι αβέβαιη, δεν επιτρέπεται να αγνοηθεί.

Το σενάριο της «έκρηξης νοημοσύνης»

Εδώ βρίσκεται ίσως το πιο δύσκολο κομμάτι της συζήτησης.

Φανταστείτε ένα σύστημα AI ικανό να βοηθά τους ερευνητές να κατασκευάζουν καλύτερα συστήματα AI.

Η επόμενη γενιά γίνεται ικανότερη και μπορεί με τη σειρά της να επιταχύνει ακόμη περισσότερο την ανάπτυξη της επόμενης.

Και μετά ξανά.

Και ξανά.

Εάν κάθε κύκλος ανάπτυξης γίνεται ταχύτερος από τον προηγούμενο, τότε η εξέλιξη που κάποτε απαιτούσε χρόνια θα μπορούσε θεωρητικά να συμπιεστεί σε μήνες, εβδομάδες ή ακόμη μικρότερα χρονικά διαστήματα.

Αυτό είναι το σενάριο που περιγράφεται ως recursive self-improvement — αναδρομική αυτοβελτίωση.

Δεν βρισκόμαστε σήμερα εκεί.

Όμως η κατεύθυνση έχει αρχίσει να γίνεται ορατή.

Συστήματα AI γράφουν πλέον σημαντικό μέρος του λογισμικού που χρησιμοποιείται στην ανάπτυξη νέων συστημάτων, εκτελούν πολύπλοκες εργασίες προγραμματισμού και βοηθούν ερευνητές σε εργασίες που μέχρι πρόσφατα απαιτούσαν αποκλειστικά ανθρώπινη εργασία.

Η γραμμή λοιπόν ανάμεσα στο «ο άνθρωπος κατασκευάζει την AI» και στο «η AI βοηθά να κατασκευαστεί η επόμενη AI» αρχίζει σταδιακά να γίνεται λιγότερο καθαρή.

Και αν απλώς την κλείσουμε;

Αυτό ακούγεται σαν η προφανής λύση.

Αν ένα σύστημα παρουσιάσει επικίνδυνη συμπεριφορά, κλείνεις τους servers.

Το πρόβλημα είναι ότι τα σενάρια απώλειας ελέγχου δεν αφορούν τα σημερινά chatbot.

Αφορούν μελλοντικά συστήματα με πολύ μεγαλύτερη αυτονομία, δυνατότητα μακροχρόνιου σχεδιασμού, πρόσβαση σε ψηφιακά εργαλεία και ικανότητα να ενεργούν με ελάχιστη ανθρώπινη παρέμβαση.

Για να υπάρξει πραγματική απώλεια ελέγχου θα απαιτούνταν πολύ πιο προηγμένες δυνατότητες από όσες διαθέτουν σήμερα τα συστήματα AI.

Και εδώ βρίσκεται μια σημαντική λεπτομέρεια:

το International AI Safety Report του 2026 αναφέρει ότι τα σημερινά συστήματα δεν διαθέτουν ακόμη τις δυνατότητες που θα απαιτούνταν για ένα τέτοιο σενάριο.

Παράλληλα όμως καταγράφει πρόοδο ακριβώς σε ορισμένες από τις ικανότητες που θα μπορούσαν μελλοντικά να γίνουν σχετικές: μεγαλύτερη αυτονομία, μακροχρόνιος σχεδιασμός, αναγνώριση του πότε ένα μοντέλο αξιολογείται και εύρεση τρόπων παράκαμψης ορισμένων δοκιμών.

Το πρόβλημα επομένως δεν είναι ότι η ανθρωπότητα έχασε ήδη τον έλεγχο.

Το πρόβλημα είναι να γνωρίζει πού βρίσκεται το σημείο μετά το οποίο η ανάκτησή του θα είναι πολύ δυσκολότερη.

Ο αγώνας δρόμου

Υπάρχει και ένας ακόμη παράγοντας.

Ο ανταγωνισμός.

Οι μεγαλύτερες εταιρείες AI ανταγωνίζονται μεταξύ τους. Κράτη ανταγωνίζονται άλλα κράτη. Ερευνητικά εργαστήρια επιδιώκουν το επόμενο τεχνολογικό άλμα.

Και σε έναν τέτοιο αγώνα υπάρχει ένα επικίνδυνο κίνητρο:

Ακόμη και αν όλοι συμφωνούν ότι χρειάζεται προσοχή, κανένας δεν θέλει να σταματήσει πρώτος εάν πιστεύει ότι οι υπόλοιποι θα συνεχίσουν.

Έτσι δημιουργείται ένα παράδοξο.

Όλοι μπορεί να γνωρίζουν ότι χρειάζονται φρένα, αλλά κανείς να μη θέλει να είναι εκείνος που θα πατήσει πρώτος το φρένο.

Και ίσως αυτό να είναι τελικά ένα από τα μεγαλύτερα προβλήματα της εποχής της Τεχνητής Νοημοσύνης.

Όχι μόνο αν θα μπορέσουμε να δημιουργήσουμε μια μηχανή εξυπνότερη από εμάς.

Αλλά αν, όταν πλησιάσουμε σε αυτό το σημείο, θα έχουμε τη συλλογική ψυχραιμία να αποφασίσουμε πόσο μακριά θέλουμε πραγματικά να προχωρήσουμε.