Ο Sam Altman φέρεται να υποστηρίζει την θεωρία, η οποία αναφέρει ότι απολύθηκε από την OpenAI λόγω ενός μυστικού και υπερδύναμου συστήματος τεχνητής νοημοσύνης της εταιρείας, το οποίο βοήθησε να κατασκευαστεί.
Πολλοί υπάλληλοι φέρονται να προειδοποίησαν το διοικητικό συμβούλιο της εταιρείας ότι το έργο αυτό, με την ονομασία «Q* (προφέρεται “Q star”)», είχε γίνει τόσο προηγμένο που μπορούσε ήδη να περάσει εξετάσεις μαθηματικών και να εκτελέσει εργασίες κρίσιμης σκέψης. Και αισθάνθηκαν ότι ο Altman δεν έπαιρνε τις προειδοποιήσεις τους στα σοβαρά.
Σε συνέντευξή του αυτή την εβδομάδα, ο Altman δεν αρνήθηκε την ύπαρξη αυτού του μυστικού προγράμματος που, σύμφωνα με ορισμένους υπαλλήλους, ευθύνεται για την απόλυσή του.
Ο Altman απολύθηκε από την OpenAI, στη συνέχεια προσλήφθηκε από τη Microsoft, αλλά τελικά επέστρεψε στην θέση του στην OpenAI, η οποία επίσης απέλυσε το μεγαλύτερο μέρος του διοικητικού συμβουλίου που ευθυνόταν για την απομάκρυνση του Altman. Όλα αυτά έγιναν σε πέντε ημέρες τον Νοέμβριο.
«Ατυχής διαρροή» η αποκάλυψη του «Q*»
Το ευρύ κοινό έμαθε για την ύπαρξη του «Q*» σε πρόσφατο ρεπορτάζ του Reuters, το οποίο μοιράστηκε επίσης κάποιες ανησυχίες που διατυπώθηκαν στην προειδοποιητική επιστολή των εργαζομένων προς το διοικητικό συμβούλιο.
Με όλη αυτή την αβεβαιότητα, ο Altman ήταν στην ιδανική θέση να αρνηθεί την ύπαρξη του «Q*». Αντ’ αυτού, φάνηκε να την επιβεβαιώνει, χαρακτηρίζοντας «ατυχή διαρροή» την αποκάλυψη του Project .
«Κανένα ιδιαίτερο σχόλιο σχετικά με αυτή την ατυχή διαρροή. Αλλά αυτό που λέγαμε είναι ότι αναμένουμε ότι η πρόοδος σε αυτή την τεχνολογία θα συνεχίσει να είναι ραγδαία και επίσης ότι αναμένουμε να συνεχίσουμε να εργαζόμαστε πολύ σκληρά για να βρούμε πώς να την κάνουμε ασφαλή και ωφέλιμη» ανέφερε χαρακτηριστικά ο Altman.
Οι κίνδυνοι της τεχνητής γενικής νοημοσύνης
Οι άνθρωποι που εργάζονται στον τομέα της AI έχουν προειδοποιήσει ότι μόλις οι επιστήμονες πληροφορικής επιτύχουν την τεχνητή γενική νοημοσύνη (AGI), αυτή μπορεί να γίνει πιο ισχυρή από ό,τι μπορούν να αντιμετωπίσουν οι άνθρωποι.
Θα μπορούσαν ακόμη και να θεωρήσουν τον άνθρωπο ως απειλή που πρέπει να εξαλειφθεί, επιστρατεύοντας τις υποδομές του διαδικτύου και των υπολογιστών για την υλοποίηση ενός σχεδίου καταστροφής.
Τέτοιοι φόβοι ευθυγραμμίζονται με τις προβλέψεις των ειδικών ότι μια μέρα η AI θα φτάσει σε ένα σημείο γνωστό ως «singularity» (μοναδικότητα), όταν η τεχνολογία θα έχει γίνει πιο ισχυρή και ευφυής από ό,τι μπορεί να ανταγωνιστεί ο άνθρωπος, αλλάζοντας την πορεία της εξέλιξής μας.
Ο πρώην μηχανικός της Google, Ray Kurzweil προέβλεψε κάποτε ότι αυτή η στιγμή θα εμφανιστεί μέχρι το 2045.
Το Project Q*
Το Reuters ανέφερε ότι το «Q*» είναι μέρος του λόγου για τον οποίο ο Altman απολύθηκε από την OpenAI, λόγω των προηγμένων ικανοτήτων του νέου συστήματος. Πηγές ανέφεραν ότι το Q* είχε ήδη αριστεύσει στα τεστ μαθηματικών, ενώ η τελευταία έκδοση του ChatGPT, το GPT-4, εξακολουθεί να δυσκολεύεται στις εξετάσεις του λυκείου.
Το GPT-4 ξεκίνησε τον Μάρτιο, ενώ το Q* δεν έχει ακόμη επιβεβαιωθεί. Οι πηγές ισχυρίστηκαν επίσης ότι το Q* θα μπορούσε να χρησιμοποιήσει μη γραμμικές μεθόδους, όπως Tree-of-Thoughts, Monte-Carlo Tree Search (MCTS), Process-Supervised Reward Models (PRMs) και έναν αλγόριθμο μάθησης.
Ωστόσο, το προσωπικό του OpenAI φέρεται να πιστεύει ότι το Q* θα μπορούσε να είναι η ανακάλυψη που θα επιτρέψει την ανάπτυξη της AGI. Το OpenAI έχει ορίσει την AGI ως «συστήματα τεχνητής νοημοσύνης που είναι γενικά εξυπνότερα από τους ανθρώπους».