Πίσω από την υπόθεση του Σαμ Άλτμαν – Το μυστικό σχέδιο «Q*» και η «απειλή για την ανθρωπότητα»

Πίσω από την υπόθεση του Σαμ Άλτμαν – Το μυστικό σχέδιο «Q*» και η «απειλή για την ανθρωπότητα»

«Βρέθηκα στο δωμάτιο όπου αφαιρέσαμε “το πέπλο της άγνοιας” και πήγαμε μπροστά τα σύνορα της ανακάλυψης»

Τις τελευταίες ημέρες, οι εξελίξεις στον χώρο της τεχνολογίας είναι ραγδαίες. Πριν από την απόλυση του CEO της OpenAI, Σαμ Άλτμαν, η οποία κράτησε 4 μέρες, καθώς ο ίδιος ξαναγύρισε στην εταιρεία, κάποιοι από τους εργαζόμενους της εταιρείας είχαν υπογράψει επιστολή, προειδοποιώντας για μια ισχυρή ανακάλυψη τεχνητής νοημοσύνης που, όπως είπαν, θα μπορούσε να απειλήσει την ανθρωπότητα.

Πριν λίγες μέρες, είχε γίνει γνωστό πως η απομάκρυνση του Σαμ Άλτμαν από την OpenAI σχετίζεται με το κρίσιμο ζήτημα της ασφάλειας και των κινδύνων από την τεχνητή νοημοσύνη. Στη συνέχεια, 700 από τους 770 εργαζομένους της εταιρείας είχαν υποστηρίξει πως αν δεν γυρίσει ο Άλτμαν στο τιμόνι της OpenAI, τότε και εκείνοι θα αποχωρήσουν και θα συμπεριληφθούν στη Microsoft, η οποία προσέλαβε τον Άλτμαν αμέσως μετά την απόλυσή του από την OpenAI. Μετά από το τελεσίγραφο των 700, ο Άλτμαν επέστρεψε στη startup που ίδρυσε ο ίδιος.

Τώρα, δύο άτομα που γνωρίζουν το θέμα μίλησαν στο Reuters, όπου αναφέρθηκαν στο τι κρύβεται πίσω από την αποχώρηση του Άλτμαν από το διοικητικό συμβούλιο της OpenAI. Οι πηγές αναφέρουν πως μια επιστολή είναι ένας, από τους πολλούς, παράγοντες που οδήγησαν στην απόλυση του Άλτμαν. Μεταξύ άλλων, σε αυτή την επιστολή, τονίζονται οι ανησυχίες των επιστημόνων για την εξέλιξη της τεχνητής νοημοσύνης, πριν υπολογιστούν οι συνέπειές της.

Η OpenAI δεν δέχτηκε να σχολιάσει τη διαρροή των αναφορών της επιστολής. Ωστόσο, ένας από τους εργαζομένους ανέφερε στο ίδιο μέσο πως, πριν από τα γεγονότα του Σαββατοκύριακου, υπήρξε ένα εσωτερικό μήνυμα προς το προσωπικό για ένα έργο με την ονομασία «Q*» και μια επιστολή προς το διοικητικό συμβούλιο.

Πίσω από την υπόθεση του Σαμ Άλτμαν – Το μυστικό σχέδιο «Q*» και η «απειλή για την ανθρωπότητα»

 

Κάποιοι από τους εργαζόμενους της OpenAI, πιστεύουν ότι το «Q*», ή αλλιώς «Q star», θα μπορούσε να είναι μια σημαντική ανακάλυψη της startup στην αναζήτηση της τεχνητής γενικής νοημοσύνης (AGI), δήλωσε ένας από τους ανθρώπους στο Reuters. Η OpenAI ορίζει την AGI ως αυτόνομα συστήματα, που ξεπερνούν τον άνθρωπο στις περισσότερες πολύτιμες εργασίες, που αφορούν τα οικονομικά θέματα.

Σύμφωνα με τα όσα δήλωσε η πηγή, αυτό το νέο μοντέλο, ήταν σε θέση να λύσει ορισμένα μαθηματικά προβλήματα, έχοντας τεράστιους υπολογιστικούς πόρους. Παλαιότερα, εκτελούσε μαθηματικά μόνο σε επίπεδο μαθητών δημοτικού σχολείου, όμως, η άριστη επίδοση του μοντέλου σε διάφορα προβλήματα, έκανε τους ερευνητές πολύ αισιόδοξους για τη μελλοντική επιτυχία του Q*.

Τι αλλάζει με την AGI

Οι ερευνητές θεωρούν τα μαθηματικά ως ένα από τα όρια της ανάπτυξης της AGI. Μέχρι σήμερα, η τεχνητή νοημοσύνη είναι καλή στη γραφή και τη μετάφραση γλωσσών, προβλέποντας στατιστικά την επόμενη λέξη, ακόμα και αν οι απαντήσεις της σε κάποια ίδια ερώτηση, μπορεί να διαφέρουν σημαντικά.

Η κατάκτηση της ικανότητας να κάνει μαθηματικά – όπου υπάρχει μόνο μία σωστή απάντηση – συνεπάγεται με το ότι η τεχνητή νοημοσύνη θα έχει μεγαλύτερες ικανότητες συλλογισμού, που θα μοιάζουν με την ανθρώπινη νοημοσύνη. Έτσι, θα μπορούσε να εφαρμοστεί, για παράδειγμα, σε κάποια νέα επιστημονική έρευνα, όπως πιστεύουν οι ερευνητές της τεχνητής νοημοσύνης.

Σε αντίθεση με μια αριθμομηχανή που μπορεί να λύσει έναν περιορισμένο αριθμό πράξεων, η AGI μπορεί να γενικεύει, να μαθαίνει και να κατανοεί.

Πίσω από την υπόθεση του Σαμ Άλτμαν – Το μυστικό σχέδιο «Q*» και η «απειλή για την ανθρωπότητα»

 

Τι αναφέρθηκε στην επιστολή

Χωρίς να δίνει λεπτομέρειες, ο άνθρωπος που μίλησε στο Reuters για την επιστολή, δήλωσε πως σε αυτή, οι ερευνητές αναφέρθηκαν στην κυριαρχία της τεχνητής νοημοσύνης και τους πιθανούς κινδύνους που ενέχει, στο επίπεδο που οδεύει. Μάλιστα, εδώ και καιρό υπάρχει συζήτηση μεταξύ των επιστημόνων στον χώρο της πληροφορικής, σχετικά με τον κίνδυνο που εγκυμονούν οι εξαιρετικά ευφυείς μηχανές.

Οι ερευνητές έχουν, επίσης, επισημάνει τις εργασίες μιας ομάδας «επιστημόνων τεχνητής νοημοσύνης». Η ομάδα διερευνούσε το πώς να βελτιστοποιήσει τα υπάρχοντα μοντέλα τεχνητής νοημοσύνης, για να καλυτερεύσει τη συλλογιστική τους και τελικά να εκτελέσει επιστημονικό έργο.

Ο Άλτμαν ηγήθηκε των προσπαθειών για να γίνει το ChatGPT μια από τις ταχύτερα αναπτυσσόμενες εφαρμογές λογισμικού στην ιστορία. Έτσι, προσέλκυσε επενδύσεις – και τους υπολογιστικούς πόρους – που ήταν αναγκαίοι από τη Microsoft για να πλησιάσει περισσότερο στην κατάκτηση της AGI.

Την περασμένη εβδομάδα, στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού στο Σαν Φρανσίσκο, ο Άλτμαν είπε πως πιστεύει ότι «είναι ορατές οι σημαντικές εξελίξεις». «Τέσσερις φορές στην ιστορία του OpenAI, με την πιο πρόσφατη φορά να είναι μόλις πριν δύο εβδομάδες, είχα την ευκαιρία να βρίσκομαι στο δωμάτιο, όπου, κατά κάποιο τρόπο, αφαιρέσαμε “το πέπλο της άγνοιας” και πήγαμε μπροστά τα σύνορα της ανακάλυψης. Το να το κάνω αυτό, είναι τιμή στην επαγγελματική ζωή μου», είπε. Ωστόσο, μια μέρα αργότερα, το συμβούλιο τον απέλυσε.

Πηγή : newsbeast.gr

 

To βρήκες ενδιαφέρον; Μοιράσου το!!

Κατηγορίες

Πρόσφατα Έργα μας

give it portfolio