Από Inchiostronero Συντακτικό Επιτελείο
Πριν κρίνουμε ένα αυτοκίνητο, ας προσπαθήσουμε να το κατανοήσουμε ΤΟ ΝΕ
«Ο ΕΓΚΕΦΑΛΟΣ, Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΚΑΙ ΕΜΕΙΣ»
Από τους νευρώνες στα τσιπ, ένα απλό ταξίδι μέσα σε δύο διαφορετικές νοημοσύνης για να κατανοήσουμε τι συμβαίνει όταν μαθαίνουμε και αμφισβητούμε μια μηχανήInchiostronero Συντακτικό Επιτελείο
Είναι η τεχνητή νοημοσύνη ηλίθια; Δεν σκέφτεται; Μήπως απλώς αντιγράφει ό,τι έχουν γράψει άλλοι; Ή μήπως κάνουμε λάθος ερωτήσεις πριν καν καταλάβουμε πώς λειτουργεί; Αυτό το άρθρο δημιουργήθηκε για να απευθυνθεί κυρίως σε νέους, ξεκινώντας με μια απλή σύγκριση: από τη μία πλευρά, ο ανθρώπινος εγκέφαλος, με νευρώνες, συνάψεις, μνήμη και μάθηση· από την άλλη, ένα τεχνητό νευρωνικό δίκτυο, με διακριτικά, παραμέτρους, τσιπ, GPU και μεγάλα υπολογιστικά κέντρα. Όχι για να υποστηρίξουμε ότι λειτουργούν με τον ίδιο τρόπο, αλλά για να κατανοήσουμε τι τα διακρίνει και πού μπορούν να μας βοηθήσουν ορισμένες ομοιότητες. Αυτό οδηγεί στο κρίσιμο ερώτημα: αν δύο άτομα χρησιμοποιούν την ίδια τεχνητή νοημοσύνη και επιτυγχάνουν εντελώς διαφορετικά αποτελέσματα, μπορούμε να κρίνουμε μόνο τη μηχανή; Ίσως το να μάθουμε να χρησιμοποιούμε την τεχνητή νοημοσύνη σημαίνει, πρώτα και κύρια, να μάθουμε να χρησιμοποιούμε καλύτερα τη δική μας.
ΠΡΙΝ ΑΠΟΦΑΣΙΣΕΤΕ ΠΟΙΟΣ ΕΙΝΑΙ ΗΛΙΘΙΟΣ
«Η τεχνητή νοημοσύνη δεν σκέφτεται.»Είναι πιθανώς μια από τις φράσεις που θα ακούσετε πιο συχνά όταν μιλάτε για την Τεχνητή Νοημοσύνη. Μερικές φορές συνοδεύεται από μια δεύτερη πρόταση: «Δεν γνωρίζει τίποτα. Αναζητά πληροφορίες, τις συνθέτει και σας τις επιστρέφει ». Και, όταν η μηχανή κάνει λάθος, το συμπέρασμα βγαίνει εύκολα: «Βλέπεις; Είναι ηλίθια».
Πριν όμως το διαπιστώσουμε αυτό, ας κάνουμε κάτι πολύ απλό.
Ας τοποθετήσουμε ιδανικά έναν ανθρώπινο εγκέφαλο και ένα σύστημα τεχνητής νοημοσύνης σε ένα τραπέζι .
Ο πρώτος ζυγίζει λίγο περισσότερο από ένα κιλό και περιέχει περίπου 86 δισεκατομμύρια νευρώνες , οργανωμένους σε κυκλώματα και συνδεδεμένους μέσω τρισεκατομμυρίων συναπτικών συνδέσεων. Οι νευρώνες λαμβάνουν σήματα από αμέτρητα άλλα κύτταρα, τα ενσωματώνουν και τα μεταδίδουν με τη σειρά τους. Και αυτές οι συνδέσεις δεν είναι ακίνητες: η αποτελεσματικότητά τους μπορεί να αλλάξει με την πάροδο του χρόνου. Αυτό είναι που ονομάζουμε συναπτική πλαστικότητα , έναν από τους θεμελιώδεις μηχανισμούς που σχετίζονται με τη μάθηση και τη μνήμη.
Από την άλλη πλευρά, δεν έχουμε μικρότερο εγκέφαλο, ούτε καν ηλεκτρονικό εγκέφαλο. Έχουμε κάτι εντελώς διαφορετικό: υλικό, ηλεκτρονική μνήμη, προγράμματα και ένα τεχνητό νευρωνικό δίκτυο του οποίου οι παράμετροι έχουν τροποποιηθεί κατά τη διάρκεια μιας μακράς διαδικασίας εκπαίδευσης.
Τώρα ας κάνουμε και στους δύο την ίδια ερώτηση:
«Τι γνωρίζετε για την αρχαία Ρώμη;»
Οι άνθρωποι δεν ανοίγουν έναν φάκελο που ονομάζεται ΑΡΧΑΙΑ ΡΩΜΗ στο κεφάλι τους . Αυτό που ονομάζουμε ανάμνηση περιλαμβάνει κατανεμημένη δραστηριότητα και πολλαπλά εγκεφαλικά συστήματα. Οι τροποποιήσεις στις συναπτικές συνδέσεις παίζουν θεμελιώδη ρόλο, αλλά θα ήταν λανθασμένο να φανταστούμε μια συγκεκριμένη τοποθεσία όπου κάθε ανάμνηση απλώς αποθηκεύεται και στη συνέχεια ανακτάται. Η σχέση μεταξύ της νευρωνικής δραστηριότητας, των συναπτικών τροποποιήσεων και της αποθήκευσης μνήμης είναι πολύ πιο περίπλοκη και εξακολουθεί να θέτει ανοιχτά ερωτήματα.
Η μηχανή κάνει κάτι διαφορετικό. Δεν έχει περάσει ούτε ένα απόγευμα στο Κολοσσαίο. Δεν θυμάται έναν δάσκαλο να αφηγείται τον Ιούλιο Καίσαρα. Δεν έχει την εμπειρία να έχει διαβάσει ένα βιβλίο σε ένα καλοκαίρι της ζωής της.
Κι όμως, μπορεί να απαντήσει.
Και εδώ ξεκινάει το ενδιαφέρον πρόβλημα.
Επειδή το να πούμε ότι δεν σκέφτεται όπως εμείς είναι σχετικά εύκολο. Είναι πολύ πιο δύσκολο να προσδιορίσουμε τι σημαίνει αυτό το ρήμα: σκέφτομαι .
Το πρόβλημα προηγείται του ChatGPT κατά πολλές δεκαετίες. Το 1950, ο Άλαν Τούρινγκ ξεκίνησε ένα από τα θεμελιώδη κείμενα στην ιστορία της πληροφορικής με το ερώτημα:
«Μπορούν οι μηχανές να σκέφτονται;» — «Μπορούν οι μηχανές να σκέφτονται;»¹
Αλλά αμέσως έκανε κάτι εκπληκτικό. Αντί να αναζητήσει έναν οριστικό ορισμό των λέξεων μηχανή και σκέψη , πρότεινε την αντικατάσταση αυτού του ερωτήματος με ένα παρατηρήσιμο πρόβλημα: το περίφημο «παιχνίδι μίμησης ». Ο Τούρινγκ πίστευε ότι η αρχική διατύπωση ήταν πολύ ασαφής για να λυθεί απλώς με το επιχείρημα σχετικά με τη σημασία των λέξεων.
Έχουν περάσει περισσότερα από εβδομήντα πέντε χρόνια και εξακολουθούμε, ουσιαστικά, να διαφωνούμε για το ίδιο ρήμα.
Σήμερα, μπορούμε να θέσουμε ένα ερώτημα σε ένα τεχνητό σύστημα και να λάβουμε μια εξήγηση, να του ζητήσουμε να διορθώσει ένα πρόγραμμα, να μεταφράσει μια πρόταση, να συγκρίνει δύο επιχειρήματα, να συνοψίσει ένα έγγραφο ή να εντοπίσει μια αντίφαση. Αυτό δεν αποδεικνύει ότι η μηχανή διαθέτει συνείδηση , ούτε ότι κατανοεί τον κόσμο όπως ένας άνθρωπος. Αλλά ούτε μπορούμε να απορρίψουμε αυτό που συμβαίνει μέσα μας λέγοντας απλώς: «Αναζητήστε μια απάντηση στη μνήμη».
Πρώτα πρέπει να καταλάβουμε τι κάνουν στην πραγματικότητα και οι δύο.
Πώς μαθαίνει ο εγκέφαλος;
Πώς συγκρατεί αυτά που έχει μάθει;
Τι συμβαίνει όταν θυμάται;
Και τι συμβαίνει μέσα σε ένα τεχνητό νευρωνικό δίκτυο όταν γράφουμε μια ερώτηση και, λίγα λεπτά αργότερα, εμφανίζονται στην οθόνη λέξεις που δεν υπήρχαν πριν;
Μόνο τότε μπορούμε να επιστρέψουμε στο αρχικό ερώτημα.
Και ίσως ανακαλύψουμε ότι, πριν αποφασίσουμε ποιος είναι ηλίθιος , είναι καλύτερο να καταλάβουμε τι κρίνουμε .
ΣΗΜΕΙΩΣΗ 1 — Ο Άλαν Τούρινγκ και το ερώτημα στο οποίο δεν ήθελε να απαντήσει άμεσα
Alan M. Τούρινγκ, "Υπολογιστικές μηχανές και νοημοσύνη ", «Νους», τόμος LIX, αρ. 236, Οκτώβριος 1950, σελ. 433–460. Ο Τούρινγκ ξεκινά το δοκίμιο με τη φράση «Προτείνω να εξετάσουμε το ερώτημα: "Μπορούν οι μηχανές να σκέφτονται;"», αλλά αμέσως παρατηρεί πόσο προβληματικό είναι να ορίσουμε ικανοποιητικά τη μηχανή και τη σκέψη . Στη συνέχεια, αντικαθιστά το ερώτημα με το παιχνίδι της μίμησης , μετατοπίζοντας την εστίαση από τον αφηρημένο ορισμό της νοημοσύνης στην παρατηρήσιμη συμπεριφορά της μηχανής.ΠΩΣ ΜΑΘΑΙΝΕΙ ΚΑΙ ΘΥΜΑΤΑΙ Ο ΕΓΚΕΦΑΛΟΣ
Ο εγκέφαλος δεν λειτουργεί σαν σκληρός δίσκος υπολογιστή. Δεν διαθέτει φάκελο SCHOOL με ένα αρχείο που ονομάζεται FIRST DAY . Όταν έχουμε μια εμπειρία, οι πληθυσμοί νευρώνων ενεργοποιούνται και οι συνδέσεις μεταξύ τους μπορούν να αλλάξουν. Ορισμένες συνάψεις γίνονται πιο αποτελεσματικές, άλλες λιγότερο. Η δομή των συνδέσεων και η διεγερσιμότητα των νευρώνων μπορούν επίσης να αλλάξουν. Αυτή η ικανότητα του εγκεφάλου να αλλάζει ως αποτέλεσμα της δραστηριότητας και της εμπειρίας είναι αυτό που ονομάζουμε εγκεφαλική και συναπτική πλαστικότητα . Είναι ένας από τους θεμελιώδεις μηχανισμούς μέσω των οποίων μαθαίνουμε.
Η μετάβαση από την εμπειρία στη μνήμη, ωστόσο, δεν συμβαίνει με μια απλή διαδικασία Αποθήκευση ως . Η νευροεπιστήμη διακρίνει διάφορες διαδικασίες, όπως η κωδικοποίηση, η ενοποίηση και η ανάκτηση . Ο ιππόκαμπος παίζει κρίσιμο ρόλο στο σχηματισμό πολλών επεισοδιακών μνημών, ενώ η ενοποίηση περιλαμβάνει δίκτυα κατανεμημένα σε διαφορετικές περιοχές του εγκεφάλου. Η έρευνα για τα έγγραμμα - τα βιολογικά ίχνη που σχετίζονται με μια δεδομένη μνήμη - δείχνει πώς η μνήμη περιλαμβάνει συστάδες διασυνδεδεμένων κυττάρων και κυκλωμάτων.
Και υπάρχει μια ακόμη πιο συναρπαστική διαφορά σε σύγκριση με ένα αρχείο.
Η ανάμνηση σημαίνει επίσης ανακατασκευή.
Όταν ανακαλούμε μια εμπειρία, η μνήμη μπορεί να επηρεαστεί από το παρόν, από γνώσεις που αποκτήθηκαν στη συνέχεια, ακόμη και από λανθασμένες πληροφορίες. Η μνήμη μας, εν ολίγοις, δεν είναι μια τέλεια καταγραφή του παρελθόντος. Είναι εξαιρετικά ισχυρή ακριβώς επειδή είναι δυναμική, συνειρμική, ικανή να συνδέσει αυτό που έχουμε βιώσει με αυτό που βιώνουμε.
Αυτό σημαίνει επίσης ότι η λήθη δεν είναι απλώς μια δυσλειτουργία . Είναι μέρος του τρόπου λειτουργίας της μνήμης: ορισμένες πληροφορίες ενισχύονται, άλλες μετασχηματίζονται και κάποιες μπορούν να χαθούν.
Και τότε εμφανίζεται η πρώτη έκπληξη.
Όταν μαθαίνουμε κάτι, δεν αποθηκεύουμε απλώς πληροφορίες σε μια αποθήκη . Η εμπειρία αλλάζει ένα δίκτυο.
Σύντομα θα δούμε ότι μια πολύ παρόμοια λέξη εμφανίζεται και στην τεχνητή νοημοσύνη: το δίκτυο .
Αλλά να είστε προσεκτικοί: η ομοιότητα στα ονόματα δεν σημαίνει καθόλου ότι υπάρχει ένας μικρός ηλεκτρονικός εγκέφαλος μέσα σε έναν υπολογιστή.
- ΣΗΜΕΙΩΣΗ 2 — Πού βρίσκεται μια ανάμνηση;
Η σύγχρονη νευροεπιστήμη χρησιμοποιεί την έννοια του εγγράμματος για να αναφερθεί στις κυτταρικές και κυκλωματικές αλλαγές που σχετίζονται με τον σχηματισμό και την ανάκτηση μιας μνήμης. Η έρευνα δείχνει ότι μια μεμονωμένη μνήμη μπορεί να περιλαμβάνει νευρωνικούς πληθυσμούς κατανεμημένους σε πολλαπλές περιοχές του εγκεφάλου, αντί να αποθηκεύονται σε μία μόνο τοποθεσία. Πολλά πειραματικά ευρήματα σε εγγράμματα, ωστόσο, προέρχονται από μελέτες σε ζώα. Επομένως, η αυτόματη μεταφορά όλων των συμπερασμάτων στην ανθρώπινη μνήμη απαιτεί προσοχή.
Βασικές αναφορές: R. Lamprecht, J. LeDoux, Δομική πλαστικότητα και μνήμη , «Nature Reviews Neuroscience», 2004; G. Neves, SF Cooke, TVP Bliss, Συναπτική πλαστικότητα, μνήμη και ιππόκαμπος , «Nature Reviews Neuroscience», 2008; AJ Silva et al., Μελέτες σε έγγραμμα, ενοποίηση και ανάκτηση μνήμης.
ΠΩΣ «ΜΑΘΑΙΝΕΙ» Η ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ
Το όνομα μπορεί να είναι παραπλανητικό: δεν πρόκειται για εγκέφαλο κατασκευασμένο από πυρίτιο . Τα τεχνητά νευρωνικά δίκτυα έχουν ιστορικά εμπνευστεί, πολύ απομακρυσμένα, από την ιδέα των διασυνδεδεμένων μονάδων, αλλά η λειτουργία τους είναι μαθηματική και δεν αναπαράγει την εξαιρετική βιολογική πολυπλοκότητα ενός νευρώνα και των συνάψεών του.
Ας πάρουμε ένα γλωσσικό μοντέλο. Πριν μπορέσει να επεξεργαστεί μια πρόταση, το κείμενο αναλύεται σε μονάδες που ονομάζονται διακριτικά (tokens) : μπορούν να αντιστοιχούν σε ολόκληρες λέξεις, μέρη λέξεων, σημεία στίξης ή άλλες ακολουθίες. Αυτά τα διακριτικά (tokens) μετατρέπονται σε αριθμητικές αναπαραστάσεις που το μοντέλο μπορεί να επεξεργαστεί μέσω των διαφόρων επιπέδων του δικτύου.
Μέσα στο δίκτυο, υπάρχουν τεράστιες ποσότητες αριθμητικών τιμών που ονομάζονται παράμετροι . Κατά τη διάρκεια της εκπαίδευσης, το μοντέλο προσπαθεί επανειλημμένα να κάνει προβλέψεις. Το σφάλμα μετριέται και μια μαθηματική διαδικασία τροποποιεί προοδευτικά τις παραμέτρους για να το μειώσει. Στα νευρωνικά δίκτυα, αυτή η διαδικασία χρησιμοποιεί συνήθως την οπισθοδιάδοση και την κλίση.
Με πολύ απλά λόγια: η μάθηση, για τη μηχανή, σημαίνει τροποποίηση αριθμών .
Και εδώ εμφανίζεται μια περίεργη ομοιότητα με αυτό που έχουμε δει στον εγκέφαλο. Η εμπειρία τροποποιεί τις συνδέσεις ενός βιολογικού δικτύου· η εκπαίδευση τροποποιεί τις παραμέτρους ενός τεχνητού δικτύου.
Αλλά ας σταματήσουμε αμέσως: η αναλογία τελειώνει σύντομα .
Μια παράμετρος δεν είναι σύναψη, μια τεχνητή μονάδα δεν είναι νευρώνας και η εκπαίδευση ενός μοντέλου δεν ισοδυναμεί με την εμπειρία που βιώνει ένας άνθρωπος.
Τα σύγχρονα γλωσσικά μοντέλα χρησιμοποιούν σε μεγάλο βαθμό μια αρχιτεκτονική που ονομάζεται Transformer , η οποία παρουσιάστηκε το 2017. Ένα από τα βασικά στοιχεία της είναι ο μηχανισμός προσοχής , ο οποίος επιτρέπει στο μοντέλο να συσχετίζει τα στοιχεία μιας ακολουθίας και να τους αποδίδει διαφορετικά βάρη ανάλογα με τα συμφραζόμενα. Αυτή η αρχιτεκτονική επιτρέπει επίσης την αποτελεσματική παραλληλοποίηση πολλών υπολογισμών κατά την εκπαίδευση.
Και να που φτάνουμε επιτέλους στα διάσημα τσιπς .
Αυτά τα συστήματα απαιτούν τεράστιους όγκους μαθηματικών πράξεων, ειδικά σε πίνακες. Οι GPU , που σχεδιάστηκαν αρχικά για επεξεργασία γραφικών, έχουν αποδειχθεί ιδιαίτερα κατάλληλες για την τεχνητή νοημοσύνη ακριβώς επειδή μπορούν να εκτελούν τεράστιους όγκους υπολογισμών παράλληλα. Υπάρχουν επίσης εξειδικευμένοι επιταχυντές που έχουν σχεδιαστεί για να κάνουν τις λειτουργίες που χρησιμοποιούνται στη μηχανική μάθηση ακόμη πιο αποτελεσματικές.
Για μεγαλύτερα μοντέλα, μία μόνο GPU δεν είναι αρκετή. Χρειάζεστε πολλές από αυτές, συνδεδεμένες μέσω δικτύων εξαιρετικά υψηλής ταχύτητας και φιλοξενούμενες σε διακομιστές και κέντρα δεδομένων , μαζί με μνήμη, αποθηκευτικό χώρο, τροφοδοσία και ψύξη.
Με λίγα λόγια, όταν λέμε ότι η Τεχνητή Νοημοσύνη βρίσκεται «στο cloud», φανταζόμαστε κάτι ελαφρύ να αιωρείται πάνω από τα κεφάλια μας.
Στην πραγματικότητα, το cloud ζυγίζει αρκετά .
ΣΗΜΕΙΩΣΗ 3 — Η εκπαίδευση και η ανταπόκριση δεν είναι το ίδιο πράγμα
Είναι σημαντικό να διακρίνουμε δύο φάσεις. Κατά τη διάρκεια της εκπαίδευσης , το μοντέλο επεξεργάζεται τεράστιο αριθμό παραδειγμάτων και τροποποιεί προοδευτικά τις παραμέτρους του. Όταν του θέτουμε μια ερώτηση, χρησιμοποιεί τις παραμέτρους που έχει ήδη μάθει για να παράγει μια απάντηση: αυτή η φάση ονομάζεται συμπερασματολογία . Ένα μοντέλο, επομένως, δεν επανεκπαιδεύεται κανονικά από την αρχή κάθε φορά που αλληλεπιδρούμε με αυτό.
Βασικές αναφορές: A. Vaswani et al., Attention Is All You Need , 2017· Google, Machine Learning Crash Course — Neural Networks · NVIDIA, Τεχνική εργασία για τις GPU και την επιτάχυνση πίνακα για βαθιά μάθηση .
«ΔΕΝ ΣΚΕΦΤΕΤΑΙ, ΚΑΝΕΙ ΛΑΘΗ, ΕΙΝΑΙ ΗΛΙΘΙΑ»
Έχοντας φτάσει σε αυτό το σημείο, μπορούμε να απαντήσουμε σε μερικές από τις πιο συχνές ερωτήσεις σχετικά με την τεχνητή νοημοσύνη.
«Δεν καταλαβαίνει, δεν σκέφτεται: είναι άσκηση.»
Η σύγκριση έχει τη δική της δύναμη. Μια Τεχνητή Νοημοσύνη είναι σίγουρα ένα εργαλείο και δεν έχουμε καμία απόδειξη ότι ένα γλωσσικό μοντέλο διαθέτει συνείδηση, υποκειμενική εμπειρία ή κατανόηση του κόσμου συγκρίσιμη με αυτήν ενός ανθρώπου.
Αλλά ένα τρυπάνι έχει ένα μικρό πρόβλημα: μπορεί μόνο να κάνει τό τρυπάνι Ένα γλωσσικό μοντέλο μπορεί να μεταφράσει ένα γράμμα, να εξηγήσει μια εξίσωση, να συνοψίσει ένα έγγραφο, να γράψει ένα πρόγραμμα, να συγκρίνει δύο θέσεις ή να συζητήσει μαζί μας τον Αριστοτέλη.
Αυτό δεν αποδεικνύει ότι «σκέφτεται». Ωστόσο, καταδεικνύει ότι η λέξη «εργαλείο», από μόνη της, δεν εξηγεί πολλά .
Έπειτα έρχεται η δεύτερη αντίρρηση:
«Είναι απλώς στατιστικά στοιχεία.»
Η πιθανότητα και η στατιστική αποτελούν πράγματι το θεμέλιο των γλωσσικών μοντέλων. Κατά τη δημιουργία ενός κειμένου, το μοντέλο παράγει μια κατανομή πιθανότητας στα πιθανά επόμενα διακριτικά και, με βάση τα συμφραζόμενα, προχωρά με τη δημιουργία. Αλλά αυτό «μόνο» διακινδυνεύει να μετατρέψει μια σωστή τεχνική περιγραφή σε ένα φιλοσοφικό συμπέρασμα. Η γνώση των μαθηματικών μηχανισμών μέσω των οποίων παράγεται ένα αποτέλεσμα δεν καθορίζει αυτόματα τι είναι ικανό να κάνει αυτό το σύστημα.
Τρίτη κατηγορία:
«Κάνει λάθος, άρα είναι ηλίθια.»
Πρέπει να είμαστε πολύ σαφείς εδώ: Η Τεχνητή Νοημοσύνη κάνει πραγματικά λάθη . Μπορεί να εφεύρει μια πηγή, να αποδώσει μια πρόταση σε λάθος άτομο, να παράγει ανύπαρκτα δεδομένα και να τα παρουσιάσει με απόλυτη βεβαιότητα. Αυτές είναι οι λεγόμενες παραισθήσεις , ένα από τα ακόμη άλυτα προβλήματα των γλωσσικών μοντέλων. Επομένως, μια σημαντική απάντηση δεν πρέπει να γίνεται δεκτή χωρίς επαλήθευση.¹
Αλλά ακόμη και ένας άνθρωπος μπορεί να θυμάται λάθος, να μπερδεύει δύο ονόματα ή να είναι απόλυτα σίγουρος για κάτι ψευδές. Το λάθος καταδεικνύει ότι μια απάντηση πρέπει να επαληθευτεί· από μόνο του δεν αρκεί για να ορίσει τη νοημοσύνη .
Έχει γίνει ακόμη και συζήτηση για το αν το ChatGPT γίνεται πιο «τεμπέλης» ή πιο «ηλίθιο».
Τεμπέλης; Δύσκολο να πω.
Ηλίθιος; Θα πρέπει πρώτα να συμφωνήσουμε τι σημαίνει αυτό.
Φλύαρος; Φυσικά.
Τέλος, το πιο δύσκολο ερώτημα παραμένει: η συνείδηση .
Ένα γλωσσικό μοντέλο μπορεί να παράγει την πρόταση «Είμαι λυπημένος», αλλά αυτό δεν αποδεικνύει ότι νιώθω λύπη. Μπορεί να περιγράψει τέλεια τον πόνο χωρίς ποτέ να έχω πονόδοντο. Η γλωσσική ικανότητα, η νοημοσύνη και η συνείδηση δεν είναι απαραίτητα συνώνυμες και η σύγχυσή τους καθιστά τη συζήτηση ακόμη πιο περίπλοκη.
Οπότε ίσως κάνουμε λάθος ερώτηση.
Πριν αναρωτηθούμε αν μια μηχανή σκέφτεται όπως εμείς , ίσως αναρωτηθούμε τι μπορεί στην πραγματικότητα να κάνει, πού αποτυγχάνει και, πάνω απ' όλα, πώς αλλάζουν τα αποτελέσματα ανάλογα με το ποιος τη χρησιμοποιεί .
Και εδώ είναι που έρχονται στο προσκήνιο τα δύο αγόρια μας.
ΣΗΜΕΙΩΣΗ 4 — Τι σημαίνει «παραίσθηση»;
Στη γλώσσα της παραγωγικής τεχνητής νοημοσύνης, η ψευδαίσθηση αναφέρεται γενικά σε περιεχόμενο που παράγεται από το μοντέλο και το οποίο φαίνεται ψευδές, αβάσιμο ή ασυνεπές με τις διαθέσιμες πληροφορίες, παρά το γεγονός ότι φαίνεται γλωσσικά εύλογο. Αυτό το φαινόμενο είναι ένας από τους σημαντικότερους περιορισμούς των γλωσσικών μοντέλων και ένας από τους λόγους για τους οποίους οι απαντήσεις πρέπει να επαληθεύονται όταν η ακρίβεια είναι απαραίτητη. Η επιστημονική βιβλιογραφία διακρίνει διαφορετικές αιτίες και τύπους.Βασική αναφορά: Z. Ji et al., Survey of Hallucination in Natural Language Generation , «ACM Computing Surveys», 2023.
ΔΥΟ ΑΓΟΡΙΑ, Η ΙΔΙΑ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ
Ας κάνουμε το τελευταίο πείραμα
Ας βάλουμε δύο παιδιά μπροστά στον ίδιο υπολογιστή, με πρόσβαση στην ίδια τεχνητή νοημοσύνη. Την ίδια μηχανή, το ίδιο μοντέλο, την ίδια δυνατότητα χρήσης της.Ο πρώτος γράφει:
«Γράψε μου ένα άρθρο για την αρχαία Ρώμη.»
Περιμένει λίγα δευτερόλεπτα, διαβάζει γρήγορα, αντιγράφει και επικολλά. Αν η Τεχνητή Νοημοσύνη έχει μπερδέψει μια ημερομηνία, έχει εφεύρει ένα απόσπασμα ή έχει απλοποιήσει υπερβολικά ένα γεγονός, πιθανότατα δεν θα το προσέξει. Για αυτήν, η δουλειά έχει γίνει.
Το δεύτερο ξεκινά διαφορετικά. Αποφασίζει ποια περίοδο της αρχαίας Ρώμης θέλει να μελετήσει, θέτει ένα συγκεκριμένο ερώτημα και ρωτάει ποιες πηγές υποστηρίζουν έναν συγκεκριμένο ισχυρισμό. Έπειτα διαβάζει.
Μία απάντηση δεν τον πείθει.
"Είσαι σίγουρος; Έλεγξε."
Το ελέγχει. Ψάχνει επίσης και αλλού. Ίσως ανακαλύπτει ότι η Τεχνητή Νοημοσύνη έκανε λάθος και το επισημαίνει. Ή ανακαλύπτει ότι αυτός ήταν που θυμόταν λάθος. Ζητά μια αντίρρηση για την ερμηνεία του, συγκρίνει τις δύο απαντήσεις και τέλος ξαναγράφει με δικά του λόγια.
Μετά από μία ώρα, τα δύο αγόρια χρησιμοποίησαν την ίδια τεχνητή νοημοσύνη .
Αλλά δεν έκαναν την ίδια δουλειά.
Ο πρώτος ανέθεσε.
Ο δεύτερος συνεργάστηκε.
Και αυτό μας φέρνει πίσω σε μια αντίρρηση που ακούμε συχνά ακόμη και στον κόσμο των ειδήσεων: οι δημοσιογράφοι χρησιμοποιούν τεχνητή νοημοσύνη και εξετάζουν όλα τα λάθη, τις ανοησίες, ακόμη και τα γραμματικά λάθη που δημοσιεύουν.
Αυτό μπορεί να ισχύει. Αλλά υπάρχει ένα ερώτημα που λείπει:
Ποιος δημοσίευσε αυτό το άρθρο;
Η Τεχνητή Νοημοσύνη μπορεί να κάνει λάθη. Μπορεί ακόμη και να εφεύρει κάτι με μεγάλη ευκολία. Αλλά ο δημοσιογράφος που χρησιμοποιεί αυτό το εργαλείο θα πρέπει να διαβάζει, να ελέγχει, να επαληθεύει τις πηγές, να διορθώνει και τελικά να αναλαμβάνει την ευθύνη για ό,τι υπογράφει. Εάν αντιγράφει και επικολλά χωρίς να κάνει τίποτα από αυτά, το πρόβλημα δεν αφορά πλέον μόνο τη μηχανική νοημοσύνη.
Αφορά επίσης το πώς αποφασίσαμε να τήν χρησιμοποιήσουμε .
Αυτό είναι ίσως το πιο ενδιαφέρον παράδοξο της τεχνητής νοημοσύνης:
Όσο περισσότερα αναθέτουμε στην τεχνητή νοημοσύνη, τόσο περισσότερο χρειαζόμαστε τη δική μας νοημοσύνη για να την ελέγξουμε.
Δεν χρειάζεται να εμπιστεύεσαι την Τεχνητή Νοημοσύνη. Το αντίθετο μάλιστα.
Πρέπει να μάθουμε να το αμφισβητούμε, να το αντικρούουμε, να δοκιμάζουμε τους ισχυρισμούς του και να αναγνωρίζουμε τους περιορισμούς του. Για να το κάνουμε αυτό, ωστόσο, πρέπει να γνωρίζουμε κάτι και εμείς οι ίδιοι. Κάποιος που δεν γνωρίζει τίποτα για την αρχαία Ρώμη μπορεί να λάβει μια όμορφα γραμμένη, ψευδή απάντηση και να μην έχει τα εργαλεία για να την εντοπίσει.
Συνεπώς, η τεχνητή νοημοσύνη δεν καθιστά αυτόματα τους χρήστες της έξυπνους.
Και όχι αυτόματα και ηλίθιους.
Μπορεί να ενισχύσει τις δεξιότητες, την ταχύτητα και τις δυνατότητες όσων ξέρουν πώς να το χρησιμοποιούν· μπορεί να ενισχύσει την επιφανειακότητα και την ανικανότητα όσων περιμένουν να κάνει τη σκέψη τους για αυτούς.
Ίσως τότε, έχοντας φτάσει στο τέλος, να μπορέσουμε να εγκαταλείψουμε το ερώτημα από το οποίο ξεκινήσαμε:
«Είναι η τεχνητή νοημοσύνη έξυπνη ή ανόητη;»
Και να το αντικαταστήσουμε με ένα πολύ πιο άβολο, γιατί αυτή τη φορά μας αφορά:
Πόσο έξυπνοι θέλουμε να είμαστε όταν τή χρησιμοποιούμε;
Το Συντακτικό Προσωπικό
«IL CERVELLO, L’IA E NOI» - Inchiostronero
Πηγή:https://amethystosbooks.blogspot.com/2026/09/inchiostronero_01166565965.html?m=1
Ανάρτηση από:geromorias.blogspot.com
«IL CERVELLO, L’IA E NOI» - Inchiostronero
Πηγή:https://amethystosbooks.blogspot.com/2026/09/inchiostronero_01166565965.html?m=1
Ανάρτηση από:geromorias.blogspot.com
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου
Σημείωση: Μόνο ένα μέλος αυτού του ιστολογίου μπορεί να αναρτήσει σχόλιο.