Ένα από τα πιο ενδιαφέροντα ερωτήματα γύρω από την συζήτηση που έχει προκαλέσει η τεχνητή νοημοσύνη δεν είναι τι μπορεί να απαντήσει, αλλά τι συμβαίνει όταν δεν γνωρίζει την απάντηση.

Όταν ρωτάμε κάτι σε ένα γλωσσικό μοντέλο, όπως είναι το ChatGPT ή κάποιο άλλο παρόμοιο σύστημα, συχνά έχουμε την αίσθηση ότι απευθυνόμαστε σε μια μηχανή που «ξέρει» πράγματα. Στην πραγματικότητα όμως, τα γλωσσικά μοντέλα δεν απαντούν με τον ανθρώπινο τρόπο. Δεν έχουν συνείδηση, εμπειρία, βεβαιότητα ή προσωπική κατανόηση. Λειτουργούν προβλέποντας ποια λέξη ή φράση είναι πιθανότερο να ακολουθήσει, με βάση τα δεδομένα στα οποία έχουν εκπαιδευτεί και το πλαίσιο της ερώτησης.