I limiti di #ChatGPT sono i limiti di un sistema computazionale. Linguaggio, pensiero e comprensione non c'entrano nulla. Quelli che in una prospettiva computazionale sono problemi da eliminare (rumore), nel fenomeno del linguaggio umano rappresentano le possibilità stesse di generatività di senso e significato: omonimi, omofoni, sarcasmo, espressioni idiomatiche, metafore, eccezioni grammaticali e d'uso, variazioni nella struttura delle frasi, ambivalenze... rimandano tutte sempre alla vita vissuta da un Chi incarnato ed emotivamente posizionato. La comprensione qui va al di là di aspetti cognitivi e computazionali.
Non ultimo, la prospettiva sul linguaggio che sta a fondamento della NLP è solo una delle possibili prospettive, non è LA prospettiva sul linguaggio.
Provare a forzare un sistema come ChatGPT va benissimo, purché non si presentino i risultati con improbabili e insostenibili parallelismi con i fenomeni umani di apprendimento, linguaggio e comprensione. Quello che otteniamo è solo una (utile) geografia delle possibilità e dei limiti di un sistema computazionale quando viene impiegato in ambiti che strabordano il dominio della computazione e della prospettiva razionalista.
La vita è altrove.