Understanding the Evolution of Statistical Parrots in Modern Machine Learning

Com'era quella storia dei pappagalli stocastici?

L'ultimo libro di Nello Cristianini racconta qualcosa che chi lavora con gli #LLM ogni giorno intuisce ma fatica a definire: la metafora della ricombinazione statistica è diventata stretta. Non perché sia sbagliata, ma perché non basta più a spiegare cosa succede dentro questi sistemi.

Chi si occupa di interpretabilità degli LLM ha ormai dimostrato che questi sistemi si creano rappresentazioni proprie del mondo. Per esempio, ho scoperto, leggendo il libro, che in Anthropic c'è chi si occupa di allineare la "personalità" dei modelli, coltivandola e lavorando sul profilo intenzionale di Claude.

Il punto è che ci mancano ancora le parole per descrivere quello che stiamo vedendo e toccando con mano. E lavorare nel mondo della comunicazione in questo momento storico vuol dire anche questo: accorgersi che il vocabolario con cui raccontavamo le macchine (input, output, query, risposta) non regge più il peso di quello che abbiamo davanti.