Sì, è vero, gli LLM:
non hanno coscienza
non hanno accesso semantico al mondo
non sanno cosa dicono
Premesso però che conosco un sacco di esseri umani che ricadono comodamente nel primo e nel terzo punto, se metti degli LLM davanti a 2.000 fonti di news e chiedi di stimare bias e attendibilità, beh ci prendono.
E spesso meglio dei commentatori umani. Perché sono intelligenti? No, perché hanno letto tutto.
Tutto quello che hai scritto tu.
E tutto quello che hanno scritto quelli che la pensano come te, contro di te, meglio di te.
E da quel mare linguistico (rumoroso, contraddittorio, spesso urlato) estraggono pattern, relazioni, tono.
Funziona? A me sembra di sì.
Non è comprensione nel senso umano. Ma è una forma di semantica emergente.
Una mappa probabilistica del mondo costruita solo a partire da come ne parliamo (scriviamo).
E’ poco? E’ tanto? Non lo so. So solo che anche la mia mappa del mondo è costruita in gran parte (non unicamente, ovvio) da parole. Da discorsi. Da libri. Da film. Da ciò che mi hanno raccontato.
Quindi è vero, l’LLM finge la comprensione, ma spesso la simula meglio di chi scrive tutto in maiuscolo e si crede Popper (uno dei filosofi più stolti del Novecento, IMO).
Gli LLM non sono dei profeti, ma nemmeno dei pappagalli idioti.
Sono specchi linguistici, che non riflettono la realtà, ma riflettono come ne parliamo.
E fra poco con delle telecamerine, ci vedranno pure e, con delle gambette metalliche, cammineranno in mezzo a noi – o addosso a noi come pare sogni Altman (una botta di distopia non guasta mai).
Nota per gli informatici e gli statistici che si avventurano nel tunnel dell’ontologia
Ragionare su cosa sia la conoscenza, la verità, il significato è sacrosanto.
Ma se si afferma che “gli LLM non comprendono il mondo” intendendo anche “e quindi non possono in alcun modo avvicinarsi al senso”, allora si fa filosofia un tanto al chilo.
Un LLM non ha accesso referenziale diretto e non ha coscienza, né intenzionalità. Soprattutto non ha un inconscio (al momento, almeno per quello che ne sappiamo).
Ma ridurre tutto a un gioco combinatorio di simboli ignora ciò che emerge: una semantica latente, statistica, distribuita. Non è essere, ma è forma che tende.
Prima di parlare di ontologia magari una lettura veloce di Tommaso d’Aquino sarebbe utile.
Giusto per capire che l’essere ha più sfumature della coscienza computabile.
E ok, gli LLM non capiscono. Ma guarda come funzionano. Forse il significato non è solo nella testa, ma anche nella rete. Per capire il fenomeno sarebbe forse utile riferirsi un po’ meno a Searle e un po’ più a Peirce (il tipello in foto)
Ho provato a formulare questa asimmetria nel Principio di Maria Laura: la provenienza umana non garantisce la comprensione, quella macchinica non impedisce che il testo venga compreso da chi lo riceve.
E ok, gli LLM non “conoscono”, ma se continui a studiarli come semplici compressori di testo, rischi di diventare quello che analizza l’architettura gotica contando i mattoni.
Tecnicamente corretto. Ontologicamente miope.
