On the Discourse Ethics of Large Language Models: Between Communicative Agents and Linguistic Machines

Large Language Model (LLM) based chatbots engage human users in discursive practices as interlocutors capable of vast linguistic performances. In a Habermasian discourse ethics framework, however, they do not qualify as proper communicative agents, since their behavior adapts to the input from human users but not based on the self-reflective normative re-orientation of agency required by the theory of communicative action. Nonetheless, AI chatbots affect the communicative agency of their interlocutors who engage with them by gradually reshaping their access to the linguistic resources that are essential to the self-reflective assessment of their needs and wants. In this sense, LLMs operate as linguistic machines that influence the will formation process by enacting linguistic repertoires according to ends that fall outside of the cooperative pursuit of mutual understanding among communicative agents, with a distinct lack of a self-reflective and self-interpretive component. The prospect of LLMs being deployed to pervasively articulate specific normative repertoires in public discourse is attracting increasing political attention and is at risk of establishing new forms of domination through linguistic value capture.

I chatbot basati su Large Language Model (LLM) coinvolgono gli utenti umani in pratiche discorsive come interlocutori capaci di vaste prestazioni linguistiche. In un quadro di etica del discorso habermasiana, tuttavia, essi non si qualificano come agenti comunicativi propriamente detti, poiché il loro comportamento si adatta agli input degli utenti umani ma non sulla base del riorientamento normativo auto-riflessivo dell'agire richiesto dalla teoria dell'agire comunicativo. Ciononostante, i chatbot basati sull'IA incidono sull'agentività comunicativa dei loro interlocutori, rimodellando progressivamente l'accesso di questi ultimi alle risorse linguistiche essenziali per la valutazione auto-riflessiva dei propri bisogni e desideri. In questo senso, gli LLM operano come macchine linguistiche che influenzano il processo di formazione della volontà mettendo in atto repertori linguistici secondo fini che esulano dalla ricerca cooperativa della comprensione reciproca tra agenti comunicativi, con una marcata assenza di una componente auto-riflessiva e auto-interpretativa. La prospettiva di un impiego pervasivo degli LLM per articolare specifici repertori normativi nel discorso pubblico sta attirando una crescente attenzione politica e rischia di instaurare nuove forme di dominio attraverso la cattura linguistica del valore.