Dalarna University's logo and link to the university's website

Social services are increasingly strained by rising demand and limited resources, particularly during the critical triage phase where client needs and urgency are assessed. This research explores the potential of Large Language Models (LLMs) to assist initial client interviews by simulating realistic communication challenges found in human interactions.

A prototype dialogue system was developed using two LLM agents to simulate socialworker-client conversations. Initial findings revealed that LLM-generated client responses were overly fluent, coherent, and emotionally stable, lacking the hesitation, confusion, and emotional complexity typical in real clients. Through targeted prompt engineering, the study successfully degraded LLM performance to produce more authentic, imperfect speech patterns reflecting human vulnerability.

Evaluations through scenario-based simulations and qualitative analysis highlighted key ethical and practical considerations, including trust, transparency, bias, and the limitations of AI in replicating human empathy and contextual understanding. The research emphasizes that while LLMs cannot replace human judgment, they can augment social service workflows by supporting documentation, provided ethical safeguards and emotional authenticity are prioritized.

This work contributes to the emerging field of AI in public service by proposing systematic methods to simulate realistic client behavior and advocating for responsible AI integration that enhances, rather than substitutes, human-centered care. 

Socialtjänsten är alltmer pressad av ökande efterfrågan och begränsade resurser, särskilt under den kritiska “triage” fasen där klientens behov och brådska bedöms. Denna studie undersöker potentialen hos stora språkmodeller (LLM:er) att stödja inledande klientintervjuer genom att simulera realistiska kommunikationsutmaningar som förekommer i mänskliga interaktioner.

Ett prototyp system för dialog utvecklades med hjälp av två LLM-agenter som simulerade samtal mellan socialarbetare och klient. De initiala resultaten visade att LLM-genererade klient svar var alltför flytande, sammanhängande och emotionellt stabila – de saknade den tvekan, förvirring och känslomässiga komplexitet som är vanlig hos verkliga klienter. Genomriktad prompt teknik lyckades studien försämra LLM:ernas prestanda för att åstadkomma mer autentiska, ofullkomliga talesätt som speglar mänsklig sårbarhet.

Utvärderingar genom scenariobaserade simuleringar och kvalitativ analys lyfte fram viktiga etiska och praktiska överväganden, inklusive förtroende, transparens, partiskhet och begränsningarna hos AI i att replikera mänsklig empati och kontextuell förståelse. Forskningen betonar att även om LLM:er inte kan ersätta mänskligt omdöme, kan de stödja arbetsflöden inom socialtjänsten – till exempel i dokumentation – förutsatt att etiska skyddsåtgärder och känslomässig äkthet prioriteras.

Detta arbete bidrar till det framväxande fältet AI inom offentlig sektor genom att föreslå systematiska metoder för att simulera realistiskt klientbeteende och förespråka för ett ansvarsfullt AI-integration sätt som förstärker, snarare än ersätter, människocentrerad vård.