Olivier Steiner, Khodor Kandouli, Endrit Sadiku, Pascal Heid (2025)
Chatbots, die auf künstlicher Intelligenz beruhen (im Folgenden KI-Chatbots genannt), sollen natürliche sprachliche Interaktionen zwischen Menschen und Computern ermöglichen. Die in den letzten Jahren erzielten Fortschritte der Technologie lassen einen Einsatz in der Sozialen Arbeit als vielversprechend erscheinen. Erste Pilotversuche zum Einsatz von KI-Chatbots in Beratungssituationen zeigen vielversprechende Resultate (Steiner und Tschopp 2022). Gleichzeitig besteht allerdings wenig Wissen darüber, wie KI-Chatbots in der Sozialen Arbeit zielführend eingesetzt werden können.
Die JuAr Basel ist ein gemeinnütziger, politisch und konfessionell unabhängiger Trägerverein, der in der Stadt Basel verschiedene Dienstleistungen zur Förderung und Unterstützung junger Menschen anbietet. Darunter auch die Offene Kinder- und Jugendarbeit (OKJA), welche niedrigschwellige ausserschulische Freizeitangebote für Jugendliche zur Verfügung stellt. Erfahrungsgemäss wenden sich viele Jugendliche mit ihren Anliegen u.a. auf Social Media auch ausserhalb der Öffnungszeiten an die Einrichtungen von JuAr Basel. Diese Anliegen können aufgrund der Öffnungszeiten der Einrichtungen und der personellen Verfügbarkeit oftmals nicht zeitnah beantwortet werden. Die Anliegen der Jugendlichen können einfacher Art (bspw. Frage nach Öffnungszeiten der Einrichtung, Veranstaltungsort) oder komplexer Art sein (bspw. Schilderung eines spezifischen persönlichen Problems). Hier setzt das Projekt «Machbarkeitsstudie KI-Chatbot für die Offene Kinder- und Jugendarbeit» an.
Die Machbarkeitsstudie sollte untersuchen, ob für die JuAr Basel ein KI-Chatbot entwickelt werden kann, der im Sinne einer Questions&Answers (Q&A) Funktion Antworten auf einfache Fragen von Jugendlichen geben kann. Die zentrale Anforderung an den KI-Chatbot bestand darin, dass dieser ausschliesslich Antworten auf einfache Fragen geben (bspw. Fragen nach Öffnungszeiten der OKJA) und keine Beratungen von Jugendlichen durchführen sollte. Wenn Jugendliche Fragen zu persönlichen Problemen stellen (bspw. Sucht) soll der Chatbot Beratungsstellen oder die Kontakte der OKJA empfehlen. Der KI-Chatbot wird entsprechend im Antwortverhalten eingeschränkt und bietet keine psychosoziale Beratung oder ähnliches an. Von Beratungsleistungen des KI-Chatbots wurde abgesehen, da zum gegenwärtigen Zeitpunkt nicht garantiert werden kann, dass der Chatbot fachlich qualitativ hochstehende Beratung von Jugendlichen anbieten kann. Zudem bestehen mit der Jugendberatung (JuBe) von JuAr Basel bereits Beratungsangebote von ausgebildeten Fachpersonen für Jugendliche.
Die Anforderungen an den KI-Chatbot wurden insbesondere im Bereich Datenschutz hoch gesetzt: Die Eingaben der Jugendlichen Nutzer:innen sollten auf Servern bearbeitet werden, die in der Schweiz lokalisiert sind und dem Neuen Datenschutzgesetz (NDSG) unterstehen. Es sollten keine Daten an Dritte weitergegeben werden. Weiter sollte der Chatbot die deutsche Sprache beherrschen, das Embedding der Daten (bspw. Öffnungszeiten der OKJA etc.) einfach, idealerweise durch Fachpersonen vor Ort anpassbar sein. Aufgrund der Anforderungen an den Datenschutz wurde beschlossen, dass ausschliesslich ein Chatbot auf Basis von Open Source in Frage kommt, der unabhängig von Profitinteressen autonom auf eigenen Servern installiert werden kann.
Eine wesentliche Frage bestand darin, ob ein solcher Chatbot mit externen Daten gefüttert und im Antwortverhalten so eingeschränkt werden kann, dass dieser zielführend und den fachlichen Anforderungen der Sozialen Arbeit entsprechend in der Praxis der OKJA eingesetzt werden kann. Im Rahmen der Machbarkeitsstudie wurden die im folgenden angeführten Fragen bearbeitet.
Fragestellungen
- Welche technischen Voraussetzungen müssen gegeben sein, um einen deutschsprachigen
Open Source KI-Chatbot für Zwecke eines Q&A Systems in der Offenen Kinder- und Jugendar-
beit einsetzen zu können? - Welche Anforderungen an ein sozialarbeiterisch fachlich fundiertes und ethisches Antwort-
verhalten muss der KI-Chatbot erfüllen? Kann die gewählte Plattform diese Anforderungen
erfüllen? Welche Konfigurationen und Prüfszenarien sind dafür notwendig? - Wie ist ein Implementationsprojekt eines KI-Chatbots für die Offene Kinder- und Jugendarbeit
zielführend auszugestalten? Welche Rahmenbedingungen, Ressourcen und Kompetenzen
sind für den langfristigen Betrieb einer solchen Anwendung aufzubauen?
https://juarbasel.ch/wp-content/uploads/2025/07/Schlussbericht-Machbarkeitsstudie-KI-Chatbot-OKJA_2025-05-28.pdf (Gratis als PDF)