Case Study: Offline Interaktion mit Förderungsangeboten in Deutschland
Schwerpunkte:
Lokales LLM
Eigene Daten
Chat Interface
Diese Case Study untersucht die Herausforderung, ein kleineres Large Language Model (LLM) zu verwenden, das mit einer Datenbank verbunden ist, die alle öffentlichen Förderungsprogramme in Deutschland enthält. Ziel war es, zu demonstrieren, dass ein solches System nicht nur mit Förderungsprogrammen, sondern auch problemlos mit firmeneigenen Daten arbeiten und im Unternehmensalltag eingesetzt werden kann.
Ergebnis
Wir haben uns entschieden dieses Projekt in einer Open Beta kostenfrei zu veröffentlichen.
Einsatzmöglichkeiten
Dieses Projekt zeigt, dass Unternehmensdaten und LLMs mit mit etwas technischem Aufwand und der passenden Hardware in kurzer Zeit vollständig lokal gehostet werden können. Im Unternehmenskontext kann dieses System in vielfältigen Bereichen zum Einsatz kommen. Beispielsweise können Kundenanfragen zu Produkten vorab automatisch beantwortet werden, sodass nur noch minimaler menschlicher Einsatz erforderlich ist. Mitarbeiter können intern schneller und einfacher auf Informationen zugreifen und Probleme eigenständig und mit weniger Fehlern lösen.
Die Einsatzmöglichkeiten sind nahezu unbegrenzt.