Enterprise Policy & Claims Assistant KI

Herausforderungen Die grösste Herausforderung war, mehrere KI-Bausteine zu einer zuverlässig nutzbaren Anwendung zu verbinden und ihre Ergebnisse verständlich darzustellen. Nachvollziehbare Antworten ermöglichen Die KI sollte ihre Antworten auf die hochgeladenen Dokumente stützen. Dafür verknüpfte ich Antworten mit konkreten Textstellen und integrierte eine Prüfung der Quellenverweise. Nutzer können dadurch nachvollziehen, woher eine Aussage stammt. Ihre fachliche Richtigkeit bleibt dennoch zu überprüfen. Dokumentensuche ohne kostenpflichtige Embedding-API umsetzen Ich stellte die Suche auf lokal berechnete Embeddings um. Diese übersetzen Texte in Zahlenwerte, mit denen das System inhaltlich passende Stellen findet. Dabei musste ich sicherstellen, dass das verwendete Modell und der gespeicherte Dokumentenindex zusammenpassen. Fehler und API-Limits abfangen Begrenzte Kontingente und fehlgeschlagene Modellantworten erschwerten die LLM-Anbindung. Ich ergänzte Groq als Anbieter, trennte die Konfiguration vom Anwendungscode und integrierte verständliche Fehlerzustände für fehlende API-Schlüssel, erreichte Limits und ungültige Antworten. Qualität überprüfbar machen Mit Ragas baute ich eine Evaluation auf, die Antworten anhand vorbereiteter Referenzfragen bewertet. Dabei musste auch ein abgebrochener Testlauf korrekt behandelt werden, damit unvollständige Ergebnisse nicht als bestandener Qualitätstest gelten. Technik und Benutzerführung zusammenbringen PDF-Uploads, Dokumentensuche und KI-Antworten mussten zwischen Frontend und Backend zusammenspielen. Dafür brauchte es verständliche Ladezustände, Fehlerbehandlung und einen reproduzierbaren Start mit Docker. Gleichzeitig musste der ML-Modellwert so dargestellt werden, dass er als Unterstützung für eine manuelle Prüfung verstanden wird. Dabei lernte ich: Eine KI-Anwendung braucht mehr als eine funktionierende Modellanbindung. Nutzer müssen Ergebnisse überprüfen, ihre Grenzen erkennen und auch bei Fehlern verstehen können, wie es weitergeht.