8. September 2025

Künstliche Intelligenz bietet eine Vielzahl von tollen Anwendungsfällen und wir sind immer wieder erstaunt, welche Fortschritte Woche für Woche erzielt werden. In Zukunft werden Benutzer mit einer allgemeinen KI kommunizieren, die zügig die richtige Antwort auf eine Frage findet und die richtigen Aktionen ausführt. Im Hintergrund finden Schlussfolgerungen (Reasoning) automatisch statt, bei Bedarf werden weitere Details recherchiert, und Agenten arbeiten mit anderen Agenten zusammen, um das gegebene Problem zu lösen.

Wir sind jedoch noch nicht an diesem Punkt – auch wenn der Fortschritt atemberaubend ist. Im Moment bedeutet das, dass Copilot oder andere KI-Anwendungen, wie Claude, immer noch per Prompting auf die richtigen Tools hingewiesen werden (müssen).

Fragen mit Unternehmenswissen beantworten

Ein wichtiger Anwendungsfall für KI ist weiterhin, dass Nutzende ihre Fragen stellen und beantwortet bekommen. Dies gelingt per Graph-Konnektoren oder mit Hilfe von RAG-Anwendungen, wie z.B. unserer RheinInsights Retrieval Suite.

Damit Copilot oder Claude das Unternehmenswissen anzapfen, muss man nicht nur die eigentliche Frage angeben, sondern auch im Prompt mit aufnehmen, das Unternehmenswissen zur Hilfe genommen werden soll:

Suche in unseren Graph-Quellen nach Antworten auf die Frage: „Wie bucht man eine Bahntrasse?“

Die Antwort wird dann mit großer Wahrscheinlichkeit mit Hilfe der konfigurierten Graphen-Quellen oder auf M365-Wissen errechnet. Es ist aber manchmal sogar sogar notwendig, dass man angibt, in welcher Quelle gesucht werden soll.

Was passiert wenn Sie nun aber den ersten Teil weglassen, insbesondere in einem neu gestarteten Chat-Dialog?

Wie bucht man eine Bahnstrecke?

Hier ist dann die Wahrscheinlichkeit hoch, dass Sie nur eine unspezifische Antwort erhalten. Diese wird dann auf öffentlich verfügbaren Artikeln aus dem Web basieren. In der Folge ist die Antwort im Arbeitskontext dann sicherlich nicht hilfreich.

Was ist die Alternative zur Eingabeaufforderung?

Für Copilot und andere KI-Tools ist es praktisch unmöglich, alle möglichen Lösungswege für eine Eingabe zu berechnen. Es gibt zeitliche Constraints, sowie auch Begrenzungen in den verfügbaren Compute-Ressourcen. Daher bleibt gutes Prompting erst einmal der Schlüssel zu richtig guten Antworten.

Aber, Prompting erfordert KI-Wissen und gibt es einen Ansatz um gute Antworten auf Fragen in bestimmten Kontexten zu erhalten? Der Ansatz sind Bot-Integrationen.

Dies ist ein traditioneller Ansatz und kommt dem Angebot einer spezialisierten Benutzeroberfläche oder einer Unternehmenssuche als separate Anwendung nahe.

Bei diesem Ansatz ist Ihr Bot direkt in Teams oder Slack integriert, und Microsoft nutzt keine Absichtserkennung. Die Absichtserkennung erfolgt direkt im Bot, Ihrem Bot. Das bedeutet, dass beispielsweise die Integration der Retrieval Suite als Bot-Anwendung sofort eine fundierte Antwort auf die Frage „Wie bucht man einen Zug?“ liefert, basierend auf Ihrem Organisationswissen.

Kurz gesagt: Wenn Sie maßgeschneiderte Anwendungen planen, wie beispielsweise eine KI-gestützte Vertragssuche oder einen Bot für IT-Wissen oder Fallbearbeitung, kann es sinnvoll sein, die Tool-Auswahl dem Nutzer zu überlassen (z. B. die Wahl des richtigen Bots in Slack oder Teams), damit dieser schneller Antworten auf seine Fragen erhält.