UND ACTION!

Tool Execution im Companion for First

 

Modernen Goldgräbern auf der Spur

Daten gelten so manchem heute als das Gold des 21. Jahrhunderts.

Person vor einem Rechner mit Sprechblase

Ganz sicher existieren in den Tiefen moderner Computersysteme mehr als genug davon. Worauf es ankommt, ist, die entscheidenden Bröckchen aufzuspüren und zum Strahlen zu bringen. Mit dem Companion for First geben wir unseren First Cloud Kunden aus der Finanzindustrie dafür ein maßgeschneidertes Werkzeug an die Hand.

Der Companion steht Ihnen als kompetenter Sparringspartner und unermüdlicher Assistent bei der täglichen Arbeit mit First Cloud zur Seite. Ohne sich mit technischen Details, komplexem IT-Know-how und einer Reihe manueller Ausführungsschritte zu belasten, ­können Sie mit dem Companion tief in Ihre Datenbestände abtauchen und die gewünschten Informationen zutage fördern.

Schritt für Schritt

In den vorangehenden drei Whitepapern haben wir die Grundlagen der KI-Technik beleuchtet und uns auf die Spuren der Nutzereingaben und Datenströme durch das Innenleben des Companions begeben.

Wir haben die sogenannte „RAG Pipeline“ als Rückgrat des gesamten Prozesses kennengelernt und die Mechanismen zur Interpretation und zum Verständnis von Nutzeranfragen ans Licht geholt. Auf Basis einer simplen Nutzeranfrage sind dabei komplexe Handlungsanleitungen mit teils Dutzenden von Zwischenschritten erwachsen. Das war die Aufgabe des Query Processings.

Im vorliegenden Whitepaper geht es darum, wie die so entstandenen Handlungsanleitungen im Rahmen der Tool Execution umgesetzt, ausgeführt und miteinander verknüpft werden, um sich Schritt für Schritt den gesuchten Antworten zu nähern. Wir verlassen damit weitgehend das Feld der Künstlichen Intelligenz, denn in dieser Stufe der RAG Pipeline werden die meisten Prozessschritte mit den Mitteln klassischer, deterministischer Informatik abgewickelt. Die hier zutage geförderten Daten verbleiben deshalb auch vollständig innerhalb des Companion for First. Nur autorisierte Nutzer bekommen sie zu Gesicht.

Zurück zum Inhaltverzeichnis

Alles in der richtigen Reihenfolge

Die im Query Processing als Antwort auf eine Nutzeranfrage erstellten Handlungsabläufe basieren auf kleinteiligen Arbeitsschritten, die jeweils mit ganz spezifischen Tools als deren „Ausführungsorgane“ verbunden sind.

Diese Tools können Depotbestände nach Kriterien durchsuchen, Umsatz- und Stückzahlen aggregieren, einen einzelnen Aktienkurs zu einem gegebenen Zeitpunkt auslesen und vieles, vieles mehr. Sie definieren damit die Fähigkeiten und den Handlungsspielraum des Companion bei der inhaltlichen Generierung von Antworten, also beim Auflisten oder Zusammenrechnen konkreter Zahlen, Tabellen und Grafiken.

1. Query Processing

 

2. Retrieval Process

 

3. LLM Processing

 

Plus in einem Kreis
4. Tool Execution

 

5. Validation & Formatting

 

6. Caching & Performance

 

Vom Tool zur Datenbank

Viele der Tools setzen ihre Aufgaben als klassische Datenbankoperationen in Form von SQL-Befehlen um. Es sind dies die Werkzeuge, die auch innerhalb der Benutzeroberfläche von First Cloud hinter den Kulissen zum Einsatz kommen, wenn Benutzer entsprechende Menübefehle aufrufen oder umfassendere Aktionen anstoßen.

Die Tools erhalten bei ihrem Aufruf einerseits Parameter, die ihre konkrete Vorgehensweise bestimmen, andererseits aber auch Filter, die den Output für die nachfolgende Verarbeitung eingrenzen. Nehmen Sie als Beispiel etwa die Suche nach den Anleihen eines gegebenen Emittenten, die bestimmte Kriterien bezüglich Laufzeit, Rating oder Konditionen erfüllen müssen. Von den gefundenen Anleihen werden stets nur jene zurückgeliefert, auf die die gegebenen Filterkriterien zutreffen.

Validierung und Protokollierung

Eine Art Querschnittsfunktion, die sich entlang der gesamten Prozesskette durch alle Stufen der RAG Pipeline zieht, ist der Aspekt der Datenvalidierung.

Es beginnt beim Query Processing mit der Fragestellung, ob sich die Nutzeranfrage tatsächlich auf den Komplex der Kapitalanlageverwaltung mit First Cloud bezieht. Bei allen anderen Themen wird der Nutzer höflich um eine Neuformulierung der Fragestellung gebeten, denn Fragen kostet zwar nichts, der Companion versteht sich jedoch nicht als „Plaudertasche“ für alle Fälle. Schuster, bleib bei deinem Leisten, lautet hier das Motto.

Technische Anbindungen der Tools

Alle Tools werden als eigenständige und in sich geschlossene Web-Services umgesetzt. Das folgt einem Leitgedanken der Cloud Technik, der die gesamte Architektur von First Cloud durchzieht.

Der große Vorteil: Für den Aufrufer ist es unerheblich, wo diese Dienste konkret ausgeführt werden, ob auf der aktuellen Maschine oder in einem entfernten Rechenzentrum. Das Ergebnis fließt unabhängig davon zu ihm zurück. Die passenden Aufrufe erfolgen über sogenannte REST-APIs und nutzen das bewährte HTTP-Protokoll, das auch für den Austausch zwischen Web-Clients und Web-Servern im World Wide Web zum Einsatz kommt.

Externe Tools in Reichweite

Die überwiegende Mehrzahl der Tools stammt direkt aus First Cloud, aber auch externe Tools werden genutzt.

Beispielsweise für die Abfrage von Echtzeitdaten und historischer Kursverläufe von Aktientiteln und anderen Wertpapieren. First Cloud bedient sich dazu des anerkannten Dienstes Alpha Vantage, der ebenfalls über ein REST-API angesprochen wird. Alternativ können jederzeit weitere vergleichbare Dienste eingebunden werden.

First Cloud Kunden werden darüber hinaus eigene Tools integrieren können und diese auch durch den Companion for First abrufbar machen. Beispielsweise um den Zugriff auf eigene Datenbanken, hausinterne IT-Systeme oder externe Systeme von Kunden oder Dienstleistern einzubeziehen.

Bausteine agentischer KI

Das Model Context Protocol (MCP) ist ein offener Standard, über den große KI Sprachmodelle (Large Language Models, LLM) sicher und standardisiert mit externen Anwendungen und Diensten kommunizieren können. Für die KI geht es darum, über ihr statisches Wissen hinauszugehen und zu einem dynamischen Agenten zu reifen, der aktuelle Informationen abrufen und passende Maßnahmen je nach Aufgabenstellung und Datenlage ergreifen kann.

Den Kern des MCP bildet ein Client-Server-Modell, bei dem ein MSC-Server als Bindeglied zwischen dem KI-Modell (als MCP-Host) und den von ihm angebotenen Diensten und Funktionen fungiert. Das KI-Modell muss nicht alle verfügbaren Funktionen der bereitgestellten MCP-Server a priori kennen, weil es die Server nach ihren individuellen Diensten und Fähigkeiten fragen und sich so dynamisch neue Möglichkeiten erschließen kann. Das ist ein zentraler Aspekt dieses Ansatzes.

Bevor sich der Vorhang hebt

Am Ende der Tool Execution liegt nach zahlreichen Verarbeitungsstufen und Datenoperationen schließlich die gewünschte Antwort auf die Anfrage des Nutzers vor.

Doch die ermittelten Resultate in Form einer zweidimensionalen Datentabelle sind nicht das, was letztendlich auf dem Bildschirm erscheint. Im letzten großen Schritt steht noch die Aufbereitung dieser Daten zu aussagekräftigen Tabellen, Grafiken und Reports an, um sie in einen passenden fachlichen Rahmen zu setzen. Erst dadurch werden aus den Rohdaten greifbare Entscheidungshilfen und Präsentationsvorlagen für die Kapitalanlageverwaltung. Und genau darum wird es im folgenden Whitepaper gehen, wenn sich alles um die Ergebnisaufbereitung im Companion for First dreht. Dann kommt auch wieder die KI ins Spiel, so viel sei an dieser Stelle schon einmal verraten.

Zurück zum Inhaltverzeichnis

„Wir ertrinken in Information, hungern aber nach Wissen.“

Rutherford D. Roger

Fragen zu KI oder RAG Pipeline? Die FAQ erklären’s einfach.

Zum FAQ

Weitere Inhalte unserer Companion-Reihe:

 

1. Whitepaper

Eine Geschichte der Künstlichen Intelligenz – von den Anfängen bis zum Companion for First

Hier lesen

2. Whitepaper

Beste aus zwei Welten: Die RAG Pipeline im Companion for First

Hier lesen

3. Whitepaper

Der Startpunkt jeder Antwort – die Frage verstehen. Query Processing im Companion for First

Hier lesen

Neugierig geworden?

Sie möchten mehr über First Cloud, den Companion for First und den Betrieb in der Fact Cloud erfahren? Dann schreiben Sie uns oder sprechen Sie direkt mit unserem Experten Aleksandar Ivezić. Er freut sich auf Ihre Anfrage:

Aleksandar Ivezić
a.ivezic@fact.de
+49 2131 777 238

    * Pflichtfelder