Überblick

AI Knowledge basiert auf Retrieval-Augmented Generation (RAG), einem fortschrittlichen KI-Ansatz, der große Sprachmodelle (LLMs) durch den dynamischen Abruf von Informationen aus festgelegten Quellen in Echtzeit erweitert. Im Gegensatz zu Standard-KI-Modellen, die ausschließlich auf zuvor trainierten Daten beruhen, sucht RAG dynamisch in definierten Wissensdatenbanken nach relevanten Dokumenten, bevor eine Antwort generiert wird. Dadurch wird sichergestellt, dass die KI-generierten Antworten nicht nur kontextuell korrekt, sondern auch aktuell sind. Dies macht die Technologie besonders nützlich im IT-Servicemanagement (ITSM) und in Unternehmensumgebungen, in denen sich Wissen ständig weiterentwickelt.

Matrix42 bietet flexible Bereitstellungsoptionen für KI-gestützte Lösungen. Bei der Nutzung der CAI-Plattform (Conversational AI) mit lokal gehosteten Komponenten für Natural Language Processing (NLP) und große Sprachmodelle (LLM), die vollständig im Besitz von Matrix42 sind und von diesem betrieben werden, sind in keiner Phase der Datenverarbeitung externe Anbieter beteiligt. Alle Daten verbleiben in der Infrastruktur des Kunden oder in genehmigten, von Matrix42 gehosteten Umgebungen (z. B. innerhalb der EU). Dies gewährleistet die volle Kontrolle über Infrastruktur, Datenfluss und Compliance.

Alternativ können Kunden externe LLM-Anbieter wie Azure OpenAI Service oder OpenAI integrieren. In diesem Fall werden die für die Generierung einer Antwort erforderlichen Agenteneingaben und Kontextinformationen an die Infrastruktur des gewählten Anbieters übermittelt und gemäß dessen regionalen Hosting- und Datenschutzrichtlinien verarbeitet. Hinweis: Bei Verwendung eigener Modelle übernimmt Matrix42 keine Verantwortung für die Qualität der generierten Antworten.

Matrix42 GenAI kann KI-Wissen durch die Nutzung von Retrieval-Augmented Generation (RAG) bereitstellen. Dies ermöglicht es Supportmitarbeitern, präzise, kontextbezogene Antworten auf Basis des internen Wissens der Organisation zu erhalten, wie zum Beispiel:

• IT-Servicedokumentation.
• Wissensdatenbanken.
• Unternehmensrichtlinien.
• Interne Repositories (Wikis, PDFs, Confluence und strukturierte Datenquellen).

Das Modell stellt sicher, dass nur autorisierte und relevante Informationen abgerufen und weitergegeben werden, wodurch die Effizienz der Agenten und die Fähigkeiten zur Falllösung verbessert und gleichzeitig die Arbeitsbelastung der IT-Supportteams reduziert wird.

Mögliche Widget-Einbettungen:

• M42 Pro ( Agent Widget)
• MS Teams

Datenquellen

AI Knowledge unterstützt die folgenden Datenquellen:

• M42 Core / Pro und Enterprise
• SharePoint
• Zusammenfluss
• DokuWiki
• HelpJuice
• Webseiten – unterstützt Seiten, bei denen Elemente nicht dynamisch generiert werden.
• Lokale Dateien – unterstützte Formate: CSV, XLS/XLSX, DOCX, PDF.

Verfügbare Laufzeiten

• M42 lokale GenAI (Finnland, Deutschland)
• Bring Your Own Model ( Azure OpenAI / OpenAI )

Zusätzliche Funktionen

Firewall

Das System verfügt über Sicherheitsmechanismen, um den Zugriff auf nicht autorisierte Ressourcen einzuschränken und den Datenfluss zu kontrollieren, um die Sicherheit zu gewährleisten. Die Firewall kann auf OpenAI , Azure Open API Laufzeitumgebung oder einem lokalen Klassifizierungsmodell basieren.

Neubewertung

Ein Mechanismus zum Sortieren von Dokumenten basierend auf ihrer Relevanz für die gegebene Suchanfrage.
Auswahl der besten Dokumente für die Aufgabenstellung auf Basis einer Relevanzbewertung.

Volltextsuche (FTS)

Volltextsuche, die das Auffinden relevanter Textfragmente in Dokumenten und Dateien ermöglicht.

System-Workflow

Der Agent sendet eine Anfrage – die Interaktion erfolgt über ein Widget oder eine andere Systemschnittstelle, die in ITSM integriert ist.

Einbettungsbasierte Suche – die Suchanfrage wird in einen Vektor kodiert und mit vorhandenen Dokumenten in der Datenbank verglichen.

Rangfolge und Neubewertung – das System sortiert die Ergebnisse nach Relevanz.

Die besten Dokumente sind in der Aufgabenstellung enthalten – der ausgewählte Inhalt wird zur Formulierung der Antwort verwendet.

Antwortgenerierung durch GPT – das Modell generiert eine Antwort auf Basis von Systemanweisungen und ausgewählten Dokumenten.

Kontextverarbeitung

Das System unterstützt Nachfragen, sodass die Agenten das Gespräch fortsetzen und gleichzeitig den Kontext beibehalten können.

• Option zum Deaktivieren des Kontextes für unabhängige Antworten.

Automatische Datenaktualisierung

Fähigkeit, Daten regelmäßig neu abzurufen, z. B. neue Wissensdatenbankartikel.
Gewährleistet durch regelmäßige Aktualisierungen der Datenquellen stets aktuelle Informationen.

Pro und Datenschutz

Matrix42 verarbeitet ausschließlich die Daten, die für die Generierung einer relevanten und präzisen Antwort erforderlich sind. Dies umfasst typischerweise die Eingabe (Anfrage) des Agenten , relevante Kontextattribute der M42 Pro Plattform sowie relevante Inhalte aus der Wissensdatenbank des Unternehmens.

Standardmäßig werden Gesprächsprotokolle 12 Monate lang gespeichert. Diese Speicherdauer kann an die Präferenzen des Kunden oder interne Richtlinien angepasst werden. Die während der Interaktionen erfassten Daten werden nicht zum Trainieren von KI-Modellen verwendet. Matrix42 verarbeitet, speichert oder lädt keine sensiblen oder personenbezogenen Daten herunter, die über das für die Generierung von Antworten unbedingt Notwendige hinausgehen.

Folgende Datenpunkte werden zu Prüfungs- und Überwachungszwecken in Systemprotokollen aufgezeichnet:

• Frage – die Frage des Agenten.
• Antwort – die vorherige Antwort, um den Kontext zu erhalten.
• sessionId – eine eindeutige Kennung für die Gesprächssitzung.
• addressIp – die IP-Adresse des Agenten (sofern verfügbar).
• startTime – der Zeitstempel, der den Beginn der Sitzung markiert.
• Verarbeitungszeit – die Zeit, die zur Generierung der Antwort benötigt wird [s].
• rawQuestion – die ursprüngliche Eingabe des Agenten.
• rawResponse – die vom KI-Modell generierte, unverarbeitete Antwort.