Översikt

AI Knowledge är baserat på Retrieval-Augmented Generation (RAG), en avancerad AI-metod som förbättrar stora språkmodeller (LLM) genom att dynamiskt hämta information från specificerade källor i realtid. Till skillnad från vanliga AI-modeller, som enbart förlitar sig på tidigare tränad data, söker RAG dynamiskt efter relevanta dokument från utsedda kunskapsbaser innan ett svar genereras. Detta säkerställer att AI-genererade svar inte bara är kontextuellt korrekta utan också uppdaterade, vilket gör denna teknik särskilt användbar inom IT-tjänsthantering (ITSM) och företagsmiljöer där kunskap ständigt utvecklas.

Matrix42 erbjuder flexibla distributionsalternativ för AI-drivna lösningar. När man använder CAI-plattformen (Conversational AI) med lokalt hostade komponenter Natural Language Processing (NLP) och Large Language Model (LLM), som ägs och drivs helt av Matrix42 , är inga externa leverantörer involverade i något skede av databehandlingen. All data finns kvar inom kundens infrastruktur eller godkända Matrix42 hostade miljöer (t.ex. inom EU), vilket säkerställer full kontroll över infrastruktur, dataflöde och efterlevnad.

Alternativt kan kunder välja att integrera externa LLM-leverantörer, såsom Azure OpenAI Service eller OpenAI . I sådana fall överförs agentindata och kontext som krävs för att generera ett svar till den valda leverantörens infrastruktur och bearbetas i enlighet med deras regionala hosting- och dataskyddspolicyer. Obs: Vid användning av egna modeller ansvarar Matrix42 inte för kvaliteten på genererade svar.

Matrix42 GenAI kan driva AI-kunskap genom att utnyttja Retrieval-Augmented Generation (RAG). Detta gör det möjligt för supportmedarbetare att få korrekta, kontextmedvetna svar baserade på organisationens interna kunskap, såsom:

• Dokumentation av IT-tjänster.
• Kunskapsbaser.
• Företagspolicyer.
• Interna databaser (wikis, PDF-filer, Confluence och strukturerade datakällor).

Modellen säkerställer att endast auktoriserad och relevant information hämtas och delas, vilket förbättrar agenternas effektivitet och kapacitet för ärendelösning samtidigt som arbetsbelastningen för IT-supportteamen minskas.

Möjliga widgetinbäddningar:

• M42 Pro ( Agent )
• MS-team

Datakällor

AI Knowledge stöder följande datakällor:

• M42 Core / Pro och Enterprise
• SharePoint
• Samflöde
• DokuWiki
• HjälpJuice
• Webbsidor – stöder sidor där element inte genereras dynamiskt.
• Lokala filer – format som stöds: CSV, XLS/XLSX, DOCX, PDF.

Tillgängliga körtider

• M42 lokal GenAI (Finland, Tyskland)
• Ta med din egen modell ( Azure OpenAI / OpenAI )

Ytterligare funktioner

Brandvägg

Systemet har säkerhetsmekanismer för att begränsa åtkomst till obehöriga resurser och kontrollera dataflödet för att garantera säkerheten. Brandväggen kan baseras på OpenAI , Azure Open API runtime eller en lokal klassificeringsmodell.

Omrankning

En mekanism för att sortera dokument baserat på deras relevans för den givna frågan.
Urval av de bästa dokumenten för prompten baserat på relevanspoängsättning.

Fulltextsökning (FTS)

Fulltextsökning möjliggör hämtning av relevanta fragment i dokument och filer.

Systemarbetsflöde

Agenten skickar en fråga – interaktionen sker via en widget eller ett annat systemgränssnitt integrerat med ITSM.

Inbäddningsbaserad sökning – frågan kodas till en vektor och jämförs med befintliga dokument i databasen.

Rankning och omrankning – systemet sorterar resultaten baserat på relevans.

De bästa dokumenten inkluderas i prompten – utvalt innehåll används för att formulera svaret.

Svarsgenerering av GPT – modellen genererar ett svar baserat på systempromptinstruktioner och valda dokument.

Kontexthantering

Systemet stöder uppföljningsfrågor, vilket gör att agenter kan fortsätta samtalet samtidigt som de bibehåller kontextuell kontinuitet.

• Möjlighet att inaktivera kontext för oberoende svar.

Automatisk datauppdatering

Möjlighet att regelbundet hämta data på nytt, t.ex. nya KB-artiklar.
Säkerställer aktuell information genom schemalagda källuppdateringar.

Pro och integritet

Matrix42 bearbetar uteslutande de data som är nödvändiga för att generera ett relevant och korrekt svar. Detta inkluderar vanligtvis agentens inmatning (fråga) , tillämpliga kontextuella attribut från M42 Pro plattformen och relevant innehåll hämtat från organisationens kunskapsbas.

Som standard sparas konversationsavskrifter i 12 månader. Denna lagringsperiod kan anpassas baserat på klientens preferenser eller interna policyer. Ingen data som samlas in under interaktioner används för att träna AI-modeller. Matrix42 bearbetar, lagrar eller laddar inte ner några känsliga eller personuppgifter utöver vad som är absolut nödvändigt för att generera svar.

Följande datapunkter registreras i systemloggar för granskning och övervakning:

• fråga – agentens fråga.
• svar – det föregående svaret, vilket möjliggör kontinuitet i kontexten.
• sessionId – en unik identifierare för konversationssessionen.
• addressIp – agentens IP-adress (om tillgänglig).
• startTime – tidsstämpeln som markerar sessionens start.
• bearbetningstid – den tid det tar att generera svaret [s].
• rawQuestion – den ursprungliga inmatningen som skickades in av agenten.
• rawResponse – det obearbetade svaret som genereras av AI-modellen.