Przegląd

Wiedza AI oparta jest na technologii Retrieval-Augmented Generation (RAG), zaawansowanej metodzie sztucznej inteligencji, która rozszerza duże modele językowe (LLM) poprzez dynamiczne pobieranie informacji z określonych źródeł w czasie rzeczywistym. W przeciwieństwie do standardowych modeli AI, które opierają się wyłącznie na wcześniej wytrenowanych danych, RAG dynamicznie wyszukuje odpowiednie dokumenty w wyznaczonych bazach wiedzy przed wygenerowaniem odpowiedzi. Dzięki temu odpowiedzi generowane przez AI są nie tylko trafne kontekstowo, ale także aktualne, co czyni tę technologię szczególnie użyteczną w zarządzaniu usługami informatycznymi (ITSM) i środowiskach korporacyjnych, gdzie wiedza stale ewoluuje.

Matrix42 oferuje elastyczne opcje wdrażania rozwiązań opartych na sztucznej inteligencji (AI). Korzystając z platformy CAI (Conversational AI) z lokalnie hostowanymi komponentami Natural Language Processing (NLP) i modelu dużego języka (LLM), w pełni należącymi do Matrix42 i przez nią obsługiwanymi, na żadnym etapie przetwarzania danych nie są zaangażowani zewnętrzni dostawcy. Wszystkie dane pozostają w infrastrukturze klienta lub w zatwierdzonych środowiskach hostowanych przez Matrix42 (np. w UE), co zapewnia pełną kontrolę nad infrastrukturą, przepływem danych i zgodnością z przepisami.

Klienci mogą również zdecydować się na integrację z zewnętrznymi dostawcami LLM, takimi jak Azure OpenAI Service lub OpenAI . W takich przypadkach dane wejściowe agenta i kontekst wymagany do wygenerowania odpowiedzi są przesyłane do infrastruktury wybranego dostawcy i przetwarzane zgodnie z jego regionalnymi zasadami hostingu i ochrony danych. Uwaga: W przypadku korzystania z własnych modeli, Matrix42 nie ponosi odpowiedzialności za jakość generowanych odpowiedzi.

Matrix42 GenAI może usprawnić proces AI Knowledge, wykorzystując technologię Retrieval-Augmented Generation (RAG). Dzięki temu agenci wsparcia mogą otrzymywać dokładne, kontekstowe odpowiedzi oparte na wewnętrznej wiedzy organizacji, takie jak:

• Dokumentacja usług informatycznych.
• Bazy wiedzy.
• Polityka firmy.
• Wewnętrzne repozytoria (wiki, pliki PDF, Confluence i źródła danych strukturalnych).

Model ten gwarantuje, że pobierane i udostępniane są wyłącznie autoryzowane i istotne informacje, co zwiększa wydajność pracy agentów i możliwości rozwiązywania spraw, jednocześnie zmniejszając obciążenie zespołów wsparcia IT.

Możliwe osadzenia widżetów:

• M42 Pro (widget Agent )
• Zespoły MS

Źródła danych

AI Knowledge obsługuje następujące źródła danych:

• M42 Core / Pro i Enterprise
• SharePoint
• Zbieg
• DokuWiki
• HelpJuice
• Strony internetowe – obsługuje strony, których elementy nie są generowane dynamicznie.
• Pliki lokalne – obsługiwane formaty: CSV, XLS/XLSX, DOCX, PDF.

Dostępne środowiska wykonawcze

• M42 lokalny GenAI (Finlandia, Niemcy)
• Przynieś własny model ( Azure OpenAI / OpenAI )

Dodatkowe funkcje

Zapora sieciowa

System posiada mechanizmy bezpieczeństwa ograniczające dostęp do nieautoryzowanych zasobów i kontrolujące przepływ danych, co zapewnia bezpieczeństwo. Zapora sieciowa może być oparta na OpenAI , środowisku uruchomieniowym Azure Open API lub lokalnym modelu klasyfikacji.

Ponowna klasyfikacja

Mechanizm sortowania dokumentów na podstawie ich istotności dla danego zapytania.
Wybór najlepszych dokumentów do polecenia na podstawie oceny trafności.

Wyszukiwanie pełnotekstowe (FTS)

Wyszukiwanie pełnotekstowe umożliwiające pobieranie odpowiednich fragmentów z dokumentów i plików.

Przepływ pracy systemu

Agent przesyła zapytanie – interakcja odbywa się poprzez widget lub inny interfejs systemowy zintegrowany z ITSM.

Wyszukiwanie oparte na osadzaniu – zapytanie jest kodowane w wektorze i porównywane z istniejącymi dokumentami w bazie danych.

Ranking i zmiana rankingu – system sortuje wyniki na podstawie ich trafności.

Najlepsze dokumenty są uwzględniane w pytaniu – wybrana treść służy do sformułowania odpowiedzi.

Generowanie odpowiedzi przez GPT – model generuje odpowiedź na podstawie instrukcji systemowych i wybranych dokumentów.

Obsługa kontekstu

System umożliwia zadawanie pytań uzupełniających, dzięki czemu agenci mogą kontynuować rozmowę, zachowując jednocześnie ciągłość kontekstową.

• Opcja wyłączenia kontekstu dla odpowiedzi niezależnych.

Automatyczne odświeżanie danych

Możliwość okresowego ponownego pobierania danych, np. nowych artykułów z bazy wiedzy.
Zapewnia aktualność informacji poprzez zaplanowane aktualizacje źródeł.

Pro danych i prywatność

Matrix42 przetwarza wyłącznie dane niezbędne do wygenerowania trafnej i dokładnej odpowiedzi. Zazwyczaj obejmuje to dane wprowadzone przez agenta (zapytanie) , odpowiednie atrybuty kontekstowe z platformy M42 Pro oraz istotne treści pobrane z bazy wiedzy organizacji.

Domyślnie transkrypcje rozmów są przechowywane przez okres 12 miesięcy. Okres ten można dostosować do preferencji klienta lub wewnętrznych zasad. Dane zebrane podczas interakcji nie są wykorzystywane do trenowania modeli AI. Matrix42 nie przetwarza, nie przechowuje ani nie pobiera żadnych danych wrażliwych ani osobowych poza danymi niezbędnymi do wygenerowania odpowiedzi.

Następujące dane są rejestrowane w dziennikach systemowych w celach audytu i monitorowania:

• pytanie – pytanie agenta.
• odpowiedź – poprzednia odpowiedź, umożliwiająca ciągłość kontekstu.
• sessionId – unikalny identyfikator sesji konwersacji.
• addressIp – adres IP agenta (jeśli dostępny).
• startTime – znacznik czasu oznaczający rozpoczęcie sesji.
• processingTime – czas potrzebny na wygenerowanie odpowiedzi [s].
• rawQuestion – oryginalne dane wejściowe przesłane przez agenta.
• rawResponse – nieprzetworzona odpowiedź wygenerowana przez model AI.