Så fungerar AI på egen server.

Hårdvaran

En server som ni äger. Dimensionerad efter antal användare och mängden dokument innan ni köper något. Exakt hårdvara beror på hur många som använder den och vilken modell ni kör.

Modellen

En modell med öppna vikter som ni väljer. Modeller vars vikter ni kan ladda ner och köra själva. I labbdemot körde en modell med öppna vikter och cirka 30 miljarder parametrar på en liten AI-dator (NVIDIA DGX Spark). Ni är inte låsta till en leverantör och kan byta modell senare.

Era dokument

Ni väljer vilka dokument assistenten får använda. Den svarar utifrån dem.

Behörighet per person. Er administratör bestämmer vem som får öppna varje dokumentbibliotek. Den som inte är medlem ser det inte, och assistenten svarar inte utifrån det. Inloggning stöder enkel inloggning (SSO) via SAML och tvåstegsverifiering.

Offline

Efter installationen kan lösningen köras helt offline, helt utan internetanslutning.

Drift

En adminkonsol som ni styr. Er administratör bestämmer vilka modeller som körs och ser systemets status direkt. En granskningslogg på er egen server registrerar händelser som inloggningar, dokumentuppladdningar, administrativa ändringar och vilka verktyg assistenterna använder. Själva frågorna loggas inte där: chattarna sparas på er server, där behöriga administratörer kan söka i dem. En inbyggd kontroll visar om systemet är nätverksisolerat. Adminkonsolen är på engelska.