Lokal AI som körs på er egen server.

Ert team vill redan använda AI. Frågan är vart datan tar vägen.

När någon klistrar in ett avtal, en kunds bokföring eller en ritning i en AI-tjänst i molnet hamnar texten på leverantörens servrar. För många företag är det precis det material som inte ska lämna huset: klientakter under tystnadsplikt, patientuppgifter, ritningar som inte är släppta, leverantörsavtal.

När modellen körs på er egen hårdvara stannar frågorna, dokumenten och svaren på en maskin som ni äger, och efter installationen kan lösningen köras helt offline, helt utan internetanslutning. Ni betalar ingen avgift per fråga till en modelleverantör. Kostnaden beror på hårdvaran och supporten ni väljer, inte på hur mycket teamet frågar.

En assistent som kan era dokument, på en server som är er.

• En server som ni äger. Dimensionerad efter antal användare och mängden dokument innan ni köper något. Exakt hårdvara beror på hur många som använder den och vilken modell ni kör.

• En modell med öppna vikter som ni väljer. Modeller vars vikter ni kan ladda ner och köra själva. I labbdemot körde en modell med öppna vikter och cirka 30 miljarder parametrar på en liten AI-dator (NVIDIA DGX Spark). Ni är inte låsta till en leverantör och kan byta modell senare.

• En dokumentassistent. Den söker i era egna filer och svarar utifrån dem, så svaren bygger på ert material och inte på internet. Svar som bygger på era filer anger källdokument, avsnitt och sida, och ett klick öppnar dokumentet i biblioteket. Dokumentassistent

• En arbetsyta som känns bekant. En chatt och ett dokumentbibliotek som teamet kan använda på svenska eller engelska, med projekt för att organisera arbetet och egna assistenter för specifika uppgifter.

• En adminkonsol som ni styr. Er administratör bestämmer vilka modeller som körs och ser systemets status direkt. En granskningslogg på er egen server registrerar händelser som inloggningar, dokumentuppladdningar, administrativa ändringar och vilka verktyg assistenterna använder. Själva frågorna loggas inte där: chattarna sparas på er server, där behöriga administratörer kan söka i dem. En inbyggd kontroll visar om systemet är nätverksisolerat. Adminkonsolen är på engelska.

• Behörighet per person. Er administratör bestämmer vem som får öppna varje dokumentbibliotek. Den som inte är medlem ser det inte, och assistenten svarar inte utifrån det. Inloggning stöder enkel inloggning (SSO) via SAML och tvåstegsverifiering.

• Utrullning och löpande skötsel. Erbjuds i nivåer efter hur många som ska använda den. Vi går igenom vad som passar på ett samtal.

Börja med en pilot, inte en beställning.

1. 01

   Samtal på 15 minuter. Vilka dokument, hur många personer, vad de behöver fråga. Jag säger ärligt om lokal AI passar, eller om något enklare räcker.

2. 02

   Demo. Ni ser assistenten svara på frågor utifrån påhittade företagsdokument, samma demo som jag kör i mitt labb.

3. 03

   Pilot på era dokument. Ett avgränsat urval av era egna filer, på er hårdvara, under fyra veckor. Ni bestämmer vad som är med.

4. 04

   Beslut. Behåll och dimensionera den riktiga lösningen, eller avsluta. Lärdomarna får ni behålla oavsett.

För företag som hanterar andras uppgifter.

• Advokatbyråer: avtal, mallar och interna riktlinjer som omfattas av tystnadsplikt.

• Redovisnings- och revisionsbyråer: klienters bokföring, rutiner och intern kunskap.

• Tillverkande företag: ritningar, specifikationer och leverantörsdokument som ni inte vill ladda upp någonstans.

• Vårdgivare och kliniker: rutiner, riktlinjer och administrativa dokument. Inte för kliniska beslut.

• Leverantörer till offentlig sektor: när era avtal begränsar var data får behandlas.

Vad lokal AI löser, och vad den inte löser.

• Datan stannar hos er. Ingen extern AI-leverantör ser era frågor eller dokument.

• Ni blir inte GDPR-säkra bara av att köra lokalt. Ni behöver fortfarande rättslig grund, lagringsregler och tydliga regler för vad som får matas in. Jag sätter upp den tekniska delen; er jurist äger den juridiska.

• AI-förordningen beror på vad ni använder AI till, inte var den körs. En intern dokumentassistent är ett annat fall än AI som används vid rekrytering eller kreditbeslut.

• Den kan ha fel. Som alla AI-modeller kan den läsa fel eller svara säkert men fel. Svar som är viktiga ska kontrolleras av en människa, och lösningen ska göra det enkelt.

• Den är inte gratis. Ni betalar för hårdvara, installation och eventuell support. Ni slutar betala per fråga.

En ingenjör, från start till mål.

Austin Pontén är en säkerhets- och infrastrukturingenjör i Göteborg som bygger privata AI-system på modeller med öppna vikter, så att företag kan använda AI utan att deras data någonsin lämnar den egna hårdvaran.

Pontén Solutions är bara jag, så den du pratar med på första samtalet är den som dimensionerar hårdvaran, installerar och svarar när något behöver fixas. Tidigare har jag byggt AI-automatiseringar åt kunder, bland annat en agent för skadeanmälningar som nu är i drift. Tidigare uppdrag

Ta reda på på 15 minuter om privat AI passar er.

Berätta vad ert team behöver fråga sina dokument. Jag säger vad som skulle krävas, vilken hårdvaruklass det behöver och om en pilot är rimlig. Jag läser alla meddelanden själv.