Ingen internet. Ingen problem.

De fleste AI-løsninger, man møder i dag, er en tynd app foran en fjern tjeneste. Man skriver noget, det bliver sendt af sted, en model svarer, og svaret kommer tilbage. Det virker upåklageligt — indtil forbindelsen forsvinder, abonnementet skifter pris, eller nogen spørger, præcis hvor data ligger henne.

Vi har valgt den anden vej. Agenterne kører på en maskine, der står i huset. Modellen ligger som en fil på disken. Dokumenterne, værktøjerne, logfilerne og beslutningerne bliver samme sted. Der går intet kald ud over netværket, fordi der ikke er noget at kalde: alt det, agenten skal bruge, har den allerede lokalt.

Hvad en cloudless agent er

En sprogmodel af den størrelse, der kan ligge på et almindeligt grafikkort eller en lille arbejdsstation — typisk mellem otte og halvfjerds milliarder parametre — kombineret med det, der gør en model til en agent: et sæt værktøjer, en arbejdsgang, en log, og nogle steder i flowet hvor et menneske skal sige god for næste skridt.

Det er den samme arkitektur som i skyen. Det er bare placeringen, der er anderledes. Et typisk setup hos en kunde fylder en maskine under skrivebordet, trækker omkring 200–400 watt under last, og kan arbejde videre, når telefonen ikke har dækning, fabrikkens net er nede, eller nogen roder med routeren i weekenden.

Hvorfor vi valgte det sådan

• Data bliver i huset. Produktionsdata, persondata og kontrakter forlader ikke adressen. Det gør databehandleraftaler kortere og samtalen med sikkerhedsansvarlige meget nemmere.
• Ingen afhængighed af tredjemand. Ingen leverandør kan hæve prisen, skifte vilkår, pensionere den model man byggede på, eller lukke for adgangen fra den ene dag til den anden.
• Forudsigelighed. Modellen ændrer sig ikke bag om ryggen på jer. Den version, der blev godkendt, er den version, der kører — også om et halvt år.
• Fast omkostning. Man køber hardware én gang i stedet for at betale per token for evigt. Ved jævn, daglig brug er det ofte den billigste vej.
• Det virker uden net. På fabrikken, i sommerhuset, i marken, på et skib, i et kælderlokale. Steder hvor en cloudtjeneste er en dårlig idé i praksis.

Hvad vi laver i dag

Vi bruger selv det, vi sælger. Vores egen drift kører på lokale modeller: agenter der læser og sorterer dokumenter, skriver referater, holder styr på opgaver, overvåger arbejdsgange og spørger om lov, når en handling er følsom.

• Udlæsning af felter fra fakturaer, følgesedler, tilbud og PDF'er — til regneark eller sagsystem.
• Mødenoter og referater, herunder tale-til-tekst på dansk.
• Triagering af mail: hvad skal besvares, hvad skal arkiveres, hvad haster.
• Samling af rapporter og status fra data, der i dag samles i hånden.
• Overvågning af en arbejdsgang med besked, når noget afviger fra det normale.
• Flere agenter, der deler arbejdet, med et synligt panel over hvad der sker lige nu — og et menneske som beslutningspunkt.

Hvad vi kan lave for jer

Vi starter ikke med en teknologi, men med en opgave. Forløbet plejer at se sådan ud:

1. Kortlægning. En til to dage hos jer eller på video. Vi finder de opgaver, der stjæler mest tid, og som egner sig til automatisering.
2. Afgrænset forsøg. To til fire uger med én opgave, jeres rigtige data og et måltal aftalt på forhånd. Ikke en demonstration — en måling.
3. Beslutningsgrundlag. En ærlig opdeling: hvad kan løses lokalt, hvad kræver stadig en cloudtjeneste, og hvad bør fortsat være manuelt arbejde.
4. Integration. Vi kobler agenten på det, I allerede bruger — økonomisystem, mail, kalender, sagsystem, regneark eller et delt drev — så data ikke tastes ind to gange.
5. Sikkerhed og drift. Adgangsrettigheder, godkendelsespunkter, log og en maskinel kontrol før ibrugtagning. Derefter overvågning, opdateringer og en fast kontakt.
6. Oplæring. De medarbejdere, der skal arbejde sammen med agenten, lærer hvad den kan, hvad den ikke kan, og hvordan man stopper den.

Hvad cloudless ikke er

Det er ikke magi, og det er ikke gratis. En lokal model er ikke den største model. Meget bred verdensviden og de sværeste sprogopgaver klarer de store cloudmodeller stadig bedre, og der findes opgaver, hvor det er den rigtige løsning at sende data af sted. Lokalt kræver hardware med nok hukommelse, og det kræver nogen, der vedligeholder den.

Vi siger det, når det er tilfældet. En agent, der kører lokalt, er ikke automatisk sikker — den er kun sikker, hvis nogen har sat grænser for, hvad den må røre, og kontrolleret at grænserne holder. Det arbejde er ikke noget, man køber sig fra med en model.

Pointen

Cloudless betyder ikke gammeldags. Det betyder, at AI'en kan være i drift uden at data forlader huset, og uden at nogen kan lukke for den med en prisstigning eller en udfaldet API. Spørgsmålet er ikke længere, om AI'en må se jeres data. Det er, om den behøver at tage dem med sig.

Vil du se det køre i stedet for at læse om det? Vi stiller gerne en maskine op hos jer og løser en rigtig opgave på den.