Når dere har bestemt at en AI-funksjon er verdt å bygge, kommer spørsmålet om hvordan det faktisk gjøres. Denne artikkelen handler om den delen.
Er dere fortsatt i vurderingsfasen, er kan en app med AI forenkle oppgaver i bedriften din et bedre utgangspunkt.
Datagrunnlaget er som regel den virkelige jobben
Folk forventer at det vanskelige er modellen. I praksis er det informasjonen deres.
Skal en assistent svare på spørsmål ut fra selskapets rutiner, må rutinene finnes i en form som kan leses maskinelt. Ligger de i PDF-er spredt på en filserver, i gamle Word-dokumenter og delvis i hodet på en erfaren kollega, må det samles og struktureres først. Dette arbeidet er ikke bortkastet uansett, men det må være med i planen, og det er ofte her mesteparten av tiden går.
Det samme gjelder kvalitet. Er halvparten av dokumentene utdaterte, vil svarene være utdaterte. Et system som svarer selvsikkert med feil informasjon, er verre enn ingen løsning.
Hvordan en assistent på egne data faktisk fungerer
Den vanligste løsningen er enklere enn de fleste tror, og det er verdt å forstå prinsippet.
Dokumentene deres deles opp i mindre biter og lagres på en måte som gjør at systemet kan finne de bitene som ligner på spørsmålet. Når en bruker spør om noe, hentes de mest relevante bitene fram, og de sendes til språkmodellen sammen med spørsmålet og en instruks om å svare kun ut fra det som står der.
Poenget med denne fremgangsmåten er at modellen ikke trenger å ha lært seg noe om bedriften deres. Den får informasjonen servert i øyeblikket. Det betyr at når dere oppdaterer et dokument, er svaret oppdatert med én gang, uten at noe må trenes på nytt.
Det betyr også at dere kan vise hvor svaret kommer fra. Det er en egenskap vi anbefaler å kreve: brukeren skal kunne klikke seg til kilden og kontrollere selv. Uten det blir systemet vanskelig å stole på, og med det blir det nyttig selv når det tar feil.
Valgene som må tas
Hvilken modell som brukes er som regel det minst viktige valget, og det er lett å bytte senere. Det som betyr mer er hvor den kjører.
Behandler løsningen personopplysninger, må dere vite hvor behandlingen skjer geografisk, og ha databehandleravtale på plass. For helse, offentlig sektor og finans er dette ofte det som avgjør hvilke leverandører som er aktuelle i det hele tatt. Det finnes tjenester som kjører innenfor EØS, og for de strengeste tilfellene finnes modeller som kan kjøre på egen infrastruktur, men det siste koster mer og krever mer drift.
Dere må også bestemme hva som skjer når systemet ikke vet. Standardoppførselen til en språkmodell er å svare uansett, og det er nesten alltid feil oppførsel i en forretningsapp. Løsningen bør si at den ikke fant svaret og sende brukeren videre til en person.
Grensesnittet avgjør om det blir brukt
En AI-funksjon som er gjemt bak en knapp ingen trykker på, gir null verdi uansett hvor godt den fungerer teknisk.
Det som virker best er å legge funksjonen der oppgaven allerede gjøres. Et bedre søk hører hjemme i søkefeltet, ikke i en egen chat. Et forslag til svar hører hjemme i tekstfeltet der svaret skrives.
Vis også tydelig at innholdet er maskingenerert, og gjør det enkelt å redigere før noe sendes. Brukere som har kontroll, tar i bruk verktøyet. Brukere som opplever at noe skjer på egen hånd, slår det av.
Test på ekte oppgaver før dere stoler på det
Sett sammen tjue til femti spørsmål dere vet det riktige svaret på, hentet fra faktiske henvendelser. Kjør dem gjennom løsningen og se hvor mange som blir riktige.
Dette høres grunnleggende ut og hoppes over overraskende ofte. Uten en slik liste har dere ingen måte å vite om en endring gjorde systemet bedre eller verre, og dere kommer til å gjøre endringer.
Gjenta testen når dere bytter modell eller endrer dataene. Det som fungerte før, fungerer ikke nødvendigvis etterpå.
Kostnaden som løper
AI-funksjonalitet skiller seg fra vanlig funksjonalitet ved at den koster penger hver gang den brukes.
Å bygge ligger typisk på 40 000 til 100 000 hos oss, og finnes som et valg i priskalkulatoren. Driftskostnaden avhenger av hvor mye tekst som sendes inn og ut, og av hvilken modell som brukes.
Regn på hva én bruker koster i måneden, og hva dere sparer eller tjener på den brukeren. Går ikke det opp nå, går det ikke opp med flere brukere. Vi har utdypet dette i hvordan påvirker AI prisen på apputvikling.
Start med én funksjon
Ikke bygg en plattform. Velg den ene oppgaven som gjentas oftest, bygg det minste som løser den, og sett det i drift hos en liten gruppe.
Da finner dere ut om premisset holder før dere har bundet opp et stort budsjett, og dere får et tall å vise til internt når dere skal utvide.
Vil du diskutere hva som er realistisk hos dere? Se hvordan vi jobber med apputvikling og webapplikasjoner, eller ta kontakt.