Et godt AI-værktøj er bygget på faglig dømmekraft

Et AI-værktøj kan se færdigt ud længe før det er fagligt færdigt.

Det er en af de vigtigste forskelle at forstå, når virksomheder bygger eller køber AI-løsninger.

En flot brugerflade, et hurtigt svar og en vellykket demo siger noget om eksekveringen. De siger ikke nødvendigvis noget om kvaliteten af de valg, værktøjet træffer.

Det afgørende spørgsmål er derfor ikke kun, hvilken model eller prompt der ligger bag. Det er, hvilken faglig dømmekraft der er bygget ind i løsningen.

Hurtig eksekvering er ikke det samme som et godt produkt

Da jeg byggede den første prototype på mit eget AI-baserede website-værktøj, gik der 26 minutter fra idé til en version, jeg kunne teste. Efter omkring fem timers arbejde havde jeg noget, der kunne lanceres og skabe værdi.

Det var hurtigt. Det var også en prototype.

AI har gjort afstanden fra idé til noget synligt meget kortere.

Det er en reel fordel, fordi flere idéer kan afprøves, før der bruges store budgetter på dem.

👉 Men den korte afstand kan også narre os. Når noget ser overbevisende ud, får vi let lyst til at behandle det som færdigt.

Her skal man skelne mellem, om teknikken virker, og om løsningen træffer kvalificerede valg.

En formular kan fungere perfekt, samtidig med at analysen bag den er overfladisk. Et svar kan være velformuleret og stadig prioritere det forkerte problem.

Prompten er kun toppen af arbejdet

Mit website-værktøj blev ikke nyttigt, fordi jeg fandt en magisk formulering.

👉 Det blev nyttigt, fordi jeg tog udgangspunkt i det, jeg allerede gør, når jeg manuelt gennemgår en hjemmeside før et kundemøde.

Jeg vurderer blandt andet, om:

• En potentiel kunde hurtigt kan forstå, hvad virksomheden hjælper med
• Budskabet starter i kundens situation
• Næste skridt er tydeligt

Jeg ser også efter det, der burde være fjernet, fordi for mange budskaber kan gøre en dygtig virksomhed sværere at vælge.

De kriterier kommer ikke fra teknologien.

De kommer fra erfaring, gentagne observationer og en holdning til, hvad en hjemmeside skal kunne gøre for en forretning.

Det er derfor mere præcist at sige, at værktøjet er bygget med en faglig redaktion end med en enkelt prompt. Prompten er en del af oversættelsen. Fagligheden afgør, hvad der skal oversættes.

Dømmekraft består også af fravalg

Et kvalificeret AI-værktøj skal ikke bare vide, hvad det må foreslå. Det skal også have grænser.

• Hvilke oplysninger er nødvendige, før det kan give et svar?
• Hvornår er der for stor usikkerhed?
• Hvilke påstande kræver dokumentation?
• Hvornår skal brugeren sendes videre til et menneske?
• Og hvilke råd passer dårligt til den konkrete forretning, selv om de lyder som god standardpraksis?

Hvis ingen har taget stilling til de spørgsmål, får man ofte et værktøj, der producerer meget og tager ansvar for meget lidt.

Det kan være fristende, fordi outputtet ser effektivt ud.

Men et hurtigt forkert råd er stadig et forkert råd.

Og når svaret er formuleret sikkert og pænt, kan det være sværere at opdage.

Første version er ikke sandheden

Dagen efter lanceringen af mit værktøj havde jeg allerede en version 2.0 klar. Den byggede på tilbagemeldinger fra de første mennesker, der brugte det.

Det betyder ikke, at alle ønsker skal bygges ind.

Et værktøj bliver ikke bedre af at vokse i alle retninger. Kvalitet kræver, at nogen kan sortere i feedbacken og afgøre, om den peger på en reel fejl, et tilbagevendende behov eller blot en præference hos én bruger.

Den løbende redaktion er lige så vigtig som den første konstruktion. Virkelige brugere stiller anderledes spørgsmål end dem, man forestiller sig ved skrivebordet. De springer trin over, misforstår formuleringer og bruger værktøjet i situationer, man ikke havde forudset.

Det er ikke et argument imod AI. Det er et argument for at behandle AI-løsninger som produkter med ejerskab, test og ansvar.

Sådan vurderer du et AI-værktøj i din virksomhed

Når du overvejer en AI-løsning, er det let at starte med funktionerne. Prøv i stedet at undersøge, hvilke faglige valg der ligger bag.

• Spørg, hvilket konkret problem værktøjet er bygget til at løse, og hvem der har defineret et godt svar.
• Bed om eksempler på situationer, hvor værktøjet skal sige fra eller bede om flere oplysninger.
• Se også efter, om der er en tydelig ejer, som følger fejl og feedback efter lanceringen.

Du behøver ikke kende hele den tekniske arkitektur for at stille de spørgsmål. De handler om forretning, ansvar og kvalitet.

Hvis svarene kun handler om modelnavne, prompts og hastighed, mangler der sandsynligvis noget. Teknikken fortæller, hvordan løsningen producerer. Den fortæller ikke, hvorfor resultatet fortjener din tillid.

AI gør ikke faglighed mindre vigtig

Når produktionen bliver hurtigere, flytter værdien sig. Den ligger mindre i at fremstille det første udkast og mere i at sætte retning, forbinde viden på tværs og opdage, når noget ser rigtigt ud uden at være det.

Det er gode nyheder for virksomheder, der tør bruge deres fagfolk aktivt. Deres erfaring kan blive til kriterier, kvalitetstjek og arbejdsgange, som hjælper flere mennesker end før.

Men det kræver, at fagligheden bliver gjort tydelig. Den må ikke gemmes bag sætningen ‘sådan plejer jeg bare at gøre’. Den skal kunne beskrives, diskuteres og justeres, uden at man bilder sig ind, at alt kan reduceres til en opskrift.

Et godt AI-værktøj er derfor ikke bare en hurtigere medarbejder i en kasse. Det er et stykke faglig dømmekraft, der er gjort tilgængeligt i en ny form.

Og det er stadig et menneske, der skal vide, hvornår kassen tager fejl.

– Mette fra Marketing