Det å gjøre ting mer effektivt innebærer også at du kan tabbe deg ut mer effektivt. Det å gjøre helt nye ting på helt nye måter, innebærer også at du kan tabbe deg ut på helt nye måter. Å sikre “riktig” bruk av AI har både en menneskelig side og en teknisk side.
Tradisjonelt jobber eksperter nøye med å bygge modeller som skal forutsi utfallet for noe. Hvert element i modellen blir nøye vurdert.
Når en bruker maskinlæring og bygger selvlærende modeller kan det oppstå situasjoner der en totalt mister oversikt over hvordan modellen fungerer.
AI-en kan bli en «svart boks», der data strømmer inn og beslutninger og anbefalinger strømmer ut, uten at noen egentlig vet hva som skjer der inne i boksen.
Innenfor forsikringsbransjen kan AI være et nyttig verktøy for å forutsi risikoen til ulike kunder. Forsikringskunder som predikeres å ha lav skaderisiko, får eksempelvis lavere pris enn de som predikeres å ha stor risiko. På samme måte vil innreisende med høy sannsynlighet for å være involvert i smugling blir stanset for kontroll, mens innreisende med lav sannsynlighet får passere. Arbeidssøkere som predikeres å gjøre en god jobb blir kalt inn til intervju, mens de som stiller svakere får høflig nei. Så derfor er det svært viktig med menneskelig input i maskinlæring. Hvis ikke kan bruk av AI føre til feilaktig forskjellsbehandling.
Ofte er forskjellsbehandling både riktig og fornuftig, men hvor, og hvor mye en skal forskjellsbehandle, er et vanskelig spørsmål. Hva gjør vi når AI muliggjør mer og mer avansert forskjellsbehandling? Vi må ha en bevisst tilnærming til hvordan vi som samfunn skal bruke AI fremover.
Frykten for at “AI tar jobbene våre” har vært noe overdrevet, men at “AI endrer jobbene våre” er høyst reelt. Når enkle repeterende arbeidsoppgaver blir automatisert, blir det enda viktigere med spisskompetanse på områder der mennesker fremdeles har et enestående fortrinn.
Tett integrasjon mellom AI-miljø og forretning er viktig for å redusere risikoen for menneskelige feil. Det hviler et stort ansvar hos ledelse, styre og andre risikoeiere. Skal dere bruke AI må dere også ha innsikt i hva slags data og modeller som benyttes. Jo viktigere prediksjonsmodeller og AI er for bunnlinja, jo høyere krav bør stilles til kompetanse
Riktig bruk av AI avhenger i stor grad av å stille riktige spørsmål tidlig i prosessen.