AI - en svart boks med etiske dilemma

AI spiller mennesker gode, eller?


Det en blitt en sannhet at AI vil revolusjonere måten vi jobber på. AI åpner en verden av nye muligheter, så hvordan vil dette påvirke samspillet mellom mennesker og teknologi? 

 

AI byr på noen helt sentrale utfordringer

Det å gjøre ting mer effektivt innebærer også at du kan tabbe deg ut mer effektivt. Det å gjøre helt nye ting på helt nye måter, innebærer også at du kan tabbe deg ut på helt nye måter. Å sikre “riktig” bruk av AI har både en menneskelig side og en teknisk side.

Hvem kontrollerer roboten?

Tradisjonelt jobber eksperter nøye med å bygge modeller som skal forutsi utfallet for noe. Hvert element i modellen blir nøye vurdert.

  • Er datagrunnlaget statistisk signifikant? 
  • Stemmer det med forretningsmessig erfaring? 
  • Er det lovlig og etisk forsvarlig å anvende det vi har funnet? 

 

Når en bruker maskinlæring og bygger selvlærende modeller kan det oppstå situasjoner der en totalt mister oversikt over hvordan modellen fungerer.

 

AI-en kan bli en “svart boks”, der data strømmer inn og beslutninger og anbefalinger strømmer ut, uten at noen egentlig vet hva som skjer der inne i boksen.”

Lars Erlend Leganger, Direktør og AI-ekspert i PwC.

Urettferdig forskjellsbehandling

Innenfor forsikringsbransjen kan AI være et nyttig verktøy for å forutsi risikoen til ulike kunder. Forsikringskunder som predikeres å ha lav skaderisiko, får eksempelvis lavere pris enn de som predikeres å ha stor risiko. På samme måte vil innreisende med høy sannsynlighet for å være involvert i smugling blir stanset for kontroll, mens innreisende med lav sannsynlighet får passere. Arbeidssøkere som predikeres å gjøre en god jobb blir kalt inn til intervju, mens de som stiller svakere får høflig nei. Så derfor er det svært viktig med menneskelig input i maskinlæring. Hvis ikke kan bruk av AI føre til feilaktig forskjellsbehandling.

 

Ofte er forskjellsbehandling både riktig og fornuftig, men hvor, og hvor mye en skal forskjellsbehandle, er et vanskelig spørsmål. Hva gjør vi når AI muliggjør mer og mer avansert forskjellsbehandling? Vi må ha en bevisst tilnærming til hvordan vi som samfunn skal bruke AI fremover.

Lars Erlend Leganger, Direktør og AI-ekspert i PwC.

 

Så hva er egentlig “riktig” bruk av AI?

Frykten for at “AI tar jobbene våre” har vært noe overdrevet, men at “AI endrer jobbene våre” er høyst reelt. Når enkle repeterende arbeidsoppgaver blir automatisert, blir det enda viktigere med spisskompetanse på områder der mennesker fremdeles har et enestående fortrinn.

Tett integrasjon mellom AI-miljø og forretning er viktig for å redusere risikoen for menneskelige feil. Det hviler et stort ansvar hos ledelse, styre og andre risikoeiere. Skal dere bruke AI må dere også ha innsikt i hva slags data og modeller som benyttes. Jo viktigere prediksjonsmodeller og AI er for bunnlinja, jo høyere krav bør stilles til kompetanse

 

Unngå de klassiske AI-fellene

Riktig bruk av AI avhenger i stor grad av å stille riktige spørsmål tidlig i prosessen.  

 

 

Er AI det beste verktøyet for problemet som skal løses? Ikke velg AI kun fordi AI er nytt og spennende.

Vil AI-en være tilstrekkelig robust i møte med ytre endringer og nye situasjoner? Du må kartlegge potensielle markedsendringer, ondsinnede angrep, sort-svane-hendelser, m.m.

Vil AI-en være etterprøvbar, gjennomsiktig og mulig å overvåke? Her gjelder det å sikre gode rutiner og fallback-prosesser for å gripe inn og overprøve.

Hvordan skal dere sikre god kommunikasjon med de som bygger AI-en? Det er helt kritisk at alle har samme forståelse av forretningsproblemet.

 


Samsvarer bruk av AI med selskapets verdier? Består dere VG-testen (“Hva hadde skjedd hvis dette kom på forsiden av VG?”)? 

 

Kontakt oss

Lars Erlend Leganger
Direktør, PwC Norway
Tlf: 99712762
Kontakt meg