Slik unngår du at dårlige data kommer i veien for innovasjon

NASA skjøt i 1998 opp romfartøyet Mars Climate Orbiter som skulle undersøke klima, atmosfære og overflateendringer på Mars, men romfartøyet forsvant på mystisk vis. Feilen viste seg å være en enkel, men kritisk misforståelse i bruk av måleenheter. Et eksternt team brukte nemlig pund per sekund, mens NASAs team brukte newton per sekund. Dette resulterte i at beregnet posisjon på satellitten ble feil, og den krasjet sannsynligvis i atmosfæren eller ble slynget tilbake i rommet. I ettertid viste havariundersøkelsen at minst to navigatører hadde uttrykt bekymring om avviket, men at disse ikke hadde blitt fulgt opp.

Kræsjet kunne vært unngått med data governance 

Data governance tar tak i behovet for å vite hvor data kommer fra, hva de betyr og hvordan de skal tolkes. Data governance innebærer også prosesser og rutiner for å jobbe med strukturerte tiltak for å løpende korrigere feil i viktige data. Hadde NASA hatt kontroll på dette, ville sannsynligvis romfartøyet ikke ha kræsjet.

Dårlige data hovedårsak til at AI-prosjekter ikke lykkes

Med økende bruk av ny teknologi for å bruke data til å skape nye tjenester, blir data governance for big data en kritisk suksessfaktor. Data– og analysepulsen 2019 viser at mange plages med “big data-floken”: Vanskelig tilgang til data med god kvalitet er en av de viktigste grunnene til at kunstig intelligens-prosjekter ikke lykkes. Dette er en vanlig utfordring i virksomheter som bearbeider og kobler store datamengder fra ulike systemer. Noe forenklet kan datakvalitet forklares med i hvilken grad data som skal brukes passer til formålet.

Hva er big data?

Utfordringer med datakvalitet er ikke et nytt fenomen, og med store og varierte datasett («Big Data»), vil omfanget av utfordringene øke i minst like stor grad som datavolumet. Big data har de siste årene gått fra å være en hype til å bli en permanent komponent i virksomhetsarkitekturen hos svært mange organisasjoner.

Big data lagres i en data lake. En data lake er systemer som lagrer data uten en predefinert struktur. Eksempler på slike systemer er lagringstjenester som Apache Hadoop, Microsoft Azure Data Lake, Amazon S3 og Google Cloud Storage. En data lake lagrer som regel virksomhetens rådata, men kan også lagre de samme datasettene i bearbeidet form. 

Dårlige data oppdages ikke alltid før analysene utarbeides

Lagringen av big data i seg selv gir ingen verdi. Det er først når man klarer å analysere dataene og lage ny innsikt at verdien genereres. Analyse, modellering, datavask og strukturering foregår først når data skal brukes til et bestemt formål. Tilnærmingen med å lagre data uten at de er bearbeidet gir muligheter for å oppbevare data uten stor innsats i forkant, og uten at bruksområdet for datasettet er tydelig analysert. I etterkant kan Data Scientists analysere datasettene for å utvikle nye og verdiskapende bruksområder.

Dårlige data oppdages dermed ikke nødvendigvis før analysene skal utarbeides. Men man kan også oppdage at det man trodde var dårlige data faktisk inneholder signaler som er nyttige eller verdifulle. Når analysene utarbeides kan ulike analytikere i forskjellige prosjekter utvikle ulike måter å behandle samme datasett på til samme formål. Det er derfor nødvendig å ha verktøyer som sentraliserer håndteringen av metadata så man unngår dobbeltarbeid og overflødige datasett.

Hva er gode data, og hvordan oppstår dårlig datakvalitet? 

Et eksempel på god data er ansattes kontonummer som registreres i lønnssystemet. De færreste er registrert med feil kontonummer, både fordi det er lett å oppdage feilen når lønnsutbetalingen uteblir, men også fordi man har gode insentiver til å legge inn riktig verdi. Når man skal sammenstille data fra ulike kilder og bruke disse i analyser, er ikke nødvendigvis dataene registrert og kvalitetssikret for bruk i de ulike analysene som skal utarbeides. Et eksempel på dette er arbeidstakers postadresse. Adressen er høyst sannsynlig riktig i en periode like etter at den blir registrert, men ikke nødvendigvis senere.

Datakvalitet vurderes langs et sett dimensjoner. En vanlig inndeling av dimensjonene er:

• Kompletthet: All delene av dataene er samlet inn. Uten tilstrekkelig kompletthet, vil de andre dimensjonene ikke nødvendigvis være relevante.

• Tilgjengelighet: Data er tilgjengelig i den formen som forventes. Uten riktig format vil data ikke være gyldig eller ikke relatere seg til andre data som forventet.

• Validitet: Verdiene er innenfor de lovlige verdiene som forventes i datasettet. Uten validitet vil dataene per definisjon ikke være riktig.

• Integritet: Ulike deler av datasettet forholder seg til hverandre på måter som er forventet. Uten integritet så kan dataene ikke brukes på forutsatt måte.

• Konsistens: Data følger forventede mønstre. Uten konsistens, må det følges opp hvorfor mønsteret ikke følges. Skyldes det feil forventninger til mønsteret eller feil i dataene?

Det er hovedsaklig 3 årsaker til dårlige data: 

• Prosesser som henter inn data fra eksterne kilder.

• Prosesser som medfører avtakende kvalitet.

• Prosesser som endrer data.

Eksterne kilder

Oppkjøp og fusjoner med etterfølgende systemkonsolideringer, manuell inntasting av data, og datautveksling i grensesnitt mellom systemer er alle eksempler på manuelle eller automatiske prosesser som kan forårsake dårlig datakvalitet når man henter inn data fra eksterne kilder. 

Avtakende kvalitet

Data kan bli upresise over tid også uten at det skjer noen fysiske endringer. Dette kan skje når kompetente medarbeidere slutter, når systemer oppgraderes og når endringer som skjer i virkeligheten ikke blir registrert i dataene. Verdiene forblir altså uendret, men presisjonen går likevel ned. Dette kan for eksempel skje i dagligvarehandelen når ulike strekkoder gjenbrukes for ulike fysiske varer eller ulike distribusjonspakker. Strekkoden vil kunne være unik i en butikk eller i et avgrenset geografisk område, men ikke globalt. Når data analyseres globalt blir det vanskelig eller umulig å skille mellom unike varer. 

Endring av data

Datavaskejobber, sletting av data og berikelse av data kan forårsake dårlig datakvalitet. Men hvordan? Her er svarene mange og ulike, men en fellesnevner er menneskelig involvering. Prosessering av data utføres med verktøyer som kan ha feil i sin kode, eller feil kan introduseres i koden for prosesseringen av data. 

Et eksempel på en aktuell feilkilde for berikelse av sensordata, som strømmer hurtig inn i en data lake eller til et datavarehus, er timingproblematikk. Datastrømmer i sanntid eller nær-sanntid krever små mengder og hyppig frekvens og overføres gjerne i form av en identifikator, et tidsstempel og en verdi. Verdien er målingen fra sensoren, mens identifikatoren brukes til å slå opp informasjon om konteksten, altså om verdien er en temperatur, en hastighet eller en tilstand, og hvor målingen fysisk er gjort. Konteksten er helt nødvendig informasjon for å kunne utføre analyse av dataene. Siden datamengden som gir informasjon om konteksten er langt større enn måleverdien og mindre skiftende over tid, overføres disse dataene sjeldnere fra kildesystemet. Informasjon om konteksten må slås opp og legges til målingen i etterkant. Tidspunktet for når dette gjøres vil kunne påvirke datakvaliteten. Dess tidligere oppslaget mellom måleverdien og konteksten gjøres, dess høyere risiko for at konteksten inneholder feil. Slike feil kan oppstå som følge av midlertidig feil kontekstinformasjon i kildesystemet, tekniske feil i dataoverføringen, eller forsinkelser i dataoverføringen. Verdien av tidlig tilgang til informasjon må altså balanseres med risikoen for og konsekvensen av feil.

Hva er Data Governance og hvorfor trenger vi det?

Applikasjoner som bruker teknologier som maskinlæring og kunstig intelligens er avhengig av enorme datasett med tilstrekkelig kvalitet. Der man tidligere har klart seg med manuell håndtering av metadata og enkeltinitiativer for å korrigere datakvalitet, vil man med store og varierte datasett få store utfordringer med å skalere satsingen på digitalisering. Manglende datakvalitet adresseres ofte i form av egne arbeidsstrømmer eller egne prosjekter. Problemet med en slik tilnærming er at den gjerne er tidsavgrenset, fokusert på smale områder og mangler mandat til å adressere den strategiske styringen av virksomhetens samlede data. Data governance er nødvendig for å sikre at datakvaliteten holder seg innenfor definerte rammer, og for å håndtere data som en strategisk eiendel. 

Innenfor tradisjonelle databasesystemer er det etablert ulike rammeverk for data governance. Data governance består av en kombinasjon av mennesker, organisering og arbeidsprosesser som ved hjelp av tekniske verktøy forenkler og automatiserer prosessene som strukturerer og sikrer at virksomhetens data er tilgjengelig for bruk.

Grunnkomponentene i data governance er roller og ansvarsfordeling, prosesser og regelsett for data, hvor aktiviteter kan være å:

• Bygge en sentralisert driftsmodell, skalerbar plattform og organisasjonsmessig rammeverk for utvikling og bruk av data som kritisk eiendel.

• Etablere eierskap og ansvarsfordeling for datarelaterte beslutninger.

• Definere og implementere regler for håndtering av livssyklusen for data på virksomhetsnivå, forretningsområdenivå og forretningsprosessnivå.

• Etablere standardiserte definisjoner, regler og prosedyrer for behandling av data på tvers av virksomhetens forretningsområder.

• Opprette en data governance-organisasjon som en integrert del av virksomhetens digitaliseringsprogram.

• Utvikle standarder og regler og sikre at disse etterleves i virksomheten.

• Styring av virksomhetens dataarkitektur ved å etablere standarder for innhenting, arkivering og prosessering av data.

Historisk ble Data Governance kun for et tiår siden ansett som en ny og fremvoksende disiplin. Ifølge Dataversity er det økende forståelse for verdien av å kvalitetssikre data. 90 % av selskapene i undersøkelsen Trends in Data Governance and Data Stewardship rapporterte om at data governance har større betydning i dag enn for 10 år siden.

Innføring og vedlikehold av datakatalogen

Med store datavolum er det utfordrende å overvåke og forvalte alle datakilder. En datakatalog kan hjelpe til med dette. En datakatalog er et verktøy som katalogiserer alle data som eksisterer i virksomheten. Liksom bibliotekarens register over alle bøker i et bibliotek. Datakatalogen viser hva som finnes, hvor data ligger lagret, hvilke systemer de kom fra, hvordan de er strukturert, hvordan de har blitt prosessert og foredlet, når de sist ble endret, hvem som har brukt dataene, hvilken kvalitet de har, hvilken sikkerhetsgradering de har, hva dataene betyr, med mer. Informasjonen blir hentet automatisk inn via metadata fra verktøyene som brukes i databehandlingen.

Hvor man før måtte bruke manuelle prosesser, kan man nå bruke maskinlæring for å scanne, profilere og katalogisere nye datasett som skal inn i katalogen. Det gjør det langt enklere å forvalte store datamengder i en Data Lake uten modellering i forkant. 

Selve katalogiseringen og søkefunksjonalitet i katalogen er likevel kun ett av flere bruksområder. I tillegg vil en datakatalog kunne støtte samarbeid og kunnskapsdeling om datasett gjennom funksjoner som bygger på de samme prinsippene som sosiale medier. Opprettholdelsen av datakvaliteten kan håndheves gjennom scoring og kommentarfunksjoner i verktøyet. Dette gjør det mulig å dele data, forretningsregler og -logikk, og ikke minst finne data som ligger lagret på ulike steder. Dette gir igjen nye brukere oversikt over, og tillit til datasettene.

Flere plattformer kan gjøre arkitekturen uoversiktlig

Også fra et arkitekturperspektiv vil big data kunne skape utfordringer som påvirker evnen til å utføre data governance. Med oppstart av nye prosjekter vil virksomheter etter behov få flere plattformer som kan benyttes for analytisk bruk av data. Dess flere nye prosjekter, og dess flere applikasjoner som er avhengig av data fra de ulike plattformene: Jo større risiko for at det utvikler seg en uoversiktlig arkitektur som blir gradvis tyngre å videreutvikle over tid.

Kjennetegn på svakt styrt dataarkitektur:

• Overflødig og inkonsistent logikk

• Overflødig regelhåndtering

• Fragmentert lagring av metadata på tvers av verktøyer

• Liten eller ingen sporbarhet på hvor data behandles, av hvem de behandles, og hvor de ender opp.

Dette kan føre til redusert utviklingshastighet, økte kostnader som følge av redundant utvikling samt økt forvaltningskompleksitet.