Hva er fag om det ikke omhandler mer enn 0 og 1?
Jeg har engasjert meg i et tema som for meg er veldig personlig, nemlig anti-rasisme. Helt konkret handler det om å få konferansen Make Data Smart Again til å endre navn. Det begynte med en tweet og et blog innlegg for deretter å blir flere tweets / e-poster og endte med en pressemelding fra arrangøren Den Norske Dataforening (DND). Denne artikkelen er et svar på pressemeldingen om denne saken.
Vi er og var klar over at navnet kan gi assosiasjoner til et mer kontroversielt uttrykk, men vi har alltid følt at navnevalget vårt «Make Data Smart Again» var et ironisk spark mot ignoranse og intoleranse.
En litt pussig uttalelse som såvidt jeg kan bedømme sier at de visste godt hva de gjorde, men de valgte å prioritere et billig poeng fremfor å tenke på assosiasjonene navnet ga. Etter en slik uttalelse er det underlig å litt lengre ned lese.
Jeg er åpen for at det som for meg oppleves som uskyldig harselas og muligens en smule overdrevet kreativitet av andre kan oppleves støtende. Vi så ikke dette komme, men vil ta denne type reaksjonene på alvor.
Etter å ha først sagt “vi visste hva vi gjorde” så går man her rett i ansvarsfraskrivelsesmodus ved å si “kan oppleves støtende”. Målet mitt er ikke å henge ut en organisasjon som mange er medlem av, det klarer de fint selv. Det jeg vil er at norsk IT bransje har null toleranse for en hver form for lefling med rasisme. Derfor valgte jeg å ta denne kampen mot en organisasjon med betydelig makt over individer og selskaper i bransjen.
Det er utrolig trist at de takket derimot nei til muligheten til å sette etikk og anti-rasisme på agendaen i den norske IT bransjen. Vi ønsker alle å ha fokus på fag i bransjen, men det er åpenbart at vi har en ulik oppfatning av hva fag er for oss som på en eller annen måte utvikler IT systemer.
Så hva er faget om ikke dette?
Make Data Smart Again er en konferanse som blant annet handler om data og smartness. Hvis det er to fagfelt hvor faget definitivt også handler om å se utenfor sin egen sfære så er det disse to. I programmet er det såvidt jeg kan se rundt 3-4 talks som direkte omhandler dette (her kan jeg selvsagt ta feil og det er langt flere, masse kred til de som setter det på agendaen) og det er veldig bra at temaet er nevnt.
Det er nemlig ikke en konstruert problemstilling at datainnsamling og kunstig intelligens (AI) har utfordringer med tanke på etikk og forutinntatthet i data som samles inn. Det er flere eksempler på hvordan algoritmer som trenes på dårlige data i homogene miljøer slår veldig uheldig ut.
Google’s bildegjenkjenning algoritme er en av de store først kjente skandalene. Til tross for å ha blitt trent på enorme mengder bilder og med et system utviklet med noen av de smarteste hodene‚ klarte de ikke å unngå at systemet oppførte seg uheldig fordi de tenkte ikke at det gikk an.
Hvis du vil vite mer kan du lese VOX har oppsummert hvordan AI systemer kan bli rasistiske i en veldig bra artikkel som bringer opp interessante problemstillinger. Hvis du ønsker å lære mer om hvordan innsamlingen av data påvirker såkalte smarte systemer så hør på podcasten “How will AI change your life? AI Now Institute founders Kate Crawford and Meredith Whittaker explain” hvor mer kunnskapsrike mennesker forklarer viktigheten av fokus på etikk rundt innsamling av data for bruke i smarte systemer. (Her Twitter-tråden dette segmentet er basert på)
Så faget i denne sammenheng burde definitivt også romme etikk og det å se på hvordan skal vi klare å skape en fremtid hvor teknologien ikke arver eksisterende forutinntattheten.
Er det så viktig da?
Konsekvensene av manglende fokus på etikk har veldig alvorlige konsekvenser. Vi har sett Facebook være med på å gjøre mulig folkemord i Myanmar. Whats App har vært med å spre falske nyheter og vold fordi de har undervurdert konsekvensene av effekten det der har laget har på omgivelsene. Så ja, det er definitivt viktig at vår bransje tenker utover oss selv og ser på hvordan tingene vi lager påvirker verden rundt oss.
En mulighet som glapp
Jeg skulle ønske DND så dette som en anledningen til å sette etikk på dagsorden når muligheten først bød seg i form av reaksjoner på navnet. I stedet for å gå i forsvarsposisjon og fullstendig fraskrive seg alt ansvar kunne de valgt å se på dette som en gylden mulighet til å få noe viktig på agendaen. De valgte noe annet og det er kjipt for dem, alle medlemmer og frivillige.
Foreningene i DND gjør veldig mye bra jobb for mange og de frivillige legger ned timer av egen fritid på å gjøre ting i deres regi. De fortjener bedre enn dette. Slik jeg ser det er de blitt dyttet i front av dette fordi organisasjonen de hjelper syntes det var ubeleilig og ubehagelig at dette temaet kom opp.
NB! Artikkelen er blitt oppdatert med en link til åpen kilde og små endringer i introduksjonen.