Moralsk Integritet i Den Digitale Dimensjon

Denne oppgaven undersøker hvordan mennesker kan handle med moralsk integritet i den digitale dimensjon, der handlinger kan fortsette gjennom forbindelser den handlende verken ser, kontrollerer eller har tatt stilling til. Gjennom begrepsanalyse og normativ drøfting skiller oppgaven mellom moralsk autentisitet, moralsk integritet, verdiens praktiske gjennomslag og handlingsrommets betingelser. Moralsk integritet forstås som et oppriktig og rimelig forsøk på å la autentiske verdier veilede forståelse og handling, også når handlingen senere inngår i sammenhenger som motvirker disse verdiene.

Oppgaven undersøker betingelsene for at forsøket skal få praktisk gjennomslag. Privatliv gir rom for å undersøke uferdige tanker, mens den digitale dimensjon forstås som et menneskeskapt handlingsrom som både utvider handlekraft og organiserer påvirkning, informasjonsproduksjon og ansvar. Skillet mellom åpne og lukkede systemer og Zuboffs analyse av overvåkningskapitalisme viser hvordan denne åpenheten kan få økonomisk og styrende funksjon. Begrepet personflyt synliggjør hvordan informasjon fra, om eller knyttet til personer produseres, forbindes, fortolkes og brukes. Hovedpåstanden er at moralsk integritet ikke krever individuell kontroll over hele personflyten, men at den må være under ansvarlig kontroll før individet blir bedt om å velge, både direkte hos individet når valget er forståelig og avgrenset, og gjennom institusjonalisert tillit når forbindelsene overstiger det den enkelte med rimelighet kan overskue. Ansvar må fordeles etter muligheten til å forstå, påvirke og korrigere forbindelsene, ikke bare etter hvem som utførte den synlige handlingen.

This thesis examines how people can act with moral integrity in the digital dimension, where actions may continue through connections beyond the agent’s sight, control, or assessment. Through conceptual analysis and normative discussion, it distinguishes moral authenticity, moral integrity, the practical realisation of values, and the conditions under which action takes place. Moral integrity is understood as a sincere and reasonable attempt to let authentic values guide understanding and action, even when later contexts undermine them.

The thesis asks which conditions allow this attempt to have practical effect. Privacy provides space for examining unfinished thoughts, while the digital dimension is understood as a human-made environment that expands agency and organises influence, information production, and responsibility. The distinction between open and closed systems and Zuboff’s analysis of surveillance capitalism show how such openness can acquire economic and behaviour-shaping functions. Person-flow makes visible how information from, about, or connected to persons is produced, linked, interpreted, and used. The central claim is that moral integrity does not require individuals to control person-flow in its entirety, but that it must be responsibly controlled before they are asked to choose, both directly by individuals where choices are intelligible and bounded, and through institutionalised trust where connections exceed reasonable individual oversight. Responsibility must be distributed according to actors’ capacity to understand, influence, and correct these connections, not merely according to who performed the visible action.

Jeg sitter alene ved skrivebordet. Døren er lukket, rommet er stille, og skjermen foran meg viser bare dokumentet jeg arbeider i. Situasjonen fremstår avgrenset og oversiktlig. Jeg vet hvor jeg er, hvorfor jeg sitter her, og hva jeg forsøker å gjøre. Fingrene beveger seg over tastaturet fordi jeg vil formulere en tanke, og når jeg stanser, er det fordi setningen ennå ikke uttrykker det jeg mener. I dette øyeblikket opplever jeg meg selv som den nærmeste kilden til min egen handling, for ingen andre vet bedre enn meg hvorfor akkurat disse ordene ble skrevet, eller hva jeg forsøkte å få frem gjennom dem.

Det samme gjelder mange av de små handlingene som ellers fyller en digital hverdag. Jeg søker på internett fordi jeg vil undersøke en påstand, leser kommentarfeltet fordi jeg er nysgjerrig på andres reaksjoner, sender en melding fordi jeg vil si noe til en bestemt person, eller bruker et digitalt kart fordi jeg trenger å finne veien hjem. Hensikten kan være både enkel og oppriktig, og fra mitt eget ståsted vet jeg hva det er jeg forsøker å gjøre. Likevel stanser ikke handlingen nødvendigvis der den stanser for meg. Søket kan registreres som en interesse, tiden jeg bruker på en tekst kan fortolkes som støtte for et standpunkt, og en melding kan avsløre et mønster som aldri ble sagt i selve innholdet. Det jeg oppfatter som en avgrenset handling, møter systemet som et spor som kan forbindes med andre spor og gis funksjoner jeg aldri tok stilling til. Jeg ser handlingen innenfra, gjennom grunnen jeg hadde til å utføre den, mens systemet møter den utenfra, gjennom det den kan brukes til.

Det er derfor ikke først og fremst en hemmelighet jeg frykter å miste kontrollen over. Mye av det jeg gjør, er hverdagslig og tilsynelatende ubetydelig, men handlingene kan likevel inngå i prosesser som påvirker hva jeg selv og andre senere møter. Spørsmålet blir dermed ikke bare hvem som får vite noe om meg, men hva min egen deltakelse er med på å gjøre mulig. Så lenge hver handling betraktes isolert, er det lett å avvise problemet. Ett søk, én melding eller noen sekunders oppmerksomhet virker for lite til å bære særlig moralsk betydning. Den digitale hverdagen består imidlertid nettopp av mange slike små handlinger, som gjentas, lagres og forbindes mens jeg fortsatt møter dem én etter én. Avstanden mellom det jeg ser og det jeg deltar i, kan derfor vokse uten at det noen gang oppstår ett tydelig øyeblikk hvor noe moralsk avgjørende ser ut til å ha skjedd.

Handlingen blir samtidig i stor grad fortsatt tilskrevet meg som aktør. Det var jeg som trykket, søkte eller skrev, og den synlige handlingen viser derfor at jeg medvirket til det som fulgte. Den viser derimot ikke uten videre at jeg forstod, kontrollerte eller sluttet meg til hele prosessen handlingen ble ført inn i. At handlinger får virkninger vi ikke kan forutse, er ikke i seg selv nytt, for ingen kan ha full oversikt over den verden de handler i. Forskjellen oppstår når uvissheten ikke bare skyldes tilfeldige og fjerne konsekvenser, men forbindelser som er planlagt og bygget inn i et system. Teknologien kan være utviklet for å registrere, forbinde og fortolke handlingen, samtidig som brukeren møter hele denne prosessen gjennom et grensesnitt som får den til å fremstå som én enkel og lokalt forståelig handling.

Da blir plassering av ansvar vanskeligere. At jeg utførte den synlige handlingen, er moralsk relevant, men det kan ikke alene vise at jeg forstod eller godkjente alt handlingen senere ble en del av. Dersom avstanden mellom handlingen slik jeg kjenner den og handlingen slik den virker videre, blir stor nok, er det heller ikke sikkert at problemet først og fremst er at jeg har sviktet moralsk. Det kan være handlingsrommet som gjør et redelig moralsk forsøk, praktisk maktesløst, og som deretter fører virkningen tilbake til individet som om hele prosessen allerede lå i det synlige valget.

Oppgaven tar utgangspunkt i forholdet mellom det vi står for, det vi forsøker å gjøre, og den verden handlingen faktisk føres inn i. Jeg kan oppriktig være imot utnyttelse, manipulasjon eller urettferdig makt og likevel delta i ordninger som opprettholder nettopp dette. Avstanden trenger ikke skyldes at verdien er uærlig eller at forsøket mangler alvor, men den kan oppstå fordi situasjonen er vanskelig å forstå, fordi moralsk relevante forbindelser er skjult, eller fordi handlingen får et videre liv jeg ikke har noen rimelig mulighet til å orientere meg mot.

Jeg bruker moralsk integritet om kvaliteten ved personens forsøk på å holde autentiske verdier, forståelse og handling sammen. Integritet krever i denne betydningen verken full oversikt eller et garantert resultat, for det avgjørende er om vi oppriktig og rimelig forsøker å forstå hva verdiene krever under de betingelsene vi faktisk handler innenfor. Et slikt forsøk kan være redelig selv om handlingen senere viser seg å ha fått andre virkninger enn dem vi ønsket. Denne forståelsen gjør det samtidig nødvendig å skille mellom integriteten i selve forsøket, verdiens praktiske gjennomslag og handlingsrommets forutsetninger. Skillet lar oss holde fast ved individets ansvar uten å late som om alle aktører kan se, forstå og kontrollere det samme.

Oppgavens hovedspørsmål er som følger:

Hvordan kan mennesker handle med moralsk integritet i den digitale dimensjon når handlingene fortsetter gjennom forbindelser de ikke selv kan overskue, og hvilke betingelser må være til stede for at et redelig moralsk forsøk skal få en rimelig mulighet til praktisk gjennomslag?

For å undersøke dette utvikler jeg senere begrepet personflyt. Begrepet betegner det videre informasjonsmessige livet som oppstår når informasjon fra, om eller knyttet til personer produseres, forbindes, fortolkes og brukes. Personflyt kan begynne i våre egne handlinger, men også oppstå gjennom andres opplysninger eller gjennom inferenser systemet produserer uten ny medvirkning fra personen selv. Slike forbindelser får også betydning for det handlingsrommet vi senere skal orientere oss og handle innenfor. Hensikten med begrepet Personflyt er et forsøk på å gjøre en prosess synlig slik at den kan vurderes normativt. Når denne prosessen blir tydeligere, kan vi i større grad spørre hva som står på spill, hvem som berøres, og hvem som faktisk har mulighet til å forstå, forme eller stanse våre moralske forbindelser.

Jeg vil argumentere for at moralsk integritet ikke krever at individet selv kontrollerer hele denne prosessen. Et slikt krav ville gjort integritet til et umenneskelig ideal, ikke bare i den digitale dimensjon, men i ethvert aspekt av et moderne og komplekst samfunn. Vi må likevel kunne forstå nok av handlingsrommet til at egne verdier får en reell mulighet til å påvirke valgene våre. Skal forsøket også få rimelige betingelser for praktisk gjennomslag, må personflyten som helhet være under ansvarlig kontroll, direkte hos individet der valget er forståelig og avgrenset, og institusjonelt der forbindelsene overstiger det den enkelte med rimelighet kan overskue. Når andre aktører skaper og kontrollerer moralsk relevante forbindelser, men holder dem utenfor det vi selv evner å undersøke, kan heller ikke hele orienterings- og ansvarsbyrden legges på individet. Ansvar må fordeles etter aktørenes mulighet til å forstå, påvirke og korrigere forbindelsene. Oppgaven forsøker derfor å forskyve oppmerksomheten vekk fra personvern alene, over til et bredere spørsmål om hvordan digitale handlingsrom må organiseres dersom mennesker fortsatt skal kunne stå for handlingene sine, som moralske aktører.

Dette spørsmålet kan ikke besvares ved bare å beskrive hvordan et digitalt system fungerer, eller hvilke regler som gjelder for det. En teknisk analyse kan vise hvordan informasjon samles inn, forbindes og brukes, mens en juridisk analyse kan avklare hva som er tillatt, hvilke rettigheter brukeren har, og hvem som er pålagt formelle plikter. Begge perspektivene er nødvendige for å forstå situasjonen, men ingen av dem avgjør alene hva slags moralsk problem den utgjør. At en praksis er teknisk mulig eller rettslig tillatt, viser ikke at den gir mennesker gode nok vilkår til å handle ansvarlig, og heller ikke at ansvaret er fordelt på en måte som svarer til aktørenes faktiske kunnskap og kontroll.

Undersøkelsen er derfor først og fremst filosofisk og i dette legger jeg at den består av begrepsanalyse og normativ drøfting. Begrepsanalysen undersøker hvilket arbeid de sentrale begrepene gjør, og hvilke forutsetninger de bærer med seg. Privatliv og personvern beskriver andre sider ved situasjonen enn autentisitet og integritet, mens kontroll, ansvar og samtykke videre gjør et annet normativt arbeid. Dersom ett begrep strekkes til å romme for mye, kan vi ende med å diskutere på feil grunnlag eller utvikle løsninger som bare passer teknologien slik den ser ut akkurat nå. Et “samtykke”, som ofte gis over lav sko i den digitale dimensjon, har ellers i samfunnet en sterk moralsk betydning fordi vi forbinder det med forståelse, frivillighet og myndighet. Dersom disse forutsetningene mangler kan ordet fortsatt høres betryggende ut, samtidig som det tilslører den relasjonen vi faktisk står i til handlingen. Begrepsanalysen fungerer i denne forstanden som en slags moralsk oppklaring og spør om språket egentlig fortsatt passer til virkeligheten det hevder å beskrive.

Den normative drøftingen begynner der beskrivelsen og begrepsanalysen gjør det nødvendig å ta stilling. Moralske konklusjoner kan ikke hentes direkte ut av tekniske eller empiriske funn, men må begrunnes gjennom argumentasjon hvor premissene kan undersøkes og innvendinger tas på alvor. Tekniske, juridiske og samfunnsvitenskapelige beskrivelser setter samtidig grenser for hva det er rimelig å hevde, og de er derfor ikke utelatt fra argumentasjonen, ettersom de brukes der den filosofiske vurderingen avhenger av dem. Det normative arbeidet består i å forklare hva disse beskrivelsene betyr for hvordan forholdet mellom blant annet handling, informasjon, ansvar og handlingsrom burde forstås.

Jeg tar ikke stilling til hvilke konkrete verdier mennesker burde ha. Det betyr ikke at undersøkelsen er moralsk nøytral, men at den avgrenser seg fra den direkte vurderingen av hva som er godt, ondt, riktig eller galt. Denne avgrensningen er heller ikke metaetisk. Jeg undersøker ikke hva moralske verdier er, eller hva som gjør dem sanne eller gyldige. Fokuset i oppgaven er rettet mot vilkårene rundt menneskers forhold til de verdiene de faktisk har. Jeg forsøker ikke å avgjøre hvilken politisk overbevisning eller livsform som er den rette, men undersøker hvilke betingelser som må være til stede for at ethvert menneske skal kunne stå for verdiene sine og forsøke å la dem få betydning gjennom handling. Oppgaven vurderer dermed om handlingsrommet er slik at mennesker kan fungere som moralske aktører, uten å si på deres vegne hva disse aktørene burde mene.

Den digitale dimensjon er samtidig for omfattende til å behandles som én moralsk situasjon. En kalkulator, en lokalt lagret tekstfil, et offentlig register, en sosial plattform og en språkmodell inngår alle i det digitale, men skaper ikke av den grunn de samme problemene. Oppmerksomheten rettes særlig mot systemer hvor handlingene våre produserer informasjon som beveger seg videre, forbindes med andre opplysninger og får funksjoner utenfor bruken vi selv ser. Oppgaven hevder heller ikke at digital påvirkning automatisk gjør verdier uautentiske, eller at et moralsk liv gjennom teknologi er umulig. Ingen moral utvikles uten påvirkning, og digitale systemer kan gi adgang til fellesskap, kunnskap og selvutfoldelse som ellers ville vært utilgjengelig. Kritikken retter seg derfor ikke mot teknologien som sådan, men mot hvordan bestemte systemer organiserer påvirkning, personflyt, kontroll og ansvar.

Eksemplene hentes hovedsakelig fra en norsk og vestlig digital hverdag, fordi dette er virkeligheten jeg selv skriver fra. Oppgaven gjør ingen empirisk påstand om at alle mennesker opplever situasjonen på samme måte, og den er heller ikke en samfunnsvitenskapelig kartlegging av digitale erfaringer. Jeg behandler ikke personvernregelverket i sin helhet eller avgjør om bestemte praksiser er lovlige. Et system kan oppfylle gjeldende rettslige krav uten at ansvaret dermed er rimelig fordelt eller handlingsrommet gir gode betingelser for moralsk orientering. Konklusjonen blir av samme grunn ikke en ferdig modell for lovgivning, teknisk design eller internasjonal styring. Ambisjonen er å utvikle en forståelse av moralske begreper og krav som slike løsninger kan vurderes opp mot, også om teknologien i framtiden skulle forandre form.

I DEL ÉN begynner jeg med moralen, ikke med teknologien. Før jeg kan undersøke hvordan den digitale dimensjon utfordrer forholdet mellom verdi og handling, må jeg avklare hva jeg mener med moral, hvordan en verdi kan være vår egen, og hva det innebærer å forsøke å virkeliggjøre den. Her utvikler jeg skillet mellom moralsk autentisitet og moralsk integritet, før jeg undersøker hvilke forutsetninger moralsk orientering krever, med privatliv som en særlig viktig betingelse.

I DEL TO beskriver jeg den digitale dimensjon som handlingsrom. Gjennom beskrivelsen av Homo Faber poengterer jeg hvordan teknologien både kan fungere som en utvidelse av menneskelig handlekraft og som en menneskeskapt verden som senere virker tilbake på oss, som betingelse for nye handlinger. Skillet mellom åpne og lukkede digitale systemer brukes til å vise hvorfor teknisk kompleksitet ikke i seg selv er problemet, mens Shoshana Zuboffs analyse av overvåkningskapitalisme tydeliggjør hvordan innsamling, prediksjon og påvirkning kan bygges inn i omgivelsene vi handler gjennom. Til slutt undersøker jeg om slik påvirkning gjør verdiene våre uautentiske, samtidig som jeg viser hvordan den digitale dimensjon også kan åpne muligheter for et rikere og mer autentisk liv.

I DEL TRE prøver jeg etablerte personvernsteorier mot situasjonen som er bygget opp i de to første delene. Westin, Solove og Nissenbaum brukes til å klargjøre forholdet mellom privatliv, personvern, kontroll og informasjonsflyt, og på dette grunnlaget utvikles personflyt som et eget analyseobjekt. Derfra går teksten videre til medvirkning og ansvar, kunstig intelligens og inferens, anonymitet og samtykke. Avslutningsvis utvikler jeg et normativt utgangspunkt for kontroll som sier at all lovlig personflyt må kunne møtes fra ett forståelig sted, mens den delen av orienteringsbyrden individet ikke kan bære, må fordeles gjennom institusjonalisert tillit. Dette er ikke en ferdig teknisk eller juridisk modell, men et moralsk krav slike løsninger kan vurderes opp mot.

Jeg bruker «moral» som en samlebetegnelse for de verdiene, normene og forpliktelsene som former oppfatningen vår av hvordan vi burde handle, hva vi burde ta hensyn til, og hvordan andre mennesker burde behandles. Moralen viser seg i store spørsmål om rettferdighet, skade og menneskeverd, men også i mer hverdagslige vurderinger av hva vi skylder hverandre, hva det er verdt å bruke livet på, og hva vi ikke ønsker å bidra til. Forskjellen mellom en preferanse og en moralsk verdi ligger i den normative kraften. At jeg foretrekker én type musikk fremfor en annen, sier vanligvis lite om hvordan mennesker burde leve, men preferansen kan likevel få en moralsk side dersom den knyttes for eksempel til forbud, diskriminering eller andres frihet. Grensen er ikke alltid skarp, fordi tilsynelatende trivielle valg kan inngå i større forestillinger om hva som er rett og galt. Det moralske oppstår her når en verdi gjør krav på å få betydning for min handling.

Moralen er i denne forstanden fundamentalt praktisk rettet.¹ Når jeg hevder at noe er galt, ligger det en forventning om at vurderingen på en eller annen måte skal få betydning for hvordan jeg lever, selv om det ikke alltid er klart hva denne betydningen består i. Verdier kan kollidere, situasjoner kan være tvetydige, og mennesker kan handle i strid med det de oppriktig forsøker å stå for. Likevel vil en moralsk verdi stille et visst krav til den som holder den. Hva ville det egentlig innebære å mene at noe er galt dersom vurderingen prinsipielt ikke skulle ha noen betydning for det jeg gjør?

Moralen har dermed minst to sider. Den består av det vi verdsetter, men også av den praktiske retningen disse verdiene gir livet. Den første siden gjelder spørsmål om hva jeg mener er godt, rettferdig eller verdt å beskytte, mens den andre gjelder hvordan disse vurderingene skal få uttrykk gjennom handling. Sidene kan skilles analytisk, men ikke løsrives fullstendig fra hverandre. Uten verdier blir handlingen moralsk blind, mens verdier uten noen forbindelse til handling risikerer å bli stående som tomme erklæringer. Det betyr ikke at moralsk verdi må avgjøre hvert eneste valg, men den må i det minste kunne gjøre en forskjell når situasjonen berører det den påstår å beskytte.

I dagligtalen brukes «moralsk» ofte som en positiv vurdering. Vi kan kalle en person moralsk når vi mener at vedkommende handler godt, og umoralsk når vi mener det motsatte. Her bruker jeg derimot moral som et nøytralt begrep. Et menneske kan ha en moral uten at moralen dermed er god, og også den som står for noe de fleste vil anse som forkastelig, uttrykker et normativt standpunkt. At standpunktet tilhører vår moral, gjør det likevel ikke moralsk forsvarlig. Moralens eksistens og moralens kvalitet er her forskjellige spørsmål, og dette skillet er nødvendig fordi oppgaven ikke skal avgjøre hvilke bestemte verdier som er riktige. Jeg undersøker forholdet en person står i til verdiene vedkommende faktisk har, og hvordan disse verdiene forsøkes virkeliggjort. Uten en slik undersøkelse ville det være vanskelig å forklare hvordan noen kan stå helhjertet for noe forkastelig, forsvare en god verdi uten å forsøke å leve etter den, eller gjøre det rette av en grunn de selv ikke står for.

En persons moral trenger heller ikke utgjøre et ferdig og sammenhengende system. Vi bærer med oss verdier fra forskjellige perioder og livsområder, og noen er tydelig formulerte, mens andre først blir synlige når de utfordres. Jeg kan verdsette både frihet og trygghet uten å ha avgjort hva som burde veie tyngst når de kommer i konflikt, og slike spenninger viser ikke at jeg mangler moral. De viser at moralen kan være uferdig, delvis uavklart og mer eller mindre sammenhengende. Det er nettopp derfor forholdet til egne verdier burde undersøkes, fremfor å tas for gitt.

Jeg vil derfor heller ikke bruke «umoralsk» som en samlebetegnelse for alt som er moralsk galt. Når en person derimot hevder å stå for en verdi, men ikke gjør et rimelig forsøk på å la den få betydning for handling, så tolker jeg heller dette som umoralsk på bakgrunn av manglende moralsk integritet. «Amoralsk» kan på sin side betegne noe som faller utenfor moralsk vurdering, eller en situasjon hvor aktøren overhodet ikke forholder seg til den moralske siden av det som skjer. Med disse skillene kan jeg spørre både hva en person står for, om verdien virkelig kan tilskrives vedkommende, og hvordan den forsøkes levd ut. Før avstanden mellom verdi og handling kan vurderes, må det imidlertid avklares i hvilken forstand en verdi i det hele tatt kan sies å være vår egen.

At en verdi er min, betyr ikke nødvendigvis at jeg har skapt den helt alene. Ingen begynner sitt moralske liv uten språk, relasjoner eller forestillinger om godt og ondt. Barn reagerer på urettferdig fordeling før de kan gi en teori om rettferdighet, og lærer omsorg gjennom møtet med andre mennesker.² Lenge før vi formulerer et livssyn, er vi allerede innført i språk og fortolkningsmåter som gjør selvforståelse mulig.

Charles Taylor beskriver dette ved å skille mellom en monologisk og en dialogisk forståelse av identitet. En monologisk forståelse fremstiller det egentlige selvet som noe individet kan finne og definere på egen hånd. Mot dette hevder Taylor at vi lærer språkene vi trenger for å forstå og beskrive oss selv, gjennom samspill med andre. Menneskene som står oss nær, gir oss derfor ikke bare påvirkninger som senere kan legges bort. De er med på å forme bakgrunnen som våre ønsker, vurderinger og livsvalg blir forståelige innenfor. Identiteten er i denne forstanden dialogisk. Den utvikles i samtale med, og noen ganger i motstand mot, andres forståelse av hvem vi er.³ Dette innebærer at verdier som oppstår gjennom relasjoner og sosial påvirkning, ikke i seg selv er et tegn på at den er fremmed for oss. Dersom enhver verdi som var formet i slike relasjoner, av den grunn måtte regnes som uautentisk, ville ingen verdi fullt ut kunne sies å være vår egen.

Tenk en person som vokser opp i en familie hvor ett spesifikt politisk parti står sterkt. Foreldrene snakker om solidaritet, fagbevegelse og sosial utjevning, følger valgkampen tett og oppmuntrer tenåringen til å engasjere seg i ungdomspartiet. Senere kan det være fristende å avskrive vedkommendes moral bare som et produkt av oppveksten. Ville personen ment noe annet om de vokste opp i en annen familie? Det samme spørsmålet kan imidlertid stilles om nesten ethvert moralsk eller politisk standpunkt, fordi også den som gjør opprør mot foreldrene, formes av det de gjør opprør mot. Motstand kan slik tolkes like forutsigbar og ureflektert som videreføring. At en verdi har en historie, forteller derfor ikke i seg selv om vi virkelig står for den eller ikke.

Det avgjørende ligger heller i forholdet vi utvikler til det som har formet oss. En verdi kan først være noe vi gjentar, deretter noe vi begynner å forstå, og til slutt et standpunkt vi selv gjør gjeldende. Christmans historiske tilnærming til autonomi gir et nyttig utgangspunkt her. Spørsmålet er ikke om verdien mangler en årsakshistorie, men om vi kan forholde oss til denne historien uten at refleksjonen selv er blokkert av tvang, selvbedrag eller forhold som gjør reell motstand umulig.⁴ Moralsk autentisitet krever derfor ikke frihet fra all påvirkning, men en mulighet til å tilegne seg det påvirkningen har gitt oss. Verdien må kunne gjenkjennes, undersøkes og forsvares som vår egen, fremfor bare å virke gjennom oss.

Dette forholdet er ikke nødvendigvis synlig i handlingen. En person kan følge en streng religiøs moral fordi normene er innarbeidet og vanskelige å bryte, uten noen gang å ha tatt stilling til dem. En annen kan handle på samme måte, med samme moral, og likevel forholde seg autentisk til verdiene dersom de under oppriktig og rimelig refleksjon, kan stå inne for måten de ble dannet på. Kravet kan samtidig ikke være at alle skal kunne gi en filosofisk redegjørelse for hvert standpunkt. Moralsk autentisitet kan ikke forutsette høy utdanning eller et omfattende begrepsapparat, for noen av de viktigste verdiene våre er vanskelige å formulere presist, og vi kan ofte merke at noe er grunnleggende galt lenge før vi klarer å forklare hvorfor. En verdi som ennå mangler ord, kan fortsatt være autentisk, mens en verdi vi kan beskrive og som det i praksis ikke er mulig å stille spørsmål ved, kan derimot stå svakere.

De fleste verdier ligger stille i bakgrunnen frem til noe utfordrer dem. Et normalt liv ville vært umulig dersom hele moralen måtte undersøkes på nytt før hver handling, og autentisiteten viser seg derfor særlig når vi får en konkret grunn til å se nærmere på det vi står for. Klarer jeg å lytte til en innvending uten å avvise den på forhånd? Kan jeg erkjenne at en erfaring ikke passer med selvbildet mitt, eller forsøke å forstå hvorfor et menneske jeg respekterer oppfatter handlingen min som urettferdig? Muligheten for revisjon er her sentral, men revisjon betyr ikke at verdien alltid må forlates. En åpen undersøkelse kan føre til endring, men også til at standpunktet blir bekreftet. Verdien kan da ha blitt mer autentisk fordi jeg nå står for den på et mer bevisst og gjennomarbeidet grunnlag.

Moralsk autentisitet er med dette lagt til grunn ikke en klart definert egenskap et menneske kategorisk enten har eller ikke har. Den samme personen kan ha ett standpunkt som er gjennomtenkt og nært forbundet med erfaringer vedkommende selv har forsøkt å forstå, mens et annet som bare er en rest fra et miljø eller en tidligere livsfase. Vi vet heller ikke alltid hvilket som er hva før en konflikt gjør forskjellen synlig. Moralsk autentisitet må derfor vurderes i forhold til bestemte verdier, og dette forholdet kan både styrkes og svekkes gjennom livet.⁵

Når andre uttrykker et standpunkt vi mener er urimelig, kan det være fristende å forklare dem bort gjennom oppveksten, miljøet eller mediebruken deres, fremfor å møte meningen som en vurdering de faktisk står for. En slik forklaring kan noen ganger ha noe for seg, men den gir oss ikke tilgang til personens eget forhold til standpunktet. At jeg kan fortelle en det jeg oppfatter som en sannsynlig historie om hvordan noen andres mening oppstod, betyr ikke at jeg eller noen andre vet om den bare gjentas, om den er blitt undersøkt, eller om personen fortsatt ville stått for den etter grundig refleksjon. Myndige mennesker burde derfor som utgangspunkt møtes som personer som faktisk står for vurderingene de uttrykker. Dette er en del av respekten for dem som moralske og demokratiske aktører, også når vi mener argumentene er svake.⁶ Dersom vi straks avskriver standpunktet som uautentisk, slutter vi å møte andre som deltaker i en felles samtale og begynner i stedet å forklare vedkommende som et resultat av krefter vi bare kan anta at virker gjennom dem.

Vårt moralske utgangspunktet er likevel ikke nødvendigvis det samme. Tvang, systematisk indoktrinering, manipulasjon eller en manglende mulighet til å undersøke og endre standpunktet kan gi grunn til å tvile på om en person virkelig står for det de sier. Spørsmålet er ikke her bare om påvirkning har funnet sted, men hva påvirkningen gjør med vårt forhold til verdien.⁷ Den kan gi språk, erfaringer og argumenter som gjør standpunktet tydeligere, men den kan også gjøre det farlig eller nærmest umulig å ta avstand. Det avgjørende er derfor om vi har en reell mulighet til å oppdage, vurdere og svare på det påvirkningen har ført til.

En autentisk moral er slik sett en moral vi i rimelig grad kan gjenkjenne, undersøke og stå ansvarlig for som vår egen. Denne beskrivelsen sier ennå ikke hvordan verdiene burde virkeliggjøres i praksis, fordi jeg kan være helt oppriktig i det jeg står for og likevel handle på en måte som motarbeider mine verdier. Det er i denne avstanden mellom den autentiske verdien og dens praktiske realisering at spørsmålet om moralsk integritet oppstår.

Jeg kan oppriktig mene at arbeidere burde ha anstendige vilkår, at dyr burde skånes for unødvendig lidelse, og at mennesker burde behandles med respekt, men likevel handle på måter som motarbeider disse verdiene. Avstanden mellom verdier og handlinger kan også oppstå uten at vi av den grunn er hyklerske. Situasjonen kan være vanskelig å forstå, ulike verdier kan komme i konflikt, eller handlingen kan inngå i sammenhenger vi ikke har oversikt over. Moralsk integritet handler overordnet om hvordan vi forholder oss til denne avstanden.

Begrepet brukes ellers ofte om en form for sammenheng, nemlig at noe henger sammen, tåler belastning og ikke faller fra hverandre når det utsettes for press. Lynne McFall peker på at denne sammenhengen gjelder forholdet mellom prinsipp, motivasjon og handling. Hun skiller blant annet mellom den som bryter en forpliktelse og erkjenner bruddet, og den som omskriver forpliktelsen i ettertid for å få handlingen til å fremstå som konsekvent. På samme måte kan en person handle i samsvar med et prinsipp uten å handle ut fra det. Integritet kan med dette forstås som sammenhengen mellom det vi står for, grunnene vi handler ut fra, og det vi faktisk gjør når forpliktelsen møter press.⁸

Overført til moralen kan integritet brukes om sammenhengen mellom det vi står for og det vi forsøker å gjøre. Denne sammenhengen betyr likevel ikke et perfekt samsvar mellom verdi og resultat. Et menneske kan handle med gode grunner og mislykkes, eller oppnå et godt resultat ved flaks.⁹ For integritetsbegrepet betyr dette at resultatet kan ha moralsk betydning uten å avgjøre hvordan personen forholdt seg til sine verdier i handlingen. Jeg forstår derimot vår moralsk integritet som skilt fra denne vurderingen, og mer som et oppriktig forsøk på å virkeliggjøre autentiske verdier med grunnlag i en rimelig forståelse av situasjonen.

Denne forståelsen rommer tre forhold som må holdes fra hverandre. Det første er integriteten i forsøket, altså om vi oppriktig og rimelig prøver å forbinde verdi, forståelse og handling. Det andre er verdiens praktiske gjennomslag, her om handlingen faktisk virker i tråd med verdien ute i verden. Det tredje er handlingsrommets forutsetninger, altså om de moralsk relevante forbindelsene er tilstrekkelig orienterbare til at forsøket får en reell mulighet til å virke slik vi vil. I evalueringen av vår personlige moral, betegner moralsk integritet det første forholdet. De to andre kan hjelpe med å forklare hvorfor et redelig forsøk likevel mislykkes, uten at skillet dermed fritar oss fra ansvar for det vi faktisk kunne forstå og påvirke.

Forsøket vårt stiller videre to krav. Vi må faktisk ville la verdien få betydning, og vi må forsøke å forstå hva den krever i den konkrete situasjonen. Det første kaller jeg moralsk intensjon, det andre moralsk orientering. Intensjonen gir handlingen retning, mens orienteringen gjelder veien dit. Uten intensjon blir undersøkelsen løsrevet fra en forpliktelse, og uten orientering kan en god intensjon føre til det den forsøker å motvirke. Begge kravene er derfor gjensidig nødvendige, men de kan svikte på forskjellige måter.

Moralsk intensjon viser seg i om verdien faktisk får påvirke valgene våre. Det er lett å si at rettferdighet er viktig så lenge ingenting står på spill, men forbindelsen blir først synlig når verdien gjør et bekvemt valg vanskeligere, setter en grense for hva vi er villige til å gjøre, eller skaper tvil når egen gevinst trekker i motsatt retning. Verdien trenger ikke avgjøre enhver handling, men den må kunne koste noe. Dersom bekvemmelighet, status eller sosialt press alltid vinner, er forbindelsen mellom verdien og handlingen svak, selv om tilslutningen oppleves som oppriktig. Integritet krever med andre ord ikke heroisk selvoppofrelse i enhver situasjon, men den forutsetter at verdien noen ganger kan være mer enn en fordelaktig beskrivelse av hvem vi liker å tro at vi er.

At en verdi får betydning, innebærer samtidig ikke at den alltid skal seire. Vi kan stå i en reell konflikt mellom lojalitet og sannferdighet, eller mellom frihet og trygghet, hvor ingen handling ivaretar alt vi har grunn til å bry oss om. Bernard Williams gir her et nyttig poeng hvor han beskriver moralske konflikter som situasjoner der to hensyn fortsatt kan gjøre krav på oss, selv om handlingen bare kan følge det ene. Hensynet som må vike, kan bli stående som en grunn til anger eller til å forsøke å gjøre noe godt igjen. Valget avgjør hva vi gjør, mens den andre verdien fortsatt kan ha betydning for hvordan vi forstår det som gikk tapt.¹⁰ Integritet krever da at konflikten tas på alvor. Hva står på spill, hva må ofres, og hvorfor burde ett hensyn veie tyngre akkurat her? Et valg kan bryte med én autentisk verdi og likevel være redelig begrunnet i en annen. Sammenheng betyr derfor ikke et liv uten moralske tap, men at tapet er bevisst og verken skjules eller omskrives som om det aldri fantes.

Moralsk integritet kan også kreve at en praksis endres. Jeg kan handle på samme måte år etter år, selv etter at nye erfaringer viser at praksisen motarbeider verdien den skulle uttrykke. Atferden er stabil, men forbindelsen til verdien er svekket. En endring kan da være det mest moralsk sammenhengende jeg gjør. Dersom jeg oppdager at en vane påfører andre en skade jeg ikke hadde forstått, kan integriteten kreve at praksisen endres, selv om det gjør livet mindre komfortabelt eller tvinger meg til å innrømme at jeg tidligere tok feil. Det som holdes fast, er altså ikke nødvendigvis handlingen, men verdiens rett til å korrigere den.

Her blir moralsk orientering avgjørende, fordi en verdi sjelden kommer med en ferdig instruks for alle situasjoner den kan anvendes på. Å mene at vi burde hjelpe andre, sier ikke alene hva hjelpen burde bestå i, og motstand mot utnyttelse avgjør heller ikke uten videre hvilke varer jeg kan kjøpe i butikken eller hvilke tjenester jeg kan bruke på nett. Aristoteles gir oss her et nyttig utgangspunkt med sin forståelse av praktisk klokskap. Han legger vekt på at handling alltid finner sted i en konkret situasjon og at en god vurdering krever derfor både en forståelse av det generelle hensynet og en evne til å se hvilke forhold som er relevante akkurat her. Erfaring får betydning fordi den gjør oss bedre i stand til å kjenne igjen slike forhold.¹¹ Jeg må derfor forsøke å forstå den verden verdien skal virkeliggjøres i, rette oppmerksomheten mot opplysninger som faktisk kan endre vurderingen, og samtidig erkjenne grensene for det jeg vet.

På bordet ligger en helt vanlig kniv. Jeg kjøpte den for å bruke på tur, men vet ikke hvem som laget den, hvor råvarene kom fra, eller hvordan menneskene i produksjonen ble behandlet. Dersom jeg samtidig mener at mennesker ikke burde utnyttes, oppstår en mulig avstand mellom verdien og kjøpet. Verdien får betydning for orienteringen når jeg spør om og hvordan kjøpet kan bidra til det jeg tar avstand fra. Likevel kan ikke integritet uten videre kreve at jeg personlig følger kniven gjennom hvert ledd helt tilbake til råvarene. Det rimelige spørsmålet er mer konkret. Fantes det tegn som burde vekket mistanke, hadde jeg reelle alternativer, og var det mulig å finne et pålitelig svar uten at undersøkelsen ble urimelig omfattende? Moralsk orientering begynner nettopp der verdien møter en verden som ikke allerede er forklart.

Forskjellen mellom intensjon og orientering blir tydeligere i et mer alvorlig eksempel. Tenk et barn som finner en bevisstløs person ved siden av en boks med piller. Barnet har sett at syke mennesker får medisin, ønsker oppriktig å hjelpe og gir derfor personen flere piller, slik at handlingen fører til en overdose. Intensjonen er klar, men vurderingen kan ikke stanse der. Vi må spørre hva barnet kunne forstå. Visste det at medisiner kan være farlige, kunne det lese advarselen, fantes det en telefon eller en voksen i nærheten, og hvor presset var situasjonen? Alder og situasjonens krav er ikke detaljer ved siden av moralen, men de former hva et rimelig forsøk kunne bestå i. Den samme handlingen ville blitt vurdert annerledes dersom den ble utført av en lege eller en voksen som bevisst overså en tydelig advarsel. Resultatet kunne være identisk, men forholdet til uvitenheten ville være forskjellig. Vurderingen må derfor omfatte hvilke muligheter aktøren hadde til å forstå situasjonen, og hva det var rimelig å forvente at vedkommende gjorde for å unngå uvitenheten.¹²

Dette hindrer oss samtidig i å gjøre moralsk flaks til målestokk. En dårlig begrunnet handling kan ende godt fordi faren tilfeldigvis ikke inntraff, og det gode utfallet gjør ikke da orienteringen redelig.¹³ På samme måte kan en grundig og ansvarlig vurdering ende dårlig fordi verden var annerledes enn personen med rimelighet kunne vite. Resultatet kan gi grunn til sorg, reparasjon og ny undersøkelse, men det beviser ikke i seg selv at forsøket manglet integritet da handlingen ble utført. Skillet er viktig fordi vi ellers risikerer å belønne den hensynsløse som hadde flaks, og fordømme den samvittighetsfulle utelukkende fordi utfallet ble dårlig.

Gode intensjoner gir dermed den moralske retningen, men må følges av et reelt forsøk på å forstå. To mennesker kan mangle den samme kunnskapen, mens uvitenheten deres har ulik moralsk karakter. Den ene kan ha søkt informasjon, lyttet til advarsler og handlet på det beste grunnlaget som var tilgjengelig, mens den andre kan ha unngått spørsmålet fordi svaret ville gjort et behagelig valg vanskeligere å forsvare. Begge vet for lite, men bare den ene forholder seg redelig til begrensningen. Hvor mye som må undersøkes, avhenger av hvor mye informasjon som allerede er tilgjengelig, hva en videre undersøkelse kan avklare, og hvor mye som står på spill i handlingen.¹⁴ Kravet øker når den mulige skaden er alvorlig, faresignalene tydelige og informasjonen lett tilgjengelig. Det samme gjelder når aktøren har særlig kompetanse, makt eller kontroll. En vanlig forbruker av et produkt og den som står ansvarlig for produksjonen er ikke i den samme moralske posisjon, selv om begge inngår i handlingens årsakskjede.

Et rimelig krav til undersøkelse tar samtidig hensyn til at noen opplysninger er utilgjengelige, og at en videre undersøkelse kan kreve mer tid og ressurser enn situasjonen med rimelighet kan bære. Uvitenheten blir klanderverdig når vi kunne og burde ha skaffet den relevante kunnskapen, ikke bare fordi mer kunnskap i teorien fantes et sted.¹⁵ Moralsk orientering må derfor vurderes ut fra hva vi faktisk hadde mulighet og grunn til å undersøke. Et ideal om fullstendig oversikt gjør moralen strengere på en meningsfull måte, men som et krav ville gjøre integritet umulig for mennesker som nettopp må handle under begrensede betingelser.

Her blir skillet i definisjonen avgjørende. Vi kan først spørre om forsøket på å forbinde verdi, forståelse og handling var oppriktig og rimelig, og deretter om verdien faktisk fikk praktisk gjennomslag. Svarene kan være forskjellige. Jeg kan gjøre alt det er rimelig å forvente og likevel handle gjennom et system som fører handlingen inn i skjulte forbindelser, slik at virkningen til og med motarbeider verdien. Den opprinnelige handlingen kan da ha vært redelig ut fra det som var mulig å vite. Når forbindelsene senere blir synlige, oppstår et nytt tidspunkt hvor jeg må forholde meg til dem. Noen ganger krever det videre undersøkelse eller endring, mens andre ganger kan en åpen vurdering gi grunn til å fortsette som før. Når dette skjer tilfeldig, møter vi den vanlige begrensningen i menneskelig handling. Når det skjer systematisk fordi handlingsrommet holder relevante forbindelser utenfor rekkevidde, oppstår et annet problem. Vi kan da opptre redelig innenfor våre forutsetninger, mens verdienes praktiske gjennomslag stadig svekkes. Det er da handlingsrommet som svikter moralske aktører da det skjuler det de trenger tilgjengelig for å forstå og handle etter egne verdier.

En undersøkelse kan samtidig brukes til å beskytte et standpunkt fremfor å prøve det. Jeg kan lete etter den ene kilden som bekrefter det jeg allerede mener, fremstille et ubehagelig motargument svakere enn det er, eller stanse idet jeg har nok til å berolige meg selv. Forskningen på bekreftelsesbias viser hvor lett vi søker og tolker informasjon på måter som støtter det vi allerede tror, mens materiale som taler imot, får mindre oppmerksomhet.¹⁶ En moralsk søken må derfor gi det ubehagelige materialet en reell sjanse, uten at alle innvendinger av den grunn skal behandles som like gode. Dømmekraften består altså her i å kunne skille det relevante fra det avsporende, og det pålitelige fra det tvilsomme. Undersøkelsen kan slik være grundig nok til at konklusjonen kan forsvares, men samtidig tilpasset situasjonen vi faktisk står i.

Moralsk integritet kan også variere mellom ulike deler av livet. Jeg kan møte faglig uenighet med åpenhet, men skjerme en politisk overbevisning mot reell kritikk, og jeg kan være oppmerksom på hvordan jeg behandler menneskene rundt meg, men aldri spørre hva forbruket mitt faktisk bidrar til. Det er derfor mer presist å vurdere integriteten i forholdet til bestemte verdier og praksiser enn å bruke begrepet som en samlet karakterdom. Forbindelsen styrkes når verdien får påvirke valget, når faresignaler tas på alvor, og når ny kunnskap kan føre til endring. Den svekkes når verdien brukes til å beskytte selvbildet, eller når uvitenhet blir et skjold mot spørsmål vi har grunn til å stille.

Det må også trekkes fram at en redelig søken til slutt også kan ende i en erkjent uvisshet. Kilder kan motsi hverandre, konsekvenene kan være vanskelige å overskue, og alle tilgjengelige alternativer kan innebære alvorlige problemer. Da kan «jeg vet ikke» være den mest ansvarlige konklusjonen. Forskjellen mellom redelig uvisshet og behagelig utsettelse ligger i arbeidet som førte dit, i hva som står på spill, og i om spørsmålet fortsatt er åpent for ny kunnskap. Vi må dessuten ofte handle før forståelsen oppleves som fullstendig nok, fordi også venting, tilbaketrekning og delegering får følger. Handling under usikkerhet kan være redelig når vi har undersøkt så langt det var rimelig, erkjenner hva vi ikke vet, og fortsatt er villige til å korrigere kursen. Et slikt forsøk krever imidlertid mer enn vilje alene. Jeg kan forstå at et spørsmål burde undersøkes, men fortsatt mangle tid, overskudd, språk eller tilgang til det som trengs. Denne forståelsen av moralsk integritet fører derfor videre til spørsmålet om hvilke forutsetninger som må være til stede før det er rimelig å kreve det av oss i det hele tatt.

Den første forutsetningen jeg vil trekke fram er tid. Moralsk orientering krever at et spørsmål får bli værende lenge nok til at vi kan se mer enn den umiddelbare reaksjonen, og det hjelper lite at relevant kunnskap finnes, dersom hverdagen ikke gir rom til å oppsøke den. En aleneforelder som beveger seg mellom arbeid, henting, matlaging og legging, står ikke i samme situasjon som den som kan bruke en hel kveld på å undersøke hvordan et produkt er fremstilt. Konsekvensen av kjøpet kan være den samme, men kravet til undersøkelse kan ikke uten videre være likt.

Tid er dessuten ikke det samme som overskudd. En ledig time etter en lang arbeidsdag er ikke nødvendigvis en time hvor et krevende moralsk spørsmål faktisk lar seg bearbeide. Økonomisk uro kan selv legge beslag på oppmerksomhet og kognitive ressurser.¹⁷ Refleksjonen konkurrerer også med søvn og omsorg, og den krever særlige krefter når svaret kan utfordre noe vi liker, er avhengige av eller ikke har noe enkelt alternativ til. Et menneske som bruker det meste av kapasiteten på å holde hverdagen sammen, kan derfor ikke forventes å bære den samme orienteringsbyrden som den som har ro, ressurser og hjelp rundt seg.

Vi trenger også evnen til å forstå hva som burde undersøkes. Jeg kan ha både tid og overskudd, kjenne at noe skurrer, men fortsatt ikke vite hvor jeg skal begynne. Hva er det egentlig jeg leter etter? Hvilke kilder burde jeg stole på? Når har jeg forstått nok til å kunne handle? Slike spørsmål krever ikke filosofisk utdanning, men de forutsetter et språk for å skille det relevante fra det irrelevante og en viss tro på at det faktisk er mulig å komme nærmere et svar. John Hardwigs analyse av epistemisk avhengighet setter her ord på en grunnleggende, og moralsk bærende, side ved komplekse samfunn. Vi kan ikke personlig eie bevisgrunnlaget for alt vi med god grunn holder for sant, men må støtte oss på kunnskap andre har utviklet gjennom spesialisert undersøkelse.¹⁸ Avhengigheten er ikke i seg selv et nederlag for dømmekraften, men den blir et problem når vi ikke har noen rimelig måte å vurdere hvem som fortjener tillit.

Alvin I. Goldman formulerer nettopp dette som lekpersonens problem i møte med konkurrerende eksperter. Når fagfolk er uenige, kan ikke løsningen være at den som mangler ekspertisen, plutselig skal avgjøre det faglige spørsmålet på samme nivå som dem. Vi kan derimot vurdere forhold rundt ekspertisen, blant annet hvordan argumentene møter hverandre, om andre relevante fagmiljøer støtter vurderingen, hvilke interessekonflikter som finnes, og hvordan tidligere påstander har vist seg å holde.¹⁹ Slik kan tilliten være reflektert uten at individet selv overtar ekspertens arbeid. Moralsk orientering krever dermed en rimelig måte å navigere i avhengigheten på.

Selv en dyktig og samvittighetsfull undersøkelse kan likevel møte en lukket dør. Opplysninger kan være utilgjengelige, fordelt mellom flere institusjoner eller formulert på en måte som bare gir inntrykk av å informere. Mike Ananny og Kate Crawford viser hvorfor formell transparens ikke uten videre gir forståelse. Å kunne se store mengder informasjon er ikke det samme som å vite hva systemet gjør, hvilke forbindelser som er viktige, eller hvordan det kan holdes ansvarlig.²⁰ En rapport på flere hundre sider kan være offentlig tilgjengelig og likevel praktisk ubrukelig for den som trenger et konkret svar. Det samme gjelder makt hvor for eksempel en arbeidstaker som risikerer inntekten ved å protestere, en forbruker uten reelle alternativer og en virksomhet som fastsetter vilkårene, ikke kan sies å stå i samme moralske posisjon. Å forstå at noe er galt er ikke det samme som å kunne endre det.²¹ Kravet om integritet må derfor også ses i lys av hvem som faktisk kan undersøke, velge annerledes og gripe inn.

Her ser vi hvordan tillit får en svært viktig moralsk funksjon i vår samtid. Jeg undersøker ikke hele matkjeden før jeg kjøper mat, tester ikke drikkevannet hver morgen og kontrollerer ikke selv om bygningen jeg går inn i, følger brannforskriftene. Likevel handler jeg ikke nødvendigvis moralsk blindt av den grunn. Jeg støtter meg på at andre har fått oppgaver jeg ikke kan utføre selv, og at det finnes ordninger som kan oppdage og reagere på svikt. Hardwigs poeng om epistemisk avhengighet får dermed en praktisk og moralsk forlengelse. I et komplekst samfunn foregår mye av orienteringen indirekte når vi har gode grunner til å tro at noen med bedre forutsetninger følger med på våre vegne.²² Min moralske integritet avhenger fortsatt av et oppriktig og rimelig forsøk, mens tilliten kan gjøre relevante forbindelser orienterbare nok til at forsøket får mulighet til praktisk gjennomslag.

Tillit er i denne forstanden en måte kunnskap og kontroll fordeles på. En rimelig tillit forutsetter at noen har kompetanse og faktisk tilgang til det som undersøkes, at feil kan bli synlige, at ansvar kan plasseres, og at praksisen kan endres.²³ Jeg trenger ikke kjenne hver kontroll som utføres, men må kunne ha en rimelig forventning om at kontrollen finnes, at den kan etterprøves, og at den er tilstrekkelig uavhengig av aktøren som har mest å tjene på resultatet.²⁴ Individet må fortsatt vurdere hvem som fortjener tillit. Gjentatte avsløringer, uklare interesser eller systematisk motstand mot innsyn kan gjøre en tidligere rimelig tillit vanskeligere å forsvare. Da kan integriteten kreve at vi spør mer, endrer praksis eller støtter andre ordninger. Spørsmålet er altså ikke om vi skal stole på andre, men om samfunnet faktisk gir oss noen det er rimelig å stole på.

Dette peker mot at ansvar og undersøkelsesbyrde må ses i lys av hvordan kunnskap, innflytelse og interesse faktisk er fordelt. Den som utformer og kontrollerer en moralsk relevant forbindelse, har tilgang til informasjon om den og kan endre prosessen, står i en annen posisjon enn den som bare møter sluttpunktet gjennom et enkelt grensesnitt. Når en aktør også tjener på denne forbindelsen, blir plikten til å undersøke, begrunne og korrigere den sterkere.

Kunnskap og kontroll kan samtidig være fordelt mellom flere aktører, og de fleste kan kanskje bare forstå sin egen del, uten å se helheten. Manglende oversikt fritar likevel ikke uten videre den som faktisk har myndighet til å organisere systemet annerledes. Dersom ingen kan undersøke helheten, kan ansvaret nettopp bestå i å etablere den oversikten som trengs. Samtidig flyttes ikke alt ansvar bort fra oss som brukere. Vi beholder ansvar for den synlige handlingen, for forbindelser vi kjenner, for faresignaler vi med rimelighet kan reagere på, og for ny kunnskap når den senere blir tilgjengelig. Institusjonalisert tillit gjelder den delen av orienteringsbyrden individet ikke kan bære alene. Institusjonene skal ikke bestemme hvilke verdier vi burde ha, men sørge for at forbindelser vi ikke selv kan undersøke, likevel blir undersøkt og holdt åpne for begrunnelse og korrigering av noen som faktisk kan se og påvirke dem.

Ingen av disse utfordringene oppstår først med digitale systemer fordi mennesker har alltid handlet med begrenset kunnskap og støtte til andre. Det som varierer er hvordan begrensningene fordeles, hvem som kan kompensere for dem, og om vi i det hele tatt får øye på at noe burde undersøkes. Før en moralsk søken kan begynne, må vi dessuten kunne skape en viss avstand til det som allerede krever oppmerksomheten vår. Det er vanskelig å finne ut hva man står for dersom hvert øyeblikk er fylt av andres krav, reaksjoner og fortolkninger. En tanke må noen ganger få være uferdig før den behandles som et standpunkt, og et menneske må kunne trekke seg tilbake fra påvirkningen det forsøker å forstå.

Denne tilbaketrekningen trenger ikke innebære full isolasjon. Et privat rom kan være en samtale med noen få mennesker jeg stoler på, like mye som et rom hvor jeg er alene. Det avgjørende er at grensene rundt situasjonen er forståelige. Jeg vet hvem som er til stede, hva slags forhold vi står i, og noenlunde hva som skjer med det jeg sier og gjør. En samtale kan derfor være privat selv om den deles med en annen, mens en stund helt alene ikke nødvendigvis oppleves slik, dersom jeg føler eller har grunn til å tro at noen følger med.

Alan Westin beskriver privatliv som et forhold vi stadig regulerer mellom deltakelse og tilbaketrekning.²⁵ Vi søker ikke en permanent tilstand av skjerming, men muligheten til å avgjøre når og på hvilke vilkår andre får tilgang til oss. Jeg kan ønske at én person kjenner noe ved meg, uten at det samme dermed angår alle andre. Privatlivet ligger derfor ikke i fraværet av sosial kontakt, men i at kontakten kan begrenses og tilpasses relasjonen vi står i. Westin skiller mellom fire tilstander av privatliv: solitude, som gir rom for å være alene uten andres observasjon; intimacy, som avgrenser et fellesskap hvor noe kan deles med noen få; anonymity, som gjør det mulig å bevege seg blant andre uten å bli identifisert som en bestemt person; og reserve, som betegner muligheten til å holde noe tilbake og få denne grensen respektert.²⁶ Formene er ulike, men uttrykker det samme behovet for å kunne regulere andres tilgang til oss.

Denne reguleringen har en særlig betydning for moralsk orientering, fordi vurderingene våre sjelden oppstår ferdige.²⁷ Jeg kan følge et argument for å se hvor det leder uten å slutte meg til konklusjonen, forsøke å forstå et politisk standpunkt jeg misliker, eller formulere en reaksjon jeg ennå ikke vet om jeg kan forsvare. Noen ganger må jeg også erkjenne en tanke jeg skammer meg over før jeg i det hele tatt kan undersøke den. Dersom hvert stadium i denne prosessen umiddelbart behandles som et endelig uttrykk for hvem jeg er, blir det vanskeligere å tenke ærlig. Jeg begynner da lett å redigere selve undersøkelsen ut fra hvordan den kan fortolkes av andre, før jeg selv har funnet ut hva tanken egentlig betyr.

Hos Julie E. Cohen blir privatlivet nettopp et vern for en dynamisk og fremvoksende subjektivitet. Selvet er for henne ikke en ferdig størrelse som bare trenger en mur rundt seg, men det utvikles gjennom forsøk, grensearbeid og revisjon, og privatlivet beskytter de mellomrommene hvor denne utviklingen kan finne sted.²⁸ Det private rommet verner slik forskjellen mellom en reaksjon og en tilslutning. En tanke kan få være foreløpig, prøves mot andre hensyn og eventuelt forlates uten at den først gjøres til et offentlig standpunkt. En fortrolig samtale kan samtidig gi tanken den motstanden den trenger, mens deltakerne forstår at formuleringen er del av en undersøkelse og ikke nødvendigvis en erklæring om hva vi autentisk står for.

Den samme friheten står sentralt i Neil M. Richards’ begrep om intellektuelt privatliv, altså rommet mennesker trenger når de leser, tenker og kommuniserer for å danne seg standpunkter.²⁹ Overvåkning kan svekke denne friheten uten at noen eksplisitt forbyr en tanke, fordi forventningen om observasjon endrer hva vi våger å undersøke. Refleksjonen kan begynne å handle mer om hvordan den fremstår enn om hvorvidt den er sann eller rimelig. Det kan føles tryggere å gjenta et kjent standpunkt enn å vise tvil og følgen kan da være at enkelte spørsmål aldri blir stilt, fordi kostnaden ved å stille dem oppleves for stor allerede før undersøkelsen har begynt.

Privatlivets verdi rekker derfor lengre enn beskyttelse av våre hemmeligheter og intimitet. En tanke kan trenge en grense bare fordi den er uferdig, uten å være skammelig eller sensitiv. Vi vet heller ikke alltid på forhånd hva som vil vise seg å være viktig, og dersom bare informasjon vi allerede har merket som sensitiv, får beskyttelse, kommer beskyttelsen ofte for sent. Samtidig er privatlivet ingen garantist for autentisitet eller integritet. Tilbaketrekningen kan brukes til å unngå kritikk, og fortrolige fellesskap kan være steder for ærlighet, men også for at mennesker bekrefter hverandres verste sider. Det private rommet er altså ikke moralsk godt bare fordi det er privat, men har sin verdi i at det gjør en friere undersøkelse mulig, mens ansvaret for hva vi faktisk gjør med muligheten, fortsatt er vårt.

Vernet hviler dessuten på noe mer grunnleggende enn håpet om at privatlivet skal gjøre oss til bedre moralske mennesker. Westin knytter det til et grunnleggende naturlig behov for å regulere avstanden til andre, et slags behov for sosial hvile, som vi også deler med mange andre dyr.³⁰ Vi trenger derfor ikke bevise at hvilen må være nyttig før den fortjener vern. For denne oppgaven er likevel den moralsk relevante siden avgjørende. Uten en viss avstand blir det vanskelig å undersøke påvirkningen som har formet oss og handlingene vi vurderer å utføre. Det er også denne erfaringen som gjør individuell kontroll til en intuitiv løsning når det kommer til regulering av privatliv. Jeg lukker en dør, trekker for gardinen eller senker stemmen og merker at andres tilgang endres. Den fysiske og sosiale omgivelsen gir tydelige tegn på grensen, og det virker derfor naturlig å beskytte privatlivet slik Westin forstår personvern, ved å gi individet rett og kontroll til å bestemme hva som deles, med hvem og når.

Vanskeligheten oppstår når den faktiske tilgangen strekker seg lenger enn tegnene på tilbaketrekning tilsier.³¹ Jeg kan sitte bak en lukket dør og oppleve situasjonen som privat, samtidig som handlingene mine registreres, forbindes og fortolkes utenfor rommet jeg ser. I et anbefalingssystem kan et søk etter et standpunkt jeg forsøker å forstå, inngå som et signal om hva som er relevant for meg, og tiden jeg bruker på et argument, kan påvirke hva som anbefales videre.³² Sporene forteller da at jeg søkte og ble værende, men ikke om jeg undersøkte standpunktet eller sluttet meg til det. Digitale spor kan dessuten brukes til å utlede egenskaper jeg ikke selv har oppgitt direkte.³³ Den foreløpige refleksjonen får dermed et videre liv før jeg selv har avgjort hva den betyr. Den lukkede døren skaper fortsatt avstand til menneskene rundt meg, men ikke nødvendigvis til den digitale dimensjonen jeg har tatt med inn i rommet, eller som stort sett befinner seg i bukselomma.

Mobilen i lomma er en avgrenset gjenstand, men det som finnes gjennom den, lar seg ikke avgrense på samme måte. Den gir meg adgang til mennesker, informasjon og tjenester som befinner seg andre steder, og når skjermen slukkes, opphører ikke nødvendigvis forbindelsen. Andre kan forvente et raskt svar og systemer jeg nylig brukte, kan fortsette å behandle sporene etter meg. Det digitale ligger derfor ikke bare foran meg som et redskap jeg kan gripe og legge fra meg, men det er vevd inn i omgivelsene jeg handler innenfor. Det er i denne betydningen jeg derfor omtaler det digitale som en dimensjon.

Et tradisjonelt redskap er ofte lettere å skille fra situasjonen rundt. Jeg kan gripe en hammer, bruke den til å slå inn en spiker og legge den fra meg, og forholdet mellom hensikten, bruken og den umiddelbare virkningen er forholdsvis tydelig. Det samme kan gjelde teknologi som er langt mer avansert enn en hammer. Jeg trenger ikke forstå all mekanikken i en bil for å vite at jeg bruker den til å bevege meg fra ett sted til et annet. Teknisk kompleksitet er derfor ikke i seg selv moralsk utfordrende. Den digitale dimensjon blir likevel noe mer enn et sett med kompliserte redskaper når teknologien også organiserer situasjonen redskapet brukes i.

En søkemotor hjelper meg å finne kunnskap, men ordner samtidig hva som blir synlig først. Et sosialt medium lar meg kommunisere, men fastsetter også formen kommunikasjonen får, hvilke uttrykk som belønnes med oppmerksomhet, og hvor lenge de blir stående. Algoritmer sorterer, fremhever og gjør enkelte sider av verden mer tilgjengelige enn andre.³⁴ Teknologien ligger dermed både i hånden og rundt den. Jeg handler gjennom den, samtidig som den er med på å forme både rommet hvor handlingen får mening, og hvilke alternativer som overhodet fremstår som nærliggende.

Å betegne det digitale som en dimensjon, betyr likevel ikke at det utgjør en egen virkelighet ved siden av den fysiske. En melding kan redde eller ødelegge en relasjon, et digitalt møte kan avgjøre om noen får en jobb, og et fellesskap som bare møtes gjennom skjermer, kan være et sted hvor vi opplever ekte tilhørighet. Det digitale er slik fortsatt noe virkelig fordi menneskene, forpliktelsene og konsekvensene er virkelige, selv om nærværet formidles på en annen måte. Det som endres, er flere av tegnene vi vanligvis bruker for å orientere oss. Fysisk avstand trenger ikke bety sosial avstand, og noe som sies i et flyktig øyeblikk, kan lagres og hentes frem lenge etter at situasjonen egentlig ville vært glemt. En bruker kan være navnløs overfor andre mennesker og samtidig svært gjenkjennelig for et digitalt system.³⁵ Vi har ikke forlatt den gamle verden, men nærhet, hukommelse, synlighet og deltakelse har fått fundamentalt nye former.

Homo Faber er her en menneskelig arketype vi stadig lener oss dypere inn i. En grunnform med bestemte trekk og muligheter vi har gitt vår tilslutning til og trekkes mot. Slik kan den både sies å være dypt forankret i hva menneskeheten er i dag, men også i horisonten for hva vi kan bli. Arketypen beskriver ikke hvert enkelt menneske, men peker på en skjebne som alle trolig vil måtte orientere seg innenfor, om man skal holde tritt med resten. Hos Hannah Arendt betegner homo faber mer avgrenset det mennesket som fremstiller en kunstig verden av ting som kan vare og gi stabilitet til et liv som selv er forgjengelig.³⁶ For meg får begrepet en videre betydning der Homo Faber er mennesket som gjennom teknologi strekker seg utover sine umiddelbare begrensninger og former betingelsene det senere skal leve under. Redskaper forlenger kroppen, bøker forlenger hukommelsen, og den digitale dimensjon gjør samarbeid mulig mellom mennesker som aldri møtes. Teknologien kommer derfor ikke utenfra og inn i en ellers ren menneskelig tilværelse, men tilhører måten vi utvider mulighetene våre på og bygger verden rundt oss.

Den digitale dimensjon gjør denne arketypen stadig mer dominerende for menneskeheten. Teknologien utvider rekkevidden til sansene og hukommelsen vår og lar oss skape, lære og kommunisere i en skala som tidligere tilhørte myter og fantasi. For et menneske med begrenset fysisk bevegelighet kan for eksempel digitale fellesskap gi adgang til handling og relasjoner på egne vilkår, mens den som mangler et stort bibliotek eller et etablert fagmiljø, kan nå tekster og forelesninger de ellers aldri ville blitt utsatt for, på få sekunder. Teknologien kan slik gjøre livet rikere og gi egenskaper, interesser og relasjoner en praktisk form de ellers ikke ville fått.

Det vi som Homo Faber bygger, virker samtidig tilbake på oss selv. Arendt beskriver også mennesket som betinget av den verden det selv har skapt, noe som innebærer at menneskeskapte omgivelser blir reelle betingelser for videre liv og handling.³⁷ Et digitalt system kan begynne som et redskap og ende som en forutsetning for arbeid, utdanning, offentlige tjenester eller sosial deltakelse. Når det skjer, er det ikke lenger nok å si at teknologien kan legges bort, fordi å trekke seg ut da samtidig kan bety å miste adgang til det som nå utgjør nødvendige aspekt av et “normalt liv”.

Derfor er Homo Faber heller ikke bare én mulig livsform blant flere sidestilte alternativer. Den teknologiske retningen har allerede fått en kraft som gjør den til en del av rammen kommende generasjoner må leve innenfor. Barna våre får ikke velge om de skal vokse opp i en verden preget av digitale systemer og kunstig intelligens. De får den verdenen vi bygger og det er i denne forstanden jeg omtaler Homo Faber som en slags skjebne. Skjebnen er ikke her forstått som et ferdig manus. Det som er gitt, er hovedsaklig rammen og retingen, men hvordan livet innenfor her skal organiseres er fortsatt åpent. Arendts tanke om at mennesket kan begynne noe nytt, selv innenfor betingelser det ikke selv har valgt, holder nettopp dette rommet åpent. Oppgaven er derfor ikke å finne en vei tilbake til et menneske uten teknologi, men å forme den teknologiske tilværelsen slik at den fremmer gode menneskeliv.

Den digitale dimensjon kan åpne en verden vi ellers aldri ville møtt. Et system kan anbefale noe fordi det vil holde på oppmerksomheten min, mens innholdet får en betydning systemet verken forstår eller kontrollerer. Hensikten bak anbefalingen avgjør derfor ikke alene hvilken verdi den får i livet mitt. Mennesker kan tilegne seg, omforme og bruke teknologiske muligheter på måter som ikke lar seg redusere til systemets formål.

Dokumentaren Ibelin viser dette tydelig.³⁸ Mats Steen levde med store fysiske begrensninger, men gjennom karakteren Ibelin i World of Warcraft utviklet han vennskap, kjærlighetsforhold, konflikter og forpliktelser som fikk stor betydning både for ham og for andre. Spillet ga ham mulighet til å tre frem som venn, rådgiver og deltaker på måter den fysiske hverdagen ikke ga samme rom for. Ved første blikk kan Ibelin kun se ut som en maske, fordi figuren hadde en annen kropp og andre bevegelsesmuligheter enn Mats. Omsorgen, humoren, lojaliteten og ansvaret kom likevel faktisk fra Mats, og karakteren var ingen tilfeldig rolle som hvem som helst ville ha fylt på samme måte. Den ga ham en form han kunne autentisk handle og utfolde seg gjennom.

Det digitale uttrykket fremhevet enkelte sider ved Mats og lot andre begrensninger stå i bakgrunnen, men slik er det også i relasjoner som ikke er digitalt formidlet. Jeg fremstår forskjellig overfor en venn, en foreleser, et familiemedlem og en fremmed, uten at bare én av disse utgavene nødvendigvis er mer virkelig, eller autentisk, av den grunn. Det avgjørende er, som jeg allerde har vært inne på, om vi kan identifisere oss med uttrykket, undersøke det og svare for handlingene som våre egne. Relasjonene rundt Ibelin stilte virkelige krav, mennesker ble såret, viste omsorg, tok ansvar og forsøkte å gjøre opp etter konflikter. Moralske verdier fikk dermed en praktisk form gjennom det digitale handlingsrommet, og det Mats uttrykte, var ikke mindre autentisk fordi relasjonene var teknologisk formidlet.

Min egen vei inn i filosofien er et enklere eksempel av den samme erfaringen. Etter flere år som yrkesmilitær fremstod filosofi lenge som en lite realistisk retning. Interessen var der, men den hadde ingen tydelig plass i forestillingen om hva livet mitt kunne bli, og jeg oppsøkte heller ikke filosofisk innhold som del av en plan om å begynne på universitetet. Etter hvert begynte YouTube å anbefale filosofiske forelesninger og samtaler som fengslet meg. Noe ved det jeg tidligere hadde sett eller søkt etter, må ha fått systemet til å beregne at dette kunne interessere meg. Anbefalingene gjorde filosofien vanskeligere å overse og åpnet en mulig retning jeg ennå ikke hadde gitt meg selv anledning til å ta på alvor.

Systemets mål var trolig å simpelthen holde på oppmerksomheten min, men dette forandrer ikke at innholdet fikk en personlig verdi for meg som gikk langt utover formålet. Algoritmen viste en mulighet, men valget om å følge den var mitt. Jeg måtte lese, møte innvendinger, endre oppfatninger og etter hvert gjøre filosofien til en del av et liv jeg selv kunne stå for. En påvirkning kan slik treffe noe vi allerede har kjent på, men manglet språk for, og den kan også skape en interesse som ikke fantes i samme form tidligere. Begge deler kan bli autentiske sider ved oss om vi får undersøke, bearbeide og ta stilling til det som oppstår. På sett og vis kan vi bare lete etter det vi på en eller annen måte allerede har møtt, og noen ganger må et mulig liv først bli synlig før vi forstår at det faktisk kan bety noe for oss.

Språkmodeller som ChatGPT gjør en lignende spenningen særlig tydelig for meg i arbeidet med akkurat denne teksten. Verktøyet kan hjelpe meg å formulere en uferdig tanke, foreslå en struktur, synliggjøre en forbindelse eller presentere en innvending jeg ikke hadde tenkt på. Samtidig kan det gi forslag som høres overbevisende ut, men som leder mot et uttrykk jeg egentlig ikke står for.³⁹ Samskriving med språkmodeller kan slik påvirke både formuleringen og retningen i det uttrykte standpunktet, noe som er særlig vanskelig å oppdage når påvirkningen fremtrer som hjelp til å skrive bedre, snarere enn som et eksplisitt argument jeg kan si meg enig eller uenig i.

Forskyvningen trenger ikke komme som én tydelig overstyring. Én formulering blir litt glattere, en innvending gjøres litt mer forsiktig, og konklusjonen blir litt mer balansert enn det jeg egentlig mener den burde være. Hver endring kan isolert sett, se ut som en forbedring, mens teksten som helhet langsomt mister sin retning og opprinnelse. Verktøyet kan derfor gjøre enkelte deler av tankeprosessen lettere og andre mer krevende. I mitt tilfelle har arbeidet blitt betraktelig mer krevende, fordi jeg hele tiden føler en trang til å be om tilbakemelding på det jeg har skrevet. Autentisiteten avgjøres ikke her om teknologien har bidratt, men av om jeg lar den språklige overflaten erstatte den selvstendige vurderingen som gjør uttrykket til mitt eget.

Tilgjengeligheten skaper slik et unikt revisjonspress som ikke var der tidligere. Et nytt kritisk blikk er alltid ett spørsmål unna. Jeg kan be om en svakhet, en innvending, en bedre overgang eller en mer presis formulering, og når verktøyet ofte faktisk finner noe, kan jeg kjenne meg nærmest forpliktet til å spørre én gang til. Arbeidet går derfor ikke nødvendigvis raskere, fordi teksten blir lettere å åpne på nytt, og grensen mellom grundighet og en endeløs jakt på forbedring blir vanskeligere å trekke. Likevel har den samme prosessen i møte med akkurat denne teksten, gjort noe jeg ikke hadde ventet. Hvert forslag tvinger meg til å skille mellom det som faktisk gjør teksten bedre, og det som bare gjør den glattere, mer forsiktig eller mer lik andre akademiske tekster. Jeg møter meg selv som sensor for mitt eget uttrykk: Denne formuleringen er tydeligere og fortsatt min; denne høres bedre ut, men sier ikke det jeg mener; denne innvendingen må tas inn; denne balansen vil jeg ikke ha. Gjennom slike valg blir mine egne preferanser faktisk klarere, og min egen stemme trer tydeligere frem.

Jeg tolker dermed denne teksten som mer autentisk fordi forslagene er blitt prøvd, valgt og avvist gjennom en grundig vurdering jeg selv har måtte svare for. Den har underveis blitt vridd, glattet ut og forsøkt omorganisert, og nettopp gjennom motstanden mot noen av disse innvendigene har jeg funnet frem til hvordan jeg selv ønsker å skrive. En tekst blir ikke ferdig fordi ingen flere innvendinger er mulige. Den blir ferdig når jeg vet hvorfor den skal stå slik den står, og hvilke alternativer jeg har valgt bort. I denne forstanden har språkmodellen ikke erstattet stemmen min fordi arbeidet med å godta og avvise forslagene har nettopp gjort dette til det mest autentiske uttrykket jeg hittil har vært i stand til å gi, i min tid som filosofistudent.

De tre eksemplene viser ulike måter den digitale dimensjon kan gi en autentisk opplevelse på. Ibelin ga Mats en form han kunne handle gjennom, anbefalingssystemet gjorde filosofien synlig som en mulig retning i mitt eget liv, og arbeidet med språkmodellen gjorde mine egne språklige og filosofiske preferanser tydeligere i denne teksten. I alle tre tilfellene oppstår autentisiteten gjennom vårt forhold til muligheten, ikke gjennom fraværet av påvirkning. Det avgjørende er om vi kan undersøke det som oppstår, gjøre noe av det til vårt eget og avvise resten. Her vender privatlivets beskyttelse av den uferdige tanken tilbake, fordi for de digitale systemene vi benytter oss av, kan undersøkelse og tilslutning se like ut. Et søk etter en ideologi kan registreres som interesse, og et uferdig utkast kan behandles som et signal før jeg selv vet hva tanken betyr. Forsøket på å skape avstand til én påvirkning kan dermed være med på å forme en annen.

Den skapende kraften til Homo Faber har dermed en dobbel side. Den bygger muligheter, men gjør samtidig bestemte målestokker virksomme i verden. Arendt viser hvordan mennesket, her som skaper, arbeider både som middel og mål, nytte og funksjon.⁴⁰ Når denne målestokken får styre verdenen som allerede er bygget, kan det som først var et middel, begynne å definere hva som overhodet teller som et verdifullt mål. I den digitale dimensjon skjer dette når effektivitet, forutsigbarhet, måling og optimalisering beveger seg fra systemenes konstruksjon og inn i verdier som vennskap, oppmerksomhet, kunnskap og selvforståelse. Slik kan kategorier som opprinnelig ble utviklet for systemets behov, også begynne å forme menneskets forståelse av seg selv.Spørsmålet om autentisitet gjelder derfor hvilke sider ved oss teknologien gjør synlige, verdifulle og mulige å virkeliggjøre.

Peter-Paul Verbeeks begrep om teknologisk mediering trekker fram hvordan denne tilbakevirkningen skjer.⁴¹ Teknologi inngår for han i selve forholdet mellom mennesket og verden. Den former både hvordan verden fremtrer og hvordan vi handler i den. En fartshump gjør lavere fart til den nærliggende handlingen gjennom selve utformingen. Et digitalt grensesnitt kan på samme måte fremheve enkelte valg, skjule andre og gjøre én form for deltakelse enklere enn en annen. Den konkrete virkningen oppstår i møtet mellom utforming, bruk og sammenheng.⁴² I digitale systemer ligger denne medvirkningen ofte i arkitekturen. Når jeg møter systemet, er mye allerede lagt til rette. Tjenesten finnes i en bestemt form, enkelte opplysninger må oppgis, noen valg er synlige, mens andre er vanskelige å finne. Den digitale dimensjon er ikke en naturtilstand, men et menneskeskapt handlingsrom som bærer tidligere valg, også når valgene ikke lenger fremstår som valg for den som møter dem. Det vi bygger inn i systemene i dag, blir en del av det handlingsrommet andre senere må leve og orientere seg i.

Broene over parkveiene på Long Island er et sterkt og relatert eksempel av hvordan teknisk arkitektur inneholder en implisitt moral. I Langdon Winners fremstilling var flere broer konstruert så lave at kun personbiler kom seg under, mens busser ikke gjorde det, og dette begrenset adgangen for mennesker uten bil, blant dem mange svarte og familier med lav inntekt. Påstanden om at virkningen var bevisst planlagt, er senere bestridt, men eksemplet viser likevel hvordan en teknisk detalj kan fordele adgang og muligheter, også når hensikten bak er usikker.⁴³ Broen gjentok begrensningen hver gang en buss måtte snu, og det trengtes ingen ny avgjørelse for hver reisende, fordi virkningen allerede lå i infrastrukturen.

Digital utforming kan på samme måte fordele mer enn funksjon. Den kan avgjøre hvem som ser forbindelsen, hvem som må tilpasse seg, hvem som bærer risikoen, og hvem som har mulighet til å endre situasjonen. Planleggeren kan forstå og forme sammenhengen, mens brukeren møter den som en allerede gitt del av verden. Det kritikkverdige gjelder derfor hvordan teknologi former menneskelig liv, ikke teknologien som sådan. Vennskap, kreativitet, læring og politisk deltakelse er fortsatt menneskelige aktiviteter når de skjer digitalt. Spørsmålet er hvordan denne dimensjonen kan organiseres slik at vi får leve gjennom den uten å miste forbindelsen til verdiene og handlingene våre.

En buss som ikke kommer under en bro, møter grensen fysisk, men i den digitale dimensjon er utformingen sjelden like synlig. Systemet stanser ikke nødvendigvis handlingen, men tar den imot, fører den videre og lar den få betydning andre steder. Alt kan se ut til å fungere akkurat slik det skal, og først når vi spør hva handlingen egentlig inngikk i, blir grensen tydelig. Uoversiktligheten kan da fremstå som om den oppstod etter at brukeren handlet, selv om den allerede lå i forbindelsene handlingen ble sendt inn i.

Forskjellen kan for eksempel sees i utformingen av en kalkulator og en sosial medieplattform. Begge er digitale og kan være teknisk kompliserte. Når jeg skriver et regnestykke i kalkulatoren, er bruken likevel tydelig avgrenset. Tallene behandles, og jeg får et svar. Jeg trenger ikke forstå prosessoren eller programkoden for å forstå min egen moral i handlingen. Et trykk på et hjerte under en video kan se like enkelt ut, men trykket kan påvirke hva jeg senere får se, hvordan innholdet rangeres for andre, og hvilken brukergruppe systemet plasserer meg i. Det synlige tegnet er lite, mens handlingens rolle i systemet kan være langt mer omfattende enn det grensesnittet gir meg tilgang til.

Skillet mellom lukkede og åpne digitale system beskriver denne forskjellen. Et system er relativt lukket når brukeren kan danne seg et rimelig bilde av hvor handlingen ender, hvilket formål den tjener, og hvilken sammenheng den inngår i. Teknisk avanserte systemer kan være lukkede i denne betydningen. Systemet åpner seg når handlingen føres videre til nye formål, aktører eller former for bruk som ikke fremtrer for oss i den opprinnelige situasjonen. Åpenheten gjelder dermed ikke hvor komplisert innsiden er, men hvor mange moralsk relevante forbindelser handlingen får uten at den handlende kan orientere seg mot dem.

Tilkobling til internett avgjør heller ikke alene hvor åpent systemet er, selv om det kan sies å henge tett sammen. En nettjeneste kan være forholdsvis lukket dersom den utfører én tydelig oppgave og ikke bruker handlingen videre, mens et tilsynelatende lukket og lokalt program kan åpne seg gjennom synkronisering, bakgrunnstjenester eller nødvendige oppdateringer. Åpenheten kan også variere innenfor det samme systemet. Et tekstprogram kan være lukket med hensyn til selve dokumentet dersom teksten bare lagres på min egen maskin, samtidig som programmet sender opplysninger om bruk, feil og ytelse til utvikleren. En meldingstjeneste kan på tilsvarende måte beskytte innholdet mellom avsender og mottaker, mens tidspunkt og kontaktmønstre inngår i en større infrastruktur.⁴⁴ Systemet åpner seg ved at flere aktører, formål og mulige anvendelser knyttes til den samme handlingen.

Åpent og lukket betegner derfor her oftest en gradsforskjell. Et mer lukket system ville holde handlingens videre forbindelser avgrenset og forståelige, mens et mer åpent system ville la handlingen tas opp i sammenhenger uten at brukeren har mulighet for oversikt. Mange digitale systemer vi bruker i dag, ligger et sted mellom disse polene og skillet angir for denne oppgaven, hovedsaklig en videre retning for undersøkelsen. Hvor åpner systemet seg, for hvem, mot hvilke formål, og på hvilket tidspunkt i handlingens videre liv?

I digitale systemer kan åpningen fortsette over tid. Når jeg kjøper en kniv, inngår kjøpet i en verdikjede jeg kanskje ikke forstår, men selve kjøpet er en forholdsvis avgrenset hendelse. Kniven fortsetter ikke å registrere hvordan jeg holder den, når jeg bruker den, eller hvilke andre gjenstander jeg bruker den sammen med. I et åpent digitalt system kan derimot hver ny handling skape et nytt spor. Deltakelsen produserer ikke bare ett resultat, men en strøm av registreringer og forbindelser.⁴⁵ Det blir dermed vanskeligere å si når handlingen egentlig begynner og slutter.

Systemet kan også forandre seg mens jeg bruker det. En hammer får ikke nye egenskaper fordi produsenten endrer vilkårene sine, mens digitale tjenester kan oppdateres, integreres med andre systemer, få nye eiere og endre hvordan allerede innsamlet informasjon brukes. Det jeg forstod da jeg tok tjenesten i bruk, trenger derfor ikke være en tilstrekkelig forståelse ett år senere. Bert-Jaap Koops betegner dette som funksjonsglidning, som viser til hvordan informasjon og tekniske kapasiteter gradvis kan tas i bruk for formål som ligger utenfor den opprinnelige begrunnelsen.⁴⁶ Handlingen blir værende, mens omgivelsene rundt den forandres, og et valg som var rimelig avgrenset på ett tidspunkt, kan senere inngå i en sammenheng ingen av partene i utgangspunktet konkret tok stilling til.

Åpne systemer er også ofte distribuerte i ansvar. Det brukeren møter som én tjeneste, kan bestå av flere virksomheter, underleverandører og tekniske lag, hvor lagring skjer ett sted, analyse et annet og videre bruk et tredje. Hver aktør kan forstå sin avgrensede oppgave, mens den moralske betydningen oppstår gjennom forbindelsen mellom dem. Nissenbaums analyse av ansvar i databehandlede samfunn viser hvordan «mange hender», programvarefeil, eierskap og forestillingen om at datamaskinen selv er årsaken, kan gjøre ansvaret vanskelig å fastholde.⁴⁷ Da blir det lett å peke videre fordi utvikleren leverte bare en funksjon, plattformen brukte bare et etablert verktøy, underleverandøren fulgte bare instruksen, og brukeren trykket tross alt selv. Alle kan ha en forklaring på sin egen lille del, samtidig som systemet som helhet gjør noe ingen vedkjenner seg ansvaret for. Dersom ingen ser helheten, kan selve mangelen på oversikt bli en del av ansvarsproblemet, særlig når noen aktører kunne ha organisert systemet slik at andre faktisk fikk den nødvendige innsikten. Uoversiktligheten blir dermed også et spørsmål om hvem som kunne gjort den mindre, og hvem som tjener på at forbindelsene forblir vanskelige å se. Noen har til syvende og sist valgt hva systemet skal måle, hvilke forbindelser som skal være mulige, og hvem som får tilgang.

Forholdet mellom systemet og brukeren er slik noe vi kan klassifisere som asymmetrisk i kunnskapsforhold. Grensesnittet viser det som trengs for å utføre den synlige handlingen, for eksempel knappen, søkefeltet, kartet eller meldingen. Bak overflaten kan systemet behandle handlingen i lys av langt mer informasjon enn brukeren har tilgang til og vi handler slik fra en enkel overflate inn i en kompleks bakgrunn. Nettopp fordi grensesnittet er effektivt, merker jeg kanskje mindre til avstanden, og handlingen føles rask, naturlig og selvforklarende. Vi ønsker selvfølgelig ikke å møte den tekniske infrastrukturen hver gang vi sender en melding eller finner veien hjem, men den samme friksjonsløsheten kan få en omfattende prosess til å fremstå som ett lite og uviktig valg. Jo mer sømløst systemet virker, desto svakere blir oppfordringen til å spørre hvor handlingen egentlig tok veien.

Som skillet fra DEL ÉN viser, er det ikke et problem for vår moralske integritet at brukeren mangler teknisk ekspertise. Jeg trenger ikke vite hvor serveren står, hvordan hver beregning utføres, eller hvilket programmeringsspråk tjenesten er skrevet i. Det moralsk relevante er om jeg kan forstå nok av handlingens plass i systemet til at verdiene mine får en rimelig mulighet til å veilede valget. Jeg omtalte dette som handlingsrommets integritetsbetingelser, altså betingelser som gjør det mulig for et redelig forsøk på å virkeliggjøre det man oppfatter som sitt eget, å få praktisk gjennomslag.

Åpne system kan være både nødvendig og forsvarlig. Noen ganger må for eksempel informasjon bevege seg mellom helsepersonell for at en pasient skal få riktig behandling, og et betalingssystem kan trenge flere aktører for å gjennomføre en sikker transaksjon. Det avgjørende er hvordan forbindelsene begrunnes og avgrenses, og om noen kan undersøke, forklare og korrigere dem. Jo flere formål og aktører som knyttes til handlingen, desto mindre rimelig blir det å behandle brukerens synlige valg som om det uttrykte forståelse av hele prosessen.

Overvåkningskapitalisme er en bestemt økonomisk motivert måte å organisere åpne digitale system på. Shoshana Zuboff beskriver den som en økonomisk orden hvor menneskelig erfaring gjøres til råmateriale. Selskapene følger ikke mennesker først og fremst fordi de er nysgjerrige på privatlivet deres, men fordi overvåkningen har en produksjonsfunksjon med profitt i andre enden. Handlinger hentes ut, bearbeides og brukes til å redusere usikkerheten om hva mennesker kommer til å gjøre. Det som for meg bare var et søk, et stopp ved en video eller et forsøk på å finne veien hjem, kan for systemet være en del av en større økonomisk prosess.⁴⁸ Zuboffs analyse er særlig relevant for denne oppgaven fordi den viser hvordan forbindelsen mellom en synlig handling og dens videre informasjonsmessige liv kan være selve grunnlaget for mye av dagens verdiskaping.

En digital tjeneste trenger ofte informasjon for å fungere. Kartet må vite hvor jeg befinner meg dersom det skal vise veien, og strømmetjenesten må registrere hvilken film jeg valgte for å kunne spille den av. Zuboffs kritikk gjelder det som skjer når innsamlingen fortsetter utover oppgaven brukeren ba om. Hvor lenge jeg nøler, hva jeg hopper over, når jeg vender tilbake, og hvilke mønstre handlingen danner sammen med tidligere bruk, kan få en egen økonomisk verdi. Denne overskytende informasjonen betegner hun som et atferdsoverskudd.⁴⁹ Den oppstår gjennom bruken, men føres videre inn i en prosess brukeren i liten grad kjenner eller kontrollerer. Det er nettopp her handlingens mening for den handlende, og handlingens funksjon for systemet, begynner å skille lag.

Se for deg en fysisk bokhandel hvor en ansatt følger etter deg og noterer hvilke hyller du stopper ved, hvilke omslag du tar på, hvor lenge du holder hver bok, hva du legger tilbake, og hvem du kom sammen med.⁵⁰ Neste gang du besøker butikken, er hyllene flyttet. Bøkene du sannsynligvis vil kjøpe, står nærmere inngangen, og veien mot kassen er organisert ut fra det butikken har lært om deg og om mennesker som ligner. Noe av dette kan oppleves som god service. Forholdet endrer imidlertid karakter dersom observasjonene samtidig selges videre, brukes til å forutsi handlinger i andre sammenhenger, eller settes inn i utformingen av butikken for å gjøre bestemte valg mer sannsynlige uten at jeg kjenner påvirkningsforholdet. Kanskje velger jeg over tid bøker jeg ellers ikke ville valgt, fordi nettopp disse gir butikken størst fortjeneste, ikke fordi de passer bedre til meg.

I en fysisk butikk ville denne oppmerksomheten vært vanskelig å overse og dermed lettere å forholde seg til moralsk. Digitalt møter jeg derimot en ryddig forside med anbefalinger som ser ut til å være laget for meg, og observasjonen fremtrer som brukervennlighet. Det er nettopp denne forskjellen som gjør overvåkningskapitalismens logikk så virksom fordi systemet kan vite stadig mer om hvordan jeg handler, mens jeg fortsatt opplever forholdet som om jeg bare bruker en enkel tjeneste. Bokhandelen illustrerer her derfor ikke bare at systemet samler informasjon, men at informasjonsinnsamlingen er vevd sammen med organiseringen av den neste situasjonen jeg møter.

Atferdsoverskuddet bearbeides videre til det Zuboff kaller prediksjonsprodukter. Verdien ligger ikke bare i en beskrivelse av hvem jeg har vært, men i en beregning av hva jeg sannsynligvis vil gjøre. Informasjonen blir økonomisk interessant fordi den gjør min fremtid mindre usikker for andre aktører. Overvåkningskapitalismen selger i denne forstanden ikke bare kunnskap om fortiden, men en beregnet fremtidig atferd.⁵¹ Det avgjørende skiftet ligger i at menneskets handlinger ikke lenger bare registreres som avsluttede hendelser, men behandles som materiale for å forme forventninger om det som ennå ikke har skjedd. Jo mer presis prediksjonen er, desto større verdi får den. Nettopp derfor oppstår også et problematisk insentiv til å gå fra å observere atferd til å påvirke den.

Den sikreste forutsigelsen kan nemlig være den systemet selv bidrar til å gjøre sann. Et varsel kan sendes på et bestemt tidspunkt, ett alternativ kan løftes frem, mens et annet gjøres vanskeligere å se, og den sosiale bekreftelsen rundt en handling kan justeres slik at en bestemt reaksjon blir mer sannsynlig.⁵² Systemet trenger ikke tvinge noen, for små endringer i omgivelsene kan være nok. Broen på Long Island stanset bussen fysisk, mens systemene i den digitale dimensjon kan i stedet gjøre én vei litt lettere, en annen litt mindre synlig og en tredje mer tidkrevende, uten at noen av dem formelt forsvinner. Jeg kan fortsatt velge, men valget møter meg i en omgivelse noen andre har omstendig organisert mot profitt.

Zuboff bruker begrepet instrumentarisk makt om denne formen for styring. Makten søker ikke først og fremst å overbevise meg gjennom grunner eller få meg til å slutte meg til en bestemt ideologi, men den registrerer atferd, finner mønstre og tilpasser omgivelsene våre slik at handlinger rettet mot profitt, blir mer sannsynlige.⁵³ Mennesket møtes som noen med reaksjoner kan måles og formes, snarere enn som en deltaker som skal overbevises. Dersom et system er satt til å maksimere engasjement, kan det for eksempel lære at innhold som vekker sinne, holder bedre på oppmerksomheten.⁵⁴ Når oppmerksomhet gir inntekt, kan slikt innhold få større plass uten at noen først bestemte at samfunnet burde bli sintere. Målet kan være kommersielt og “uskyldig”, mens virkningen blir mye mer sosial, politisk og moralsk alvorlig, enn det noen intenderte.

Den distribuerte ansvarsstrukturen får her en særlig kritikkverdig form. Selskapet kan si at systemet bare optimaliserer et målbart resultat, utvikleren kan si at vedkommende ikke valgte hvilke menneskelige reaksjoner som viste seg lønnsomme, og annonsøren kan hevde at den bare kjøpte tilgang til en målgruppe. Likevel har noen valgt hva systemet skal måle, hvordan resultatet belønnes, og hvilke deler av menneskelig erfaring som kan tas i bruk som råstoff. At ingen bestemte alle virkningene, betyr ikke at systemet oppstod uten beslutninger, men viser snarere hvorfor ansvar ikke kan reduseres til letingen etter én person som planla helheten.

Jeg vil understreke at overvåkningskapitalismen skiller seg fra vanlig reklame gjennom forholdet mellom omfang, kontinuitet og personalisering. Handelsfolk har alltid ønsket å “kjenne kundene sine”, og kommersiell påvirkning er slik ikke i seg selv noe nytt. I den digitale dimensjon kan påvirkningen derimot følge oss mellom situasjoner, lære av reaksjonene i sanntid og tilpasse det neste møtet ut fra det som nettopp skjedde, i en skala som markant skiller seg fra fortiden. En anbefaling kan likevel som jeg har vært inne på, også føre meg til en bok, et menneske eller en kunnskap som forandrer livet mitt til det bedre. Problemet ligger i den radikale ulikheten i kunnskap og formål. Systemet lærer gjennom handlingene mine, mens jeg i liten grad kan lære hvordan denne kunnskapen brukes til å organisere det jeg senere møter.⁵⁵

Denne ulikheten får demokratisk betydning fordi offentlig meningsdannelse forutsetter at mennesker kan stå for det de sier, begrunne standpunktene sine og møte motargumenter. Når oppmerksomheten organiseres forskjellig for hver person, møter vi også ulike bilder av hva som er viktig, troverdig og normalt. Det offentlige rommet forsvinner ikke, men det blir vanskeligere å forstå hvordan det er satt sammen, og hvorfor mennesker møter så forskjellige versjoner av det.⁵⁶ Begrepsapparatet fra DEL ÉN gjør det mulig å skille to problemer som her lett glir sammen. Når påvirkningen former ønskene og verdiene mine, berører den moralsk autentisitet, og når spørsmålet gjelder hva jeg selv bidrar til gjennom bruken, og om jeg kan forstå hvordan verdiene mine kommer til uttrykk i systemet, gjelder det moralsk integritet. Overvåkningskapitalismen utfordrer begge, men på forskjellige måter.

Overvåkningskapitalismen endrer vilkårene for autentisitet, men opphever dem ikke. De tidligere eksemplene viser at autentisitet forstatt kan vokse frem gjennom slik påvirkning. Verdier kan fortsatt være våre selv om algoritmer har påvirket hvordan de oppstod. Ingen av oss har full oversikt over alt som har formet oss, og digital påvirkning kan fortsatt undersøkes, bearbeides og bli en del av et liv vi faktisk står for. Påvirkningens form har likevel betydning. Noen påvirkninger er synlige nok til at vi kan oppdage dem, skape avstand og svare, mens andre bruker kunnskap om verdiene og ønskene våre til å forme omgivelsene hvor nye verdier og ønsker skal utvikles, noe som gjør en oppriktig og rimelig moralske orientering mer krevende.

Det demokratiske utgangspunktet fra DEL ÉN gjelder også i møte med algoritmisk påvirkning. Myndige mennesker burde som hovedregel møtes som personer som står for det de sier, selv om informasjonsmiljøet deres er formet av systemer de ikke har full oversikt over. Kritikk av plattformens organisering gir oss ikke direkte tilgang til andres forhold til sitt eget standpunkt. Når vi avskriver en mening som «algoritmens», tar vi fra vedkommende noe av den myndigheten kritikken skulle beskytte. Personens ansvar og systemets makt må derfor vurderes samtidig. Jeg mener at en myndig voksen fortsatt kan stå autentisk for et standpunkt som har utviklet seg under digital påvirkning, mens systemet likevel kan kritiseres for å gjøre påvirkningen skjult og vanskelig å undersøke. Vi kan holde mennesker ansvarlige for det de står for, samtidig som vi stiller strengere krav til systemene som former vilkårene standpunktene utvikles innenfor.

Barn og andre med svakere forutsetninger for å forstå påvirkningen står derimot i en annen posisjon. All oppvekst innebærer påvirkning fra foreldre, lærere, venner og kultur, men det særegne ved et digitalt system ligger i hvem som kontrollerer påvirkningen, hva den er rettet mot, og hvilket formål den tjener. Forskningen på digital reklame til barn viser hvorfor deres begrensede evne til å gjenkjenne kommersielle hensikter gjør personlig og integrert påvirkning særlig problematisk.⁵⁷ Barnets rett til en åpen fremtid gir et normativt språk for det som står på spill. Omgivelsen burde støtte utviklingen av en fremtidig myndighet, ikke utnytte at denne myndigheten ennå ikke er ferdig utviklet.⁵⁸ Jo mer skjult, personlig og kontinuerlig påvirkningen er, desto mindre kan barnets klikk, fortsatte bruk eller uttrykte preferanse alene brukes til å forsvare ordningen. Systemet er selv med på å forme den dømmekraften barnet senere skal bruke for å stå imot.

Jeg hevder ikke at sårbarhet forsvinner ved myndighetsalderen. Sorg, ensomhet, sykdom, økonomisk press og et sterkt behov for tilhørighet kan gjøre voksne mer mottakelige for påvirkning de ellers ville stått imot. Det demokratiske utgangspunktet gjelder likevel fortsatt, men sårbarheten har betydning for hvordan ansvaret burde fordeles. Systemets ansvar øker når det kjenner til en sårbarhet brukeren selv kanskje ikke vet at blir registrert og utnyttet.⁵⁹ Sårbarhet opphever altså ikke personens myndighet, men den gjør det mindre rimelig å legge ansvaret for påvirkningen tilbake på brukeren alene.

Dette peker også mot et mer generelt spørsmål om hvor mye som egentlig kan løses gjennom individets mulighet til å trekke seg ut. «Logg av», «legg bort telefonen» eller «velg noe annet» behandler tilbaketrekning som om den alltid var et reelt alternativ. Vennskap, kunnskap, arbeid og mulige livsretninger finnes imidlertid nettopp i den digitale dimensjon, så spørsmålet blir da hva slags valg det egentlig er å trekke seg ut når systemet samtidig gir adgang til så mye av den verden vi forsøker å delta i.

At det fortsatt er mulig å legge bort telefonen, slå av en tjeneste eller velge et mer lukket system, viser at privat tilbaketrekning ikke har forsvunnet, men det viser samtidig grensen for hva denne tilbaketrekningen kan løse. Når skjermen slukkes, kan den umiddelbare deltakelsen stanse, mens informasjon som allerede er registrert, avledet eller koblet til andre opplysninger, fortsetter å virke. Den private erfaringen og informasjonens videre liv faller dermed ikke lenger nødvendigvis sammen under samme fenomen lengre. Jeg mener for mye av den moralske diskusjonen om den digitale dimensjon fortsatt blir stående ved spørsmålet om privatliv, altså hvordan vi kan trekke oss tilbake, begrense innsyn og regulere andres tilgang til oss. Dette er viktige spørsmål, men de treffer først og fremst inngangen til problemet, ikke kjernen. Når handlingen fortsetter informasjon, oppstår en annen moralsk utfordring som ikke lar seg forstå fullt ut gjennom privatliv alene. Det er ikke lenger tilstrekkelig å spørre hvor grensene rundt personen trekkes, eller om behovet for privatliv respekteres. For å undersøke denne videre informasjonsflyten som et eget moralsk problem, vil jeg derfor spørre hva informasjonen om oss blir til når den tas i bruk, hvilke handlinger og vurderinger den danner grunnlag for, og hvilke former for makt den muliggjør.

En person går ut på en scene foran et publikum. Lyset treffer ansiktet, stemmen fyller rommet, og situasjonen er i liten grad privat. La oss samtidig se for oss at ingen filmer, ingen forteller om opptredenen etterpå, og at det som ble sagt, forsvinner idet dørene lukkes bak publikum. Personen var fullt synlig, men synligheten stanser med møtet. Det som ble sagt og gjort, får ikke noe eget liv utenfor øyeblikket.

Forestillingen kan gjentas med én forskjell. Denne gangen står kameraene på. Opptaket lagres, deles og klippes, og en bemerkning som bare gav mening i rommet, kan hentes frem i en annen sammenheng flere år senere. Ansiktet gjenkjennes, opptredenen kommenteres av mennesker som aldri var til stede, og materialet kan etter hvert inngå i vurderinger personen verken kjenner til eller får anledning til å svare på. Den umiddelbare tilgangen til personen var den samme i begge situasjonene. Det som forandret seg, var hva synligheten kunne bli til under møtet og etter det var over.

Forholdet kan også være motsatt. Jeg lukker døren, setter meg alene og begynner å bla gjennom mobilen. Ingen i rommet ser hva jeg gjør. Tilbaketrekningen er virkelig, fordi jeg slipper blikkene, spørsmålene og de umiddelbare reaksjonene fra menneskene rundt meg. Samtidig kan søkene, pausene og bevegelsene mine registreres mens handlingen finner sted. De kan forbindes med tidligere bruk, fortolkes som interesser og få betydning for hva jeg eller andre senere møter. Den private tilbaketrekningen består, mens informasjonen fortsetter. Til slutt kan vi se for oss at jeg befinner meg alene på fjellet uten noe som registrerer eller overfører handlingene mine. Her er både tilgangen til meg og informasjonens videre liv tilnærmet totalt avgrenset. En lignende tilstand kan i prinsippet finnes hjemme dersom teknologien jeg bruker, er av et fullstendig lukket system hvor omverdenen aldri fører materialet videre til nye aktører eller formål.

De fire situasjonene kan ordnes langs to analytiske spørsmål. Det første gjelder hvem som har tilgang til personen og situasjonen i øyeblikket. Det andre gjelder om informasjon fra, om eller knyttet til personen fortsetter gjennom produksjon, lagring, forbindelse, fortolkning og bruk. Spørsmålene overlapper, men de varierer ikke alltid sammen. Et menneske kan være situasjonelt tilbaketrukket samtidig som informasjonen allerede beveger seg videre, og fullt synlig uten at synligheten gjøres til et varig materiale. I resten av oppgaven bruker jeg privatliv om muligheten til å regulere andres tilgang til oss i øyeblikket, mens personflyt betegner informasjonens videre personrelaterte liv. Personvern tolker jeg som normene, rettighetene og institusjonene som skal beskytte individets eget private behov, noe som primært gjelder vårt privatliv, men som også kan gjelde vår personflyt.

Personflyt er ikke en egen strøm ved siden av, eller nødvendigvis knyttet til, dataflyten. Det er simpelthen en personorientert beskrivelse av den prosessen hvor informasjon fra, om eller knyttet til spesifikke personer produseres, forbindes, fortolkes og brukes. I denne oppgaven er det primært personflyt jeg har trukkket fram som å være under særlig kritikkverdige forhold. Prosessen kan begynne i noe vi selv sier eller gjør, men også i opplysninger andre avgir, mønstre en modell produserer eller kategorier som brukes til å skille mellom mennesker. Personflytens grense og “flyt” følger derfor nødvendigvis ikke direkte fra personen alene. Det avgjørende er om prosessen springer ut fra, fortolker eller på en eller annen måte kan virke overfor oss som individ.

Til forskjell fra privatliv, så er dette begrepet forholdsmessig nøytralt. Det beskriver simpelthen et analyseobjekt ved vår moderne tilværelse og avgjør ikke på forhånd om prosessen den inngår i er verken rett eller gal. En lege kan trenge tidligere prøvesvar, et betalingssystem må forbinde opplysninger for å gjennomføre en transaksjon, og en bank kan ha gode grunner til å oppdage et svindelmønster som ingen enkelt hendelse avslører. Den samme grunnformen kan likevel inngå i overvåkning, diskriminering, manipulasjon eller urimelig makt. Fordelen ved å skille ut personflyt som et eget distinkt fenomen, er for å enklere kunne undersøke hva det egentlig er og burde være, før skaden eventuelt inntreffer. “Personlig informasjonsflyt”, som er begrepets opphav har allerede fått mye oppmerksomhet i dagens diskurs. I min lesning av personvernslitteraturen, tolker jeg det likevel som en underkategori og ikke kjernen av det vi burde se på, og tror formuleringen kan være delaktig her. Ved å samle det under en sentral betegnelse, så kan forbindelsene bli mer synlige, vi kan spørre hvilken norm som gjelder eller burde gjelde for fenomenet, hvem som berøres, hva informasjonen ble til, og hvem som kunne forme, begrense eller korrigere overgangen.

Personflyt skal dermed ikke erstatte begrepene “privatliv” og “personvern”, eller forsøke å samle alle deres problemer under én ny definisjon. Begrepet gjør et annet arbeid, nemlig å følge prosessen som ulike problemer kan oppstå gjennom, og holder personen som moralsk tyngdepunkt mens informasjonen forandrer form og funksjon. Der privatlivet er sentrumsverdien i min forståelse av personvern, har personflyten på sin side vår moralske integritet.

Westin er allerede brukt i DEL ÉN til å beskrive privatlivet som muligheten til å regulere avstanden til andre. Skillet mellom privatliv og personflyt gjør det nå mulig å se at kontrollen utfører forskjellig arbeid i hvert av disse forholdene. Jeg kan lukke døren og dermed regulere hvem som får tilgang til rommet. Denne kontrollen tilhører privatlivet. Jeg kan derimot ikke fra innsiden av rommet forsikre meg om at ingen avlytter mobilen, registrerer kommunikasjonen eller omgår grensene av infrastrukturen jeg stoler bruker. Her får personvernet, slik jeg tolker det, sin spesifikke funksjon. Normer, rettigheter, tekniske ordninger og institusjoner skal gjøre grensen til mer enn en intensjon personen selv må håndheve. De skal sørge for at tilbaketrekningen ikke oppheves av en tilgang vedkommende verken kan se eller beskytte seg mot alene.

Personvernet tar i denne forstanden utgangspunkt i personen som “berørt” eller utsatt for en spesifikk form for fare. Det retter seg mot sårbarheten som oppstår når andre kan observere, registrere, forbinde eller bruke noe vi ikke selv har en rimelig mulighet til å oppdage og avgrense. Vernet kan også beskytte relasjoner, grupper og demokratiske praksiser, og det kan følge kommunikasjonen lenge etter at den opprinnelige situasjonen er over. En fortrolig samtale blir ikke mindre beskyttelsesverdig dersom opptaket først hentes frem flere år senere. Det avgjørende er derfor ikke at personvernet stanser med det private øyeblikket, men at det fortsatt stiller et verneorientert spørsmål. Hva må beskyttes rundt personen, relasjonen eller rommet fordi andre har en tilgang og makt den berørte ikke kan møte på like vilkår?

Ved siden av privatlivets regulering av tilgang står Westins kontrollforståelse av personvern. Individet skal i rimelig grad kunne bestemme når, hvordan og i hvilken utstrekning informasjon om vedkommende kommuniseres til andre.⁶⁰ Intuisjonen er moralsk tiltrekkende fordi den behandler personen som aktiv deltaker til sitt eget informasjonsforhold, ikke bare som det forholdet handler om. Jeg burde kunne velge å fortelle noe til en venn uten at det samme dermed angår arbeidsgiveren, eller tre frem foren et publikum uten å velge alle senere publikum som teknologien kan gjøre mulig.

Forskjellen mellom de to scene eksemplene viser hvorfor kontroll ikke kan reduseres til hemmelighold. Personen valgte i begge tilfellene å være synlig og det som forandret seg da kameraet ble slått på, var hvem som fikk myndighet over synlighetens videre liv. Et utsagn som ellers ville forsvunnet med møtet, kan lagres, redigeres og gjentas når både publikum, formål og maktforhold er forandret. Westin behandlet nettopp kommunikasjonens reproduserbarhet som en egen side ved moderne overvåkning.⁶¹ Det personen gjorde offentlig, blir ikke grenseløst materiale bare fordi den opprinnelige situasjonen manglet privatliv. Den første fremføringen kan ha vært fullt valgt, mens den senere gjengivelsen gjør utsagnet virksomt i en sammenheng vi aldri tok stilling til.

Datamaskinen gjør den samme forskyvningen mindre avhengig av et synlig opptak. Arbeid, kjøp, reiser, utdanning og kontakt med offentlige institusjoner etterlater spor. Hver registrering kan være liten og saklig begrunnet, men når sporene lagres og forbindes, oppstår en kapasitet som ikke finnes i den enkelte opplysningen. Et liv kan gjøres lesbart gjennom mønsteret mellom opplysninger som opprinnelig tilhørte forskjellige situasjoner.⁶² Personflyten betegner nettopp denne fortsettelsen, altså prosessen hvor informasjon fra, om eller knyttet til personen produseres, forbindes, fortolkes og brukes.

Da forandrer også kontrollens objekt seg. Jeg kan ha tatt stilling til at én opplysning registreres for å gjennomføre en betaling, uten å ha tatt stilling til profilen som senere utvikles fra betalingshistorikken. Den nye informasjonen ble ikke gitt fra meg i samme forstand som kortnummeret eller beløpet, men ble produsert gjennom forbindelsen. Westin skrev sitt anerkjente verk Privacy and Freedom i 1967 og var allerede da oppmerksom på at registrerte «fakta» også kunne bestå av vurderinger som etter hvert fikk status som operative sannheter i administrative avgjørelser. Personen måtte derfor kunne få kjennskap til det som ble lagt til grunn, svare på det og korrigere feil.⁶³ Kontroll over den opprinnelige opplysningen er altså heller ikke for Westin det samme som kontroll over påstanden som senere bygges rundt den.

Her begynner personflyten samtidig å vise noe som ikke kan dekkes av et vern mot personlig sårbarhet. Informasjonen er ikke identisk med personen, og en profil kan nettopp være uriktig, grov eller fremmed for den som beskrives. I den digitale dimensjon er informasjon likevel en av formene vi opptrer, gjenkjennes og virker gjennom. Et utsagn bærer et uttrykk personen har formulert. Et søk kan inngå i hvordan en interesse tilskrives vedkommende. En rekke handlinger kan brukes til å organisere både det personen selv og andre senere møter. Informasjonen er derfor ikke bare noe utenfor oss som andre betrakter. Den kan bli en fortsettelse av vårt handlende nærvær, også når vi ikke lenger kontrollerer hvilken sammenheng dette nærværet føres inn i.

Analysen av overvåkningskapitalismen viste hvordan dette handlingsperspektivet kan bygges inn i en økonomisk orden. Jeg er forbruker av en tjeneste, samtidig som handlingene mine blir materiale for prediksjon, tilpasning og påvirkning. Det sentrale spørsmålet er da ikke bare hva systemet får vite om meg, eller om bruken gjør meg personlig sårbar. Jeg kan selv være lite skadelidende og likevel delta i en prosess som former hva andre ser, hvilke sårbarheter som utnyttes, eller hvilke former for påvirkning som blir lønnsomme. Personflyten gjør det dermed mulig å spørre både hva som gjøres med meg, og hva som gjøres gjennom handlingene mine.

Her ligger det en vesensforskjell mellom personvernets og personflytens moralske omfang. Personvernet beskytter først og fremst personen som berørt. Det skal sikre grenser, fortrolighet og beskyttelse mot former for tilgang og bruk som gjør mennesker sårbare for andres kunnskap og makt. Personflyten holder i tillegg personen synlig og ansvarlig som handlende deltaker. Den spør hva handlingen blir gjort til, hvilke ordninger den føres inn i, og om vi får en rimelig mulighet til å forstå hva vi bidrar til.

Begrepene overlapper derfor uten å falle sammen. Personvernet kan følge personflyten langt utover den opprinnelige situasjonen og beskytte personen mot overvåkning, eksponering, urimelig sammenstilling eller bruk. Personflyten stanser likevel ikke analytisk der personvernets “vern” er ivaretatt. Den samme prosessen kan også reise spørsmål om diskriminering, manipulasjon, sannferdig representasjon, medvirkning og ansvar. Personflytbegrepets hensikt er ikke å gjøre alle disse problemene til personvernproblemer, men heller å holde prosessen synlig frem til det er avklart hvilken moralsk målestokk som passer best.

Det er her forbindelsen til moralsk integritet oppstår. Personvernet spør om vi er tilstrekkelig beskyttet mot å bli observert, eksponert eller brukt på måter vedkommende ikke kan møte selv. Spørsmålet om integritet gjelder slik jeg har etablert i DEL ÉN, om vi kan forstå vår egen deltakelse godt nok til at autentiske verdier får en rimelig mulighet til å veilede handlingen. Jeg kan ha et godt vern mot at opplysningene brukes direkte mot meg og fortsatt mangle enhver mulighet til å vite at handlingene mine bidrar til en ordning jeg moralsk tar avstand fra. Et handlingsrom kan dermed være utilstrekkelig uten at svakheten best beskrives som en krenkelse av mitt privatliv alene.

Det er for enkelt å lese Westin som forsvarer av en modell hvor hver bruker alene skal styre hele informasjonsprosessen gjennom en serie individuelle valg. Kontrollidealet hans rommer også krav om avgrensede formål, mindre inngripende alternativer, pålitelighet, reell frivillighet og uavhengige ordninger som kan føre tilsyn med systemet.⁶⁴ Individuell kontroll blir da utilstrekkelig uten å bli uviktig. Vi burde fortsatt kunne bestemme over forståelige og avgrensede valg, blant annet hvem vi vil kommunisere med, hva som skal uttrykkes, og om en tydelig tilleggstjeneste skal aktiveres. Kontrollen over forbindelser individet ikke kan følge alene, må derimot feste seg til aktørene og institusjonene som faktisk kan se, forme og stanse dem.

Problemet med dette kontrollidealet er derfor ikke at den tar personlig myndighet for alvorlig. Det oppstår når kontrollen reduseres til det synlige valget, mens alt som produseres gjennom den videre personflyten, behandles som om det allerede lå i vårt “samtykke”. Klikket viser at vi handlet, men viser ikke alene at vi faktisk forstod infrastrukturen, forfattet profilen eller autoriserte alle senere formål. Kontrollen må fordeles etter hvor kunnskapen og påvirkningsmuligheten faktisk finnes, og ansvaret må senere vurderes i lys av den samme fordelingen.

Westins doble arv kan dermed på den ene siden tolkes som at vi burde fortsette å ha kontroll over eget privatliv og personflyt, siden vi er selv er svaret på hvordan dette burde reguleres. På den andre siden trenger vi et vern som sørger for at denne kontrollen er mulig. Personvernet sørger for dette i normativ og institusjonell form, også når informasjonen fortsetter utover den opprinnelige situasjonen. Personflyten viser imidlertid at informasjonsforholdet samtidig er et handlingsforhold og at det som står på spill, ikke bare er hvordan vi personlig rammes, men også hva handlingene våre blir gjort til, hvilke ordninger de opprettholder, og hva det er rimelig å holde oss ansvarlige for.

Westins kontrolldefinisjon av personvern kan derfor hjelpe oss til å forklare noe grunnleggende, men ikke alt. Vi kan ha delt opplysningene frivillig og likevel rammes av en uriktig sammenstilling, en beslutning vi ikke får innsyn i, eller en bruk som reiser andre moralske spørsmål enn selve tapet av privatliv. Før personflytens bredere moralske betydning kan utvikles videre, må det derfor avklares hva personvernets eget problemområde består av.

Daniel Solove begynner med en erfaring som ligner den jeg selv hadde da arbeidet med denne oppgaven startet. Personvern fremstår som høyt verdsatt og samtidig begrepslig uordnet. Ordet brukes om tilbaketrekning, hemmelighold, kroppslig selvbestemmelse, fortrolig kommunikasjon, overvåkning og kontroll over personopplysninger. Forsøk på å samle alt under én kjerne ser derfor ut til enten å utelukke problemer vi fortsatt kaller personvernproblemer, eller gjøre begrepet så vidt at det mister evnen til å skille dem fra andre former for urett.⁶⁵

Soloves svar er ikke å velge den minst dårlige definisjonen, men å anvende Ludwig Wittgensteins idé om familielikhet. Medlemmer av en familie kan ligne hverandre på forskjellige måter uten at alle deler en bestemt kjerne, og personvern kan på samme måte betegne et nettverk av overlappende problemer uten én nødvendig og tilstrekkelig egenskap.⁶⁶ Dette utgangspunktet har en viktig styrke. Det hindrer at hemmelighold, tilbaketrekning eller individuell kontroll gjøres til forklaring på alt som med rimelighet oppfattes som et personvernproblem. Teorien kan i stedet begynne i praksisene som gjør mennesker sårbare, og undersøke hvilken skade, krenkelse eller maktforskyvning hver av dem fører med seg.

Solove ordner praksisene gjennom en taksonomi som følger informasjonsprosessen fra innsamling og behandling til spredning og mer direkte inngrep. For denne oppgaven er behandlingen særlig viktig. Aggregering kan gjøre spredte og tilsynelatende ubetydelige opplysninger til et omfattende bilde. Sekundærbruk fører materialet inn i et annet formål enn det som begrunnet innsamlingen, mens eksklusjon lar en institusjon fortolke personen uten å gi vedkommende adgang til prosessen eller en reell mulighet til å svare.⁶⁷ Ingen hemmelighet trenger å bli offentliggjort før slike praksiser får moralsk betydning. Sårbarheten kan oppstå gjennom det andre vet, men også gjennom det de kan gjøre fordi kunnskapen, fortolkningen og beslutningsmyndigheten samles på én side.

Tenk igjen på opptredenen som ble filmet. Kameraet kan utgjøre overvåkning. Ansiktsgjenkjenning kan knytte opptaket til en bestemt person, mens søkbarhet gjør materialet tilgjengelig for mottakere som aldri ville funnet det tidligere. Et kort klipp kan gi økt tilgjengelighet, sekundærbruk og fordreining samtidig. I Soloves analyse av et offentlig kameraopptak som senere ble vist i mediene, er det nettopp sammensetningen av overvåkning, identifikasjon, videre bruk og offentliggjøring som forklarer hvorfor den opprinnelige synligheten ikke gjorde alt som fulgte uproblematisk.⁶⁸ Taksonomien gjør det mulig å se at én og samme prosess kan romme flere personvernproblemer uten at ett av dem alene forklarer helheten.

Denne forståelsen åpner også for konkretisring av mer strukturelle skader. Vi kan gjøres sårbar for fremtidig bruk, en feil kan spre seg mellom institusjoner, og avgjørelser kan trekkes fra et system vi ikke får adgang til. Den samlede arkitekturen kan gi én side stadig mer kunnskap og den andre stadig mindre innflytelse, selv om ingen enkelt hendelse kan isoleres som hele krenkelsen.⁶⁹ Jeg trenger derfor ikke gå bort fra personlig kontroll som personvernets ideal for å ta Soloves poeng på alvor. Et sentrum er ikke det samme som en uttømmende definisjon og personvernet kan fortsatt være verneorientert, mens sårbarhetene det skal møte, oppstår gjennom forskjellige praksiser og krever forskjellige svar.

Soloves metode har en begrensning som blir avgjørende for denne oppgaven. Taksonomien er sterk når en praksis eller skade allerede kan identifiseres, beskrives og plasseres i forhold til andre. Den er langt mer åpen om hvilket spørsmål som burde stilles før en ny teknologi har fått en stabil form, før virkningene er velkjente og før skaden har fått et navn som gjør den juridisk og politisk gjenkjennelig. Problemfamilien kan alltid utvides, men utvidelsen skjer nettopp når et nytt problem er blitt synlig nok til å føyes til familien.

Her trer frem det jeg oppfatter som en vesensforskjell mellom en juridisk og en filosofisk forståelse av problem og løsning. Forskjellen burde likevel ikke overdrives, fordi en juridisk teori kan være dypt filosofisk, og filosofi kan ikke arbeide uavhengig av konkrete erfaringer. Solove er jurist, og prosjektet hans virker slik i større grad rettet mot å ordne et uoversiktlig rettslig og institusjonelt felt. Retten må kunne kjenne igjen krenkelser, skille dem fra hverandre og utvikle regler som svarer på praksisene samfunnet faktisk står overfor. En slik orientering vil likevel ofte måtte følge teknologien tett. Praksisen endres, skadeformen blir tydelig, og kategoriene utvides eller omformes for å møte det som har oppstått.

For denne oppgavens formål er ikke dette tilstrekkelig. Etikken er ikke sterk nok dersom den alltid havner på hælene når en ny teknologi kommer på markedet. Ambisjonen må, så langt det lar seg gjøre, være å utvikle et analyseobjekt og prinsipper som ikke stadig må omskrives i møte med teknologien, men som teknologien selv må innordnes under før den i det hele tatt er skapt. Det betyr ikke at én abstrakt regel kan løse alle fremtidige konflikter fordi empirisk kunnskap vil alltid være nødvendig for å forstå hva en teknologi faktisk gjør. Den moralske undersøkelsen burde likevel kunne begynne før skadeformen er stabilisert, ved å spørre hvordan menneskelig handling og erfaring blir gjort til materiale, hvilke overganger som bygges inn, og hvem som får myndighet over det som følger. Kartet kan tegnes om når nye problemer oppstår, men det forteller ikke alene hvilke veier som aldri burde vært anlagt.

Personflyt, slik jeg har presentert det, kan spille en viktig rolle her. Begrepet gir ikke personvernet en ny essens og avgjør ikke på forhånd hvilken krenkelse som foreligger. Det følger prosessen som taksonomiens ulike problemer kan vokse frem gjennom. Solove hjelper oss å klassifisere hva som gikk galt. Personflyt gjør det mulig å rekonstruere hva informasjonen ble til, hvilke overganger som fant sted, hvem som utformet dem, og hvor en annen retning kunne ha blitt valgt. Taksonomien ordner mulige utfall, mens personflyten gjør det mulig å undersøke forbindelsene før utfallet har fått en kjent form.

Dette er viktig fordi den samme prosessen munne ut i mer enn personvernproblemer. En profil kan diskriminere, en anbefaling kan manipulere, og en informasjonsarkitektur kan gjøre det vanskeligere å forstå hva ens egen handling bidrar til. Personvernets problemfamilie forklarer viktige måter vi kan bli berørt og gjort sårbar på. Hensikten med begrepet personflyt er ikke å trekke alle andre moralske problemer inn under personvernet, men å holde analyseobjektet åpent frem til den riktige normative målestokken er avklart. Solove viser dermed hvorfor Westins kontrollforståelse ikke kan stå alene, men han gir ikke det siste prinsippet oppgaven her trenger. For å vurdere selve bevegelsen av informasjon, og ikke bare skadeformene den senere kan ende i, må forholdene beskrives gjennom roller, formål, normer og betingelser som kan anvendes også når teknologien er ny. Her kommer Helen Nissenbaum nærmere en filosofisk grammatikk som ikke bare utvides etter at skaden har oppstått, men som også gjør det mulig å spørre hva en ny teknologi må innordne seg etter.

Nissenbaum gjør informasjonsflyten til sentrum for personvernteorien. En lege kan med god grunn kjenne til en pasients sykdom, medisinbruk og tidligere behandling. De samme opplysningene får en annen moralsk betydning dersom de uten videre sendes til arbeidsgiveren. Informasjonen er ikke blitt mer intim underveis. Det som har forandret seg, er hvem som mottar den, i hvilken rolle, under hvilke vilkår og for hvilket formål. En kontekst er her ikke bare et fysisk sted, men en sosial praksis bestående av aktiviteter, roller, normer og verdier.⁷⁰

Denne forståelsen gjør det mulig å forlate tanken om at informasjon enten er privat eller offentlig i seg selv. En opplysning kan være passende i én relasjon og upassende i en annen uten at innholdet forandres. Fortroligheten mellom lege og pasient er ikke bare en vegg rundt en hemmelighet. Den er en norm for hvordan opplysningen skal bevege seg, hvem som kan bruke den, og hva slags formål bruken skal tjene. Personvernet beskytter dermed ikke bare fravær av tilgang, men integriteten i en sosial kontekst.

Nissenbaum gjør strukturen mer presis ved å spørre hvem informasjonen gjelder, hvem som sender den, hvem som mottar den, hvilken type informasjon som beveger seg, og hvilket overføringsprinsipp som gjelder.⁷¹ Et overføringsprinsipp kan være fortrolighet, behov, gjensidighet, rettmessig krav, varsel eller samtykke. Den samme opplysningen kan dermed bevege seg forsvarlig til én mottaker og uforsvarlig til en annen, selv om ingen av dem får vite mer enn den andre. Det avgjørende er ikke tilgang alene, men formen til informasjonsforholdet.

Kontroll får på denne måten en viktig, men avgrenset plass. Samtykke er ett mulig overføringsprinsipp, ikke personvernets universelle grunnlag.⁷² En akuttpasient kan med rette få informasjon behandlet uten å styre hvert ledd selv, mens et formelt «ja» på en nettside kan være utilstrekkelig dersom opplysningene føres inn i en relasjon og et formål som gjør tillatelsen vanskelig å forsvare. Spørsmålet er altså ikke bare om vi selv valgte, men hva slags praksis valget var en del av, hvilke interesser som møtes, og hvilke normer som gjør overføringen legitim. Kontekstuell integritet er heller ikke en enkel bekreftelse av det vante. En dårlig praksis blir ikke god fordi mennesker har vent seg til den, og en ny teknologi er ikke moralsk mistenkelig bare fordi den bryter med etablerte forventninger. Eksisterende normer får en innledende vekt fordi de bærer sosial erfaring, men et avvik må vurderes mot kontekstens legitime formål og mer generelle hensyn som rettferdighet, frihet og makt.⁷³

Her kommer Nissenbaum nærmere ambisjonen i denne teksten enn Soloves problemkart. Hun tilbyr ikke en liste som må suppleres hver gang teknologien produserer en ny skadeform, men en forståelse som også kan anvendes på nye frammtidige praksiser. Hvilke roller står aktørene i, hvilket formål tjener forbindelsen, hva slags informasjon produseres, og under hvilke vilkår får den bevege seg? Teknologien må da begrunnes innenfor den sosiale praksisen den hevder å tjene. At en kapasitet er ny, gjør den ikke unntatt fra spørsmålet om hvilken relasjon mellom mennesker den etablerer.

I digitale tjenester er den relevante konteksten likevel ofte vanskeligere å avgrense. Jeg sender et bilde til en venn gjennom en plattform og for meg tilhører handlingen vennskapet. Som presentert om overvåkningskapitalisme i DEL TO, så kan bildet samtidig inngå i drift av tjenesten, sikkerhetsanalyse, annonsering eller utvikling av en modell. Den samme handlingen tas opp i flere praksiser hvor aktørene har forskjellige roller og formål, noe plattformen er med på å forme. Den etablerer roller som bruker, følger, innholdsskaper og annonsør, bestemmer hvilke opplysninger som må produseres, og gjør enkelte former for videre bruk så vanlige at de etter hvert kan fremstå som naturlige. Nissenbaums teori kan også brukes til å kritisere at slike praksiser blir normalisert. Problemet er likevel at plattformen selv i stor grad fortsatt kan forme brukernes forventninger, og senere bruke disse forventningene som begrunnelse for at praksisen er akseptabel.

Dette viser både styrken og grensen ved kontekstuell integritet for mine egne spørsmål. Teorien gir et presist språk for å vurdere om informasjonen beveger seg passende mellom aktører, roller og formål. Den avgjør likevel ikke alene hvordan prosessen skal rekonstrueres når informasjonen ikke bare overføres, men produseres, forbindes og gis en ny moralsk funksjon. Den avgjør heller ikke direkte hvem som burde ha oppdaget en skjult forbindelse, hvem som må begrunne den, eller hvordan ansvaret skal fordeles når ingen kan overskue systemet alene. Vi står igjen med et spørsmål om hva som er “passende” informasjonsflyt, men hva er egentlig det?

Personflyt er ikke ment å erstatte Nissenbaums forståelse fordi kontekstuell integritet gir en sentral forståelse for relasjonene og formålene prosessen inngår i. Begrepet gjør derimot selve prosessen hvor informasjonen oppstår og forandrer karakter, mer synlig. Den spør ikke bare om en ferdig opplysning ble sendt passende, men hvordan sporet ble produsert til å begynne med, hvilke forbindelser som gjorde det til en ny representasjon, og hvilken myndighet representasjonen senere fikk. En kontekst kan være sosialt stabil og likevel være problematisk dersom den systematisk skjuler hvilke sammenhenger personens handlinger inngår i. Det kan da være vanskelig å forstå hva vi faktisk deltar i, selv om konteksten i seg selv framstår som passende. For å vurdere dette må personflyten følges videre utover den synlige handlingen, fra det personen gjør, til hvordan handlingen blir representert digitalt, og til hvordan denne representasjonen senere får betydning for oss selv eller andre.

Den digitale representasjonen av oss er en fortolkning utviklet for et formål. Den kan variere i presisjon og sannhetsverdi, men få en virkning som vi selv og andre må leve med. En profil kan styre hvordan systemer møter og vurderer meg. Det avgjørende er påstandens grunnlag, myndigheten den får og menneskets mulighet til å møte den. Her må kilden til et spor skilles fra forfatteren av det sporet senere blir til. Jeg kan ha utført den opprinnelige handlingen uten å ha valgt hva systemet skulle gjøre den til. Handlingen er min, og jeg svarer for hensikten og det jeg hadde eller senere får kunnskap om. Ansvaret mitt omfatter derimot ikke hele profilen systemet senere skaper. Den som produserer forbindelsen, er slik også med på å forfatte det handlingen blir gjort til. Den moralske blindsonen oppstår fordi systemet vet nok til å handle, mens vi som brukere mangler kunnskapen som kunne gjort egen medvirkning forståelig.

Deling av DNA viser en annen utfordrende side av saken, der vår personflyt ikke engang starter fra oss selv. Noen andre vi er i slekt med, kan for eksempel sende inn en DNA-prøve for å lære noe om egen bakgrunn. Prøven kan dermed avdekke biologiske forbindelser og informasjon om personer som aldri selv har valgt å dele sitt DNA. I en studie av 1,28 millioner mennesker i en kommersiell genetisk database fant forskerne at omfattende slektssøk ofte kunne gi treff på fjerne slektninger som, kombinert med genealogiske og demografiske opplysninger, gjorde det mulig å kraftig snevre inn søket mot bestemte personer.⁷⁴ Den berørte slektningen kan dermed bli synlig for systemet uten egen medvirkning eller kunnskap om bruken.

Denne egenskapen ved genetisk informasjon kan ha både gode og dårlige konsekvenser. På den ene siden har genetisk slektsforskning gjort det mulig å oppklare alvorlige kriminalsaker, hvor identifiseringen av den såkalte Golden State Killer i USA i 2018 er et kjent eksempel.⁷⁵ På den andre siden har genetisk informasjon blitt brukt av forsikringsselskap til å kategorisere mennesker etter risiko der personer med sykdomsdisponerende genvarianter har opplevd problemer med å få livsforsikring.⁷⁶ Eksemplene peker i hver sin retning, men illustrerer det samme. Informasjon som oppstår i én sammenheng, kan få betydning for mennesker og beslutninger langt utenfor situasjonen den opprinnelig ble samlet inn for.

Informasjon om mennesker er ofte relasjonell i denne forstanden. Det jeg gjør synlig om meg selv, kan samtidig gjøre noe synlig om andre, og min myndighet til å dele er derfor mindre enn uttrykket «mine opplysninger» kan gi inntrykk av. Eierskapet til egen personflyt består i at slike forbindelser bare kan gjøres operative gjennom en begrunnet prosess med tydelig ansvar. Det gir verken absolutt eiendomsrett til enhver sann opplysning som berører meg eller vetorett mot forsvarlige undersøkelser. Personflyt via DNA viser slik at kontrollen vi burde håndheve også må omfatte personflyt som kan eksistere før min egen handling og uavhengig av mitt eget samtykke.

Det samme grunnproblemet finnes uten en biologisk forbindelse. Et digitalt system kan skille oss ut uten å kjenne navnet vårt. Det kan kjenne igjen et mønster over tid og etter hvert trekke slutninger om personen bak. Sporet blir dermed til en slags personflyt før det er knyttet til en kjent identitet. Inferens fører prosessen videre ved å produsere nye påstander på grunnlag av mønsteret. Bevegelsen fra navnløst spor til virksom representasjon gjør her anonymitet til et langt svakere vern enn ordet ofte antyder. En studie av femten måneders mobilitetsdata fra 1,5 millioner mennesker viser hvor lite som skal til. Fire tilfeldig valgte punkter om tid og sted var nok til å gjøre 95 prosent av sporene unike i datasettet.⁷⁷ Selv om resultatet gjaldt unikhet, ikke identifikasjon, så kan avstanden til identifikasjon videre bli kort dersom enkelte steder eller tidspunkter senere kobles til denne informasjon utenfra.

Nyere forskning finner den samme sårbarheten i mer hverdagslige digitale data. En studie publisert i 2025 undersøkte nettleseratferden til 2 148 brukere i Tyskland. Listen over de fire domenene hver person besøkte mest, var unik for 95 prosent av deltakerne, og mønstrene var stabile nok til at forskerne kunne gjenkjenne 80 prosent av brukerne på tvers av sammenhengende tidsperioder.⁷⁸ Vanlige digitale vaner kan slik danne et vedvarende fingeravtrykk hvor systemet kan kjenne oss igjen, før det kjenner navnet. Kunstig intelligens utvider hva et slikt fingeravtrykk kan fortelle og i en studie presentert ved ICLR i 2024 ble språkmodeller bedt om å trekke slutninger om personlige forhold fra ekte Reddit-profiler. Modellene kunne blant annet anslå bosted, inntektsnivå og kjønn. De beste resultatene nådde opptil 85 prosent treffsikkerhet på første forslag og 95 prosent når de tre øverste forslagene ble regnet med. Enkle former for anonymisering, som å fjerne direkte kjennetegn fra teksten, ga begrenset beskyttelse.⁷⁹ Påstandene oppstod her gjennom forbindelsen mellom mange små språklige trekk og modellen gjorde slik spredte og tilsynelatende ubetydelige tegn, om til enda en form for personflyt.

Med dette oppløses på mange måter grensen for anonymitet seg, fordi den i praksis bestemmes av hva et system er i stand til å hente ut av materialet på et gitt tidspunkt. Et datasett som i dag er vanskelig å knytte til en bestemt person, kan få en annen karakter når analysekapasiteten øker eller nye hjelpedata blir tilgjengelige. Teknologisk utvikling kan gjøre eksisterende materiale som vi ikke kan inferer til personflyt i dag, mer avslørende når nye, mer avansert modeller, slippes i framtiden. Studiene beskriver ulike stadier i denne utviklingen og vi ser at et spor kan først skille én person fra andre, senere gjenkjennes over tid og til slutt brukes til å produsere nye påstander om vedkommende de ikke selv trenger å være klar over. Anonymitet er i denne forstanden en egenskap ved forholdet mellom informasjonen og teknologien som kan analysere den, ikke bare ved informasjonen selv. Det kritikkverdige oppstår da når dagens tekniske begrensninger behandles som et varig personvern. En beskyttelse som avhenger av hva systemet foreløpig ikke klarer å finne ut, kan og vil trolig forsvinne med tidens utvikling. Personflyten vil da endre karakter ukontrollert fordi teknologien gjør mer av det eksisterende materialet sporbart.

Johari-vinduet ble utviklet for menneskelige relasjoner og skiller mellom det åpne, det skjulte, det blinde og det ukjente feltet.⁸⁰ Det ukjente feltet rommer det verken jeg eller andre mennesker vet om meg. Kunstig intelligens utfordrer her denne inndelingen fordi en sammenheng kan bli virksom i en modell uten å bli kjent som en formulert påstand for noen. Den er fortsatt ukjent i menneskelig forstand, men får likevel praktisk betydning. Maskinlæring brukes ofte når de underliggende sammenhengene i dataene er ukjente. Systemet får et mål og lærer gjennom prøving og feiling hvilke mønstre som bringer det nærmere. Det kan dermed handle på en forbindelse uten at noe menneske har forstått eller vurdert den.

Følgende tenkt eksempel setter dette på spissen. En kunstig intelligens får tilgang til omfattende personflyt og et mål om å selge mest mulig sjokolade. Den tester ulike former for reklame og lærer av hva som øker salget. Over tid finner modellen at personer med en bestemt politisk tilhørighet kjøper mer, og at innhold som trekker andre i samme retning, øker salget ytterligere. Systemet begynner derfor å favorisere denne påvirkningen og politisk manipulasjon blir et middel for sjokoladesalg uten å ha vært formulert som mål.

Modellen trenger ingen uttrykt eller “bevisst” forståelse av forbindelsen. Virksomheten ser en salgsøkning, mens strategien ligger fordelt i modellens “blinde” parametere og beslutninger. Overvåkningskapitalismen gir prosessen en økonomisk retning. Det som virker, belønnes så lenge virkningen ender i profitt. Eksempelet er bevisst satt på spissen, men som Homo Faber bygger vi stadig systemer som gjør flere lignende ukjente sammenhenger operative før vi har et språk for dem. Poenget ligger derfor ikke nødvendigvis i dagens teknolologiske situasjon, men hva morgendagens modeller kan gjøre med personflyten som allerede finnes eller skapes. Hva gjør vi når det ukjente feltet blir et aktivt område for påvirkning lenge før det blir et område for menneskelig kunnskap?

Anonymitet får i en slik verden minst tre ulike betydninger. Teknisk anonymitet gjelder at navn og direkte kjennetegn er fjernet, eller at koblingen til en navngitt person er praktisk vanskelig. Juridisk vurdert anonymitet gjelder om en person etter en operativ terskel fortsatt kan identifiseres med rimelige midler. Personvernforordningen bruker allerede en slik identifiserbarhetsgrense og lar informasjon som er tilstrekkelig anonymisert, falle utenfor flere av forordningens krav.⁸¹ Moralsk anonymitet ville derimot bety at informasjonen ikke lenger bærer noen normativ forbindelse til menneskene den gjelder eller virker overfor.

Innenfor personflyt består den moralske forbindelsen så lenge et mønster brukes til å fortolke eller handle overfor mennesker. Et system har fortsatt en personflyt å svare for når det former hvordan jeg blir møtt, uten å kjenne navnet mitt. Her blir forskjellen mellom evnen til å vite og retten til å vite avgjørende. En riktig inferens kan være urettmessig å produsere eller bruke. En teknisk kapasitet sier at materialet kanskje kan besvare et spørsmål, men den moralske vurderingen avgjør om spørsmålet i det hele tatt burde stilles til å begynne med. En sannsynlighet for sykdom kan være forsvarlig å utvikle i et behandlingsforhold og uforsvarlig å produsere for å sortere arbeidssøkere. Noen forbindelser, noe kunnskap, burde slik forbli uproduserte, selv om de ligger teknisk tilgjengelige.

Vi må kreve at personflyten, på en eller annen måte, må være under kontroll av noen. Kravet omfatter all personflyt som faktisk finnes i systemet, sammen med inferensene systemet er utviklet for å kunne produsere. Det avgrenses mot enhver tenkelig påstand en ukjent framtidig teknologi i teorien kunne trekke fra materialet. Plikten gjelder også det vi i dag tolker som anonymt. Kontrollen må begynne hos den som kjenner forbindelsen, for når en virksomhet skaper eller bruker personflyt, har den kunnskap om behandlingen som personen selv ofte mangler. Virksomheten har valgt formålet og gjort forbindelsen teknisk mulig, og burde derfor også stå lovpålagt ansvarlig for å gjøre prosessen synlig. Ansvaret oppstår når behandlingen skapes, ikke når personen tilfeldigvis oppdager den og klarer å formulere den riktige forespørselen. Oppdagelses- og rapporteringsbyrden må ligge hos dem som skaper og bruker personflyten, ikke personen selv.

All lovlig personflyt burde slik være registrert, begrunnet og knyttet til et sted der rimelig kontroll kan feste seg, og der vi selv kan utøve kontroll direkte når valget er forståelig og avgrenset. Resten burde, slik det er for andre forhold som angår vår moralsk integritet, være under institusjonell kontroll. Dette gjelder også før vi vet at det finnes noe å spørre om. Samtykke kan kanskje legitimere en avgrenset behandling her og nå i forhold til vårt umiddelbare privatliv, men ikke alene hele prosessen når personflyt kan oppstå uten min handling og nye opplysninger produseres lenge etter valget.

Samtykke har ellers i språket og kulturen vår, en sterk moralsk betydning. Det forandrer retten andre har ovenfor oss og det som ellers ville vært noe andre sto ansvarlig for, kan bli noe jeg har gitt dem tillatelse til å gjøre. Kraften avhenger av et forståelig objekt, en rimelig mulighet til å avstå og reell myndighet til å gi tillatelsen. Det er tett forbundet med de moralske forutsetningene jeg la til grunn i DEL ÉN, opp imot vår moralske integritet.

I den digitale dimensjon blandes likevel flere samtykkeobjekter lett sammen. Jeg kan velge å bruke en tjeneste og utføre en synlig handling gjennom den. Jeg kan videre tillate en avgrenset behandling som er nødvendig for at handlingen skal gjennomføres. Derfra kan de samme sporene inngå i behandlinger og formål som ikke fantes i samme form da valget ble tatt. Samtykket kan legitimere de første nivåene, men ikke automatisk den senere behandlingen.

Samtykkets forståelse, frivillighet og myndighet må derfor vurderes hver for seg. Forståelsen svekkes når det ikke finnes et stabilt objekt. Frivilligheten svekkes når alternativet er å miste tilgang til noe vesentlig. Myndigheten stanser der personflyten gjelder flere mennesker eller får virkninger vi egentlig ikke burde ha rett til å godkjenne på andres vegne. Det synlige valget er mitt, mens den moralske betydningen systemet senere legger i det kan strekke seg langt videre.

Daniel Solove beskriver samtykke-modellen som personvernets selvforvaltning. Personen skal lese informasjonen og sammenligne tjenestene for å forvalte sin egen risiko gjennom en lang rekke valg.⁸² Selve oppgaven er ofte praktisk håpløs, uavhengig av hvem brukeren er. McDonald og Cranor beregnet allerede i 2008 et punktestimat på 244 timer i året dersom en amerikansk nettbruker skulle lese personvernerklæringen til hvert nettsted vedkommende besøkte én gang. Det tilsvarte omtrent førti minutter hver dag.⁸³ Beregningen gjelder datidens nettbruk og gir derfor ikke et direkte mål for i dag, som trolig er mye høyere. Den viser hva slags moralsk orden som ligger i forventningen hvor det forventes at vanlige mennesker skal bruke en betydelig del av livet på å undersøke dokumenter andre har skrevet, og at et enkelt klikk kan brukes som bevis på at de forstod.

Mer informasjon forsterker bare problemet, samtidig som det «renvasker» de som egentlig er svar skyldig i utfordringen vi står ovenfor. En lang og teknisk «rettslig riktig» erklæring kan gjøre virksomheten bedre dokumentert, uten å gjøre oss som brukere bedre orientert. Hver ny valgboks kan gi inntrykk av større kontroll samtidig som den legger enda en beslutning på den som allerede mangler oversikten. Her kan vi si at det moralske får en slags falsk overflate i samtykket. Klikket er synlig, registrerbart og lett å føre tilbake til individuelle brukere som «ansvarlige aktører». Det dokumenterer handlingen, men sier i seg selv sjeldent at samtykket faktisk var forstått, frivillig og moralsk gyldig. Likevel får infrastrukturen utseendet av frivillig tilslutning fordi den er gitt samtykkets form.

Jeg burde kunne bestemme over tydelig avgrensede og valgfrie behandlinger og forbindelser vi ikke har skapt eller kan overskue, krever åpenbart et annet vern enn det vi har i dag. Før vi blir bedt om å velge, må personflyten allerede være registrert, begrunnet og under kontroll. På flere områder finnes denne kontrollen allerede i juridisk form, men det store spørsmålet er likevel hvor tilgjengelig den i praksis egentlig er for moralske subjekter i den digitale dimensjon.

Personvernforordningen gir den registrerte sterke rettigheter. Jeg kan kreve å få vite om opplysninger om meg behandles og få innsyn i behandlingen, blant annet i formålet, kildene og hvem informasjonen deles med. Jeg kan be om retting eller sletting, protestere mot bestemte behandlinger og i enkelte tilfeller bestride automatiserte avgjørelser. Informasjonen skal dessuten gis kortfattet, forståelig og lett tilgjengelig, i et klart og enkelt språk.⁸⁴ Dette er faktisk mye av kontrollen jeg etterspør i denne oppgaven, og jeg har selv fått erfare at den kan fungere. Da jeg tok et emne i cybersikkerhet for noen år siden, ba foreleseren hele klassen om å sende Facebook en forespørsel om innsyn i informasjonen selskapet hadde om oss. Svaret jeg fikk, var en lenke til en trinnvis veiledning for hvordan jeg selv kunne hente ut informasjonen gjennom deres eget grensesnitt. Informasjonen jeg til slutt fikk tak i var oversiktlig og framstod fullstendig. Øvelsen skulle demonstrere makten personvernforordningen faktisk gir oss. Jeg hadde en rett til å spørre, og Facebook hadde en plikt til å forholde seg til forespørselen.

Samtidig illustrerte øvelsen også begrensningen i denne formen for kontroll. Facebook var et sted jeg visste at jeg hadde vært. Jeg kjente virksomheten, tjenesten og hvor jeg skulle begynne å lete. Store deler av vår digitale tilværelse ser likevel ikke slik ut. Som programvareutvikler kan jeg tilbringe en hel arbeidsdag i åpne digitale systemer, for deretter å komme hjem og fortsette med egne prosjekter. Min bruk er med andre ord svært spredt med tanke på hvor jeg har beveget meg i den den digitale dimensjon i løpet av en normal dag. Underveis beveger personflyten seg gjennom tjenester og infrastrukturer jeg bare delvis kjenner. Hvor har jeg egentlig vært? Hvem skal jeg sende forespørselen til? Hvor mange forskjellige grensesnitt må jeg oppsøke for å anvende den kontrollen personvernforordningen gir meg? Rettighetene kan her slik være juridisk sterke og samtidig praktisk fjerne, siden jeg først må kartlegge hele min digitale tilværelse for å finne stedet der de faktisk kan anvendes.

Dette orienteringsproblemet gjør at vi har fått flere av kontrollens redskaper uten å ha fått kartet som kreves for vår moralske integritet. Rettighetene følger i stor grad virksomhetene enkeltvis, mens personflyten min beveger seg på tvers av dem. Oppdagelsesbyrden har jeg allerede lagt hos aktøren som skaper eller bruker vår personflyt, så det neste spørsmålet er derfor hvordan denne synligheten burde organiseres. Uten å gå altfor teknisk inn på en slik løsning, så vil jeg likevel understreke at jeg mener det burde innebære at all lovlig personflyt knyttes til ett felles og forståelig grensesnitt. Her ser jeg for meg et sted der vi, eller noen andre på vår vegne, kan begynne og den tekniske løsningen kan fortsatt være distribuert, med rådataene som fortsatt ligger hos de ansvarlige aktørene. Det moralske kravet vil slik komme før valget av arkitektur. Ingen burde måtte lete gjennom hele den digitale dimensjon for å finne ut hvem som hevder å vite noe om dem. Grensesnittet burde heller ikke samle systemenes fortolkninger til én offisiell profil av personen, av åpenbare grunner relatert til institusjonell maktmisbruk og risiko for databrudd. Det burde vise personflyten som forbindelser og påstander, slik at det fremgår hvem som har produsert en vurdering, hva den bygger på og hvilken funksjon den har. En inferens vil slik kunne møtes som en påstand fra én bestemt aktør, med den usikkerheten og det formålet som faktisk følger den.

Samtykket er også noe som kan inngå i en slik oversikt. Vi må kunne se hva som ble presentert da samtykket ble gitt, hva tillatelsen omfattet og om behandlingen senere har endret karakter. Behandling som bygger på andre grunnlag må dermed fremtre med aktørens begrunnelse, slik at grensesnittet ikke viderefører forestillingen om at hele den digitale dimensjon hviler på brukerens klikk. Når virksomheten senere utvider formålet eller produserer en ny inferens, har personflyten fått et nytt ledd som må gjøres synlig. Denne typen plikt bygger videre på en kontrollforståelse som allerede finnes i regelverket fordi personvernforordningen krever faktisk at databehandlere fører oversikter over personflyten slik at disse kan dokumenteres overfor tilsynsmyndigheten.⁸⁵ Dagens oversikt er derfor allerede godt organisert rundt virksomheten og databehandlingen, mens løsningen jeg argumenterer for her, i større grad synliggjør oss som moralske aktører med ansvar for vår egen personflyt.

Tilgangen må samtidig være forståelig for alle det samles personflyt om. En rapport på hundrevis av sider kan være tilgjengelig uten å gjøre personen særlig klokere på hva som foregår. Det er heller ikke sikkert at min egen Facebook-erfaring ville opplevdes like forståelig for andre, mindre teknisk kompetente brukere. Alle med tilhørende personflyt i den digitale dimensjon, burde kunne se og enkelt forstå hva systemet hevder om dem, hvordan påstanden ble til og hvilken betydning den får i praksis. Utformingen må være universell, altså organisert slik at mennesker med ulike forutsetninger faktisk kan orientere seg i egen personflyt. Presisjonen burde her ligge i å gjøre det som er relevant for vår moralske integritet forståelig, fremfor å vise mest mulig teknisk detalj.

Kravet burde som jeg allerede argumentert for, også følge personflyten før den får et spesifikt navn. Dersom et system kan kjenne igjen den samme identifikatoren med en viss sikkerhet, og handle overfor den, finnes det allerede en forbindelse kontrollen kan følge. En navnløs profil burde derfor også registreres i den formen systemet faktisk bruker, og dersom den senere knyttes til en bestemt person, må historien følge med. Det samme gjelder systemets inferenskapasitet. Rapporteringsplikten burde omfatte de slutningene aktøren faktisk har gjort systemet i stand til å produsere, uten å kreve oversikt over enhver forbindelse en ukjent fremtidig teknologi hypotetisk kan finne.

Et slikt grensesnitt vil trolig rapportere feil eller være ufullstendig. Da finnes det imidlertid da en konkret påstand om virksomhetens praksis som kan undersøkes mot det systemet faktisk gjør. Til forskjell fra dagens situasjon, så ville vi ha noe å forholde oss til, når det gjaldt vår personflyt og moralske integritet i den digitale dimensjon. Problemet vil ha fått en tydeligere form hvor avviket mellom rapporten og praksisen kan identifiseres og korrigeres. Et slikt ideal krever at urapportert personflyt derfor behandles som et brudd og skjult behandling fortsatt vil kunne forekomme, men den får da en klar normativ status fremfor å være en normal del av infrastrukturen som personen selv forventes å oppdage.

Den konkrete arkitekturen krever en egen teknisk, juridisk og politisk analyse, av andre med mer egnet bakgrunn enn meg. Idealet kan likevel stadfestes her og brukes som etisk fundament for praktisk løsning. All lovlig personflyt må gjøre seg synlig på ett sted for personen den gjelder, og ansvaret for denne synligheten skal ligge hos aktørene som skaper og bruker den. Dette løser likevel ikke fullstendig utfordringen opp imot vår moralske integritet fullstendig. Slik jeg etablerte i DEL EN, så kan de fleste mennesker ikke forventes å kontrollere hver profil og forbindelse gjennom hele sitt digitale liv. Dersom ordningen fortsatt avhenger av at personen jevnlig åpner grensesnittet og undersøker alt selv, har vi bare flyttet personvernets selvforvaltning inn i et bedre, men fortsatt praktisk og moralsk klanderverdig system. Kontrollretten må derfor følges av noen som også faktisk kontrollerer på våre vegne, slik det gjøres for andre moralske verdier vi har utenfor den digitale dimensjon.

Institusjonalisert tillit betegner den delen av kontrollen som fortsetter også når personen ikke selv undersøker. Vi beholder retten til å se vår egen personflyt, stille spørsmål og handle når relevant kunnskap blir tilgjengelig, mens uavhengige kontrollinstitusjoner overtar den delen av undersøkelsesbyrden som ikke med rimelighet kan legges på hver enkelt. Verdiene og de moralske vurderingene forblir våre, mens det som fordeles, er arbeidet med å gjøre forbindelsene orienterbare. Tilliten erstatter dermed ikke personlig ansvar, men gjør det mulig å bære ansvar i et handlingsrom ingen av oss kan forventes å overskue alene.

I Norge har Datatilsynet allerede en konkret rolle her. Som et uavhengig forvaltningsorgan skal det føre kontroll med at personvernregelverket etterleves, undersøke behandlinger og kreve at feil og mangler blir rettet.⁸⁶ Jeg trenger dermed ikke selv å forstå hele den tekniske infrastrukturen før noen med bedre tilgang og kompetanse kan undersøke hvordan opplysninger om meg behandles. Idealet jeg utvikler, begynner derfor ikke i et institusjonelt tomrom, men bygger videre på ordninger vi allerede har opprettet fordi individuell oversikt ikke er tilstrekkelig.

Begrensningen ligger i hva denne kontrollen kan følge. Datatilsynets mandat følger personvernregelverket, mens personflyt slik jeg har utviklet begrepet, kan bevege seg på tvers av virksomheter og endre karakter underveis. En forbindelse kan få betydning før den er knyttet til et navn, og den samme personflyten kan berøre personvern, forbrukervern, diskriminering eller andre områder med ulike kontrollorganer. Poenget er derfor ikke at én institusjon skal overta all kontroll. Det felles grensesnittet burde i stedet gi flere ansvarlige institusjoner et felles objekt å undersøke, uten at forskjellene mellom mandatene deres forsvinner. Personen får ett sted å begynne, mens kontrollorganene får en sammenheng som gjør at det legitimt kan følge med på våre vegne.

Det avgjørende er at synligheten kan prøves mot praksisen. Aktørene som skaper eller bruker personflyt, må rapportere hvilke forbindelser de har gjort operative, hvilke formål de tjener, og hvilke inferenser systemet er utviklet for å kunne produsere. Kontrollorganet må på sin side ha tilgang til den underliggende infrastrukturen og kunne følge forbindelsene videre enn virksomhetens egen fremstilling. Når rapporten og praksisen ikke stemmer overens, må avviket kunne føre til retting, stans eller en annen reaksjon. O’Neills skille mellom tillit og tillitsverdighet gir ordningen en tydelig retning. Oppgaven er ikke å be mennesker om mer tillit, men å gjøre aktørene tillitsverdige.⁸⁷ En virksomhet kan derfor ikke alene bestemme hva som skal telle som bevis på at dens egen praksis fortjener tillit.

Grensesnittet har derfor bare verdi dersom synligheten er knyttet til en reell mulighet for oppfølging og reaksjon. Det som blir synlig, må kunne undersøkes videre. En rapportert inferens må kunne spores tilbake til grunnlaget den bygger på, sammenholdes med hvordan den faktisk brukes, og bringes inn for et organ som kan kreve en begrunnelse og følge opp praksisen. Den enkelte trenger ikke selv å gjennomføre hele denne prosessen. Synligheten kan slik legge ansvaret for oppfølging tilbake på vedkommende, men gi tilgang til aktører som faktisk kan undersøke forholdet og kreve endringer.

Den sterkeste innvendingen mot en slik løsning angår omfanget av den digitale dimensjon. Personflyt krysser virksomheter og landegrenser, informasjon kopieres raskt, og nye modeller kan få stor utbredelse før kontrollinstitusjonene rekker å forstå dem. Noen aktører vil også forsøke å unndra seg rapporteringsplikten. Dette viser at ordningen blir krevende, men ikke at ansvaret burde legges tilbake på personen som har minst tilgang til det som skjer. Datatilsynsmyndighetene i EØS samarbeider allerede i grenseoverskridende saker gjennom ordninger hvor undersøkelser og avgjørelser koordineres.⁸⁸ Samarbeidet løser ikke personflytens fulle problem, men viser at en distribuert infrastruktur kan møtes med fordelte plikter og samordnet kontroll. Rapporteringsansvaret kan ligge hos hver aktør som skaper eller bruker en forbindelse, mens informasjonen følger en standard som gjør personflyten mulig å følge på tvers.

Den digitale dimensjon er samtidig særlig egnet til en slik kontroll, fordi systemene allerede er utviklet for å bevare, forbinde og bruke spor. Utenfor det digitale kan en handling få følger gjennom relasjoner og praksiser uten at hele forløpet lar seg rekonstruere. I digitale systemer er sporbarheten ofte en del av selve funksjonen. Den samme sporbarheten som brukes til å gjøre mennesket forutsigbart for systemet, kan derfor brukes til å gjøre systemets bruk av mennesket etterprøvbar. Teknologisk utvikling trenger ikke stanse av den grunn. Inferenser som skaper verdifull kunnskap, kan fortsatt produseres og brukes når formålet, grunnlaget og virkningen kan undersøkes, og når noen faktisk svarer for konsekvensene. Evnen til å vite burde følges av en plikt til å vise hvorfor kunnskapen ble produsert, hvordan den brukes, og hvem som svarer når den får virkninger.

Homo Faber er vår skjebne, og den digitale dimensjon er en verden som vi har bygget, men som samtidig virker tilbake på oss som en betingelse for handling. Over tid kan denne uoversiktligheten fremstå som en nødvendig egenskap ved teknologien, selv om den egentlig er et resultat av valg om hva systemet skal registrere og forbinde, og hvem som får innsyn i sammenhengene det skaper.

Skjebnen er likevel åpen. Det menneskeskapte kan organiseres annerledes, og derfor kan verken uoversiktligheten eller en etikk som stadig kommer på etterskudd, aksepteres som permanente vilkår. De som gjør forbindelsene operative, må også gjøre dem synlige og begrunne dem, mens de som fører kontroll, må kunne undersøke fremstillingen mot praksisen. Vi må beholde retten til å se og handle når kunnskapen blir tilgjengelig. Først da kan ansvaret vende tilbake til valget i den utstrekning valget faktisk er forståelig og fritt. Samfunnets moralske arbeidsdeling fritar oss dermed ikke fra ansvar, men skal sikre at forbindelser som bare er synlige fra innsiden av systemet, blir undersøkt før handlingene våre får konsekvenser gjennom dem. Moralsk integritet krever at hele personflyten på en eller annen måte er under kontroll, også den delen jeg aldri kan se selv.

Moralsk integritet består i et oppriktig og rimelig forsøk på å la autentiske verdier veilede forståelse og handling. Skal dette forsøket få en rimelig mulighet til praktisk gjennomslag, må den digitale dimensjon organiseres slik at vi kan forstå og påvirke det som med rimelighet kan kreves av oss, mens forbindelsene vi som individ ikke selv kan overskue, holdes under kontroll av aktører og institusjoner som faktisk kan se, forme og korrigere dem. Ansvar må fordeles etter muligheten til å forstå, påvirke og korrigere personflyten, ikke bare etter hvem som utførte den synlige handlingen.

Jeg skiller i bunn og grunn mellom moralsk autentisitet og moralsk integritet. Ingen moral oppstår uten påvirkning og en verdi er ikke uautentisk bare fordi den er formet gjennom andre mennesker, sosiale omgivelser eller digitale systemer. Det avgjørende er om vi i rimelig grad kan gjenkjenne, undersøke og stå for verdien som vår egen, og om påvirkningen kan møtes med refleksjon, motstand og revisjon. Moralsk integritet gjelder deretter forholdet mellom denne autentiske verdien og det vi forsøker å gjøre. Den avgjør ikke om verdien selv er riktig, men om vi redelig forsøker å la den få betydning i handlingen.

Integriteten i forsøket må samtidig holdes atskilt fra både verdiens praktiske gjennomslag og handlingsrommets betingelser. Et menneske kan handle på et rimelig grunnlag og likevel mislykkes, eller oppnå et godt resultat gjennom flaks uten at forsøket var ansvarlig. Resultatet har moralsk betydning, men viser ikke alene hvordan vi har forholdt oss til verdien da handlingen ble utført. Moralsk integritet krever her både moralsk intensjon og moralsk orientering. Vi må ville la verdien påvirke valget og gjøre et rimelig forsøk på å forstå hva verdien krever i den konkrete situasjonen.

Hvor omfattende denne orienteringen må være, avhenger av hva som står på spill, hvilke faresignaler som er synlige, hvor lett relevant informasjon kan finnes, og hvilken kompetanse, makt og kontroll aktøren har. Uvitenhet blir klanderverdig når vi hadde rimelig grunn og mulighet til å undersøke, men lot være. På samme måte kan handling under usikkerhet være redelig når vi oppriktig har undersøkt så langt det var rimelig, erkjenner det som fortsatt er ukjent, og er villig til å korrigere praksisen når ny kunnskap blir tilgjengelig.

Vi trenger samtidig moralske forutsetninger som tid, overskudd, språk, tilgang til relevant informasjon og en reell mulighet til å handle på det vi ønsker og forstår, samt også en viss avstand til de påvirkningene man forsøker å vurdere. Privatlivet har her en særlig betydning fordi en tanke må kunne undersøkes, prøves og eventuelt forkastes før den behandles som et uttrykk for hvem vi autentisk er. Uten et privat rom for uferdig refleksjon kan undersøkelsen begynne å rette seg mot hvordan tanken vil bli fortolket av andre, fremfor mot om den er autentisk eller rimelig.

Privatliv i seg selv er likevel ikke en tilstrekkelig betingelse for moralsk integritet i den digitale dimensjon. En person kan være alene bak en lukket dør, samtidig som søk, pauser, formuleringer og bevegelsesmønstre registreres og føres videre. Den situasjonelle tilbaketrekningen kan være reell, mens informasjonens videre liv fortsetter. Problemet gjelder hva handlingen senere blir gjort til, hvilke sammenhenger den inngår i, og hva som gjøres mulig gjennom den.

Den digitale dimensjon er et menneskeskapt handlingsrom som kan utvide vår handlekraft og gi adgang til relasjoner, kunnskap, selvutfoldelse og livsmuligheter som ellers ville vært utilgjengelige. Digitale fellesskap kan gi oss en unik form vi kan handle gjennom, anbefalingssystemer kan gjøre nye livsretninger synlige, og språkmodeller kan bidra til at egne vurderinger og uttrykksmåter blir tydeligere. Selvutfoldelse og autentisitet ligger ikke i fraværet av teknologisk påvirkning, men i forholdet vi utvikler til det påvirkningen gjør mulig, nærmere bestemt om vi kan undersøke, tilegne oss og avvise det som møter oss.

Den samme teknologien som utvider mulighetene våre, organiserer imidlertid også omgivelsene vi handler innenfor. Som Homo Faber skaper mennesket redskaper og infrastrukturer som senere virker tilbake som betingelser for nye handlinger. Digitale systemer avgjør hva som blir synlig, hvilke alternativer som fremstår som nærliggende, hvordan uttrykk belønnes, og hvilke spor handlingene etterlater. Et system kan være svært avansert og likevel moralsk orienterbart dersom handlingens formål og videre forbindelser er rimelig avgrenset. Problemet oppstår når systemet åpner handlingen mot nye aktører, formål og former for bruk som ikke fremtrer i den situasjonen vi selv handler i.

Skillet mellom åpne og lukkede digitale systemer viser hvorfor en enkel handling ikke nødvendigvis er en enkel moralsk handling. Et søk, et trykk eller en melding kan fremstå lokalt og forståelig gjennom grensesnittet, samtidig som det inngår i en distribuert prosess av registrering, sammenstilling, fortolkning og videre bruk. Brukeren møter en enkel overflate, mens systemet behandler handlingen gjennom en bakgrunn av forbindelser vi ikke har tilsvarende tilgang til. Ansvaret er i dag fordelt mellom utviklere, plattformer, underleverandører og brukere, hvor ingen her virker å vurdere den moralske helheten.

Overvåkningskapitalismen tydeliggjør hvordan åpne digitale system kan få en økonomisk og styrende funksjon. Handlinger brukes ikke bare til å utføre oppgavene vi ba om, men som råmateriale for å utvikle prediksjoner og organisere senere situasjoner. Avstanden mellom handlingens mening for oss og dens funksjon for systemet blir dermed en del av selve verdiskapingen. Når observasjon brukes til å gjøre bestemte reaksjoner mer sannsynlige, påvirkes både betingelsene for autentisitet og muligheten til å forstå hva egen deltakelse bidrar til. Myndige mennesker må likevel fortsatt møtes som noen som står for det de sier og gjør, også når informasjonsmiljøet er algoritmisk organisert.

En persons ansvar og systemets makt må her vurderes samtidig. Skjult, personlig og kontinuerlig påvirkning gjør den moralske orienteringen vanskeligere og øker ansvaret hos dem som organiserer påvirkningen. Dette gjelder særlig når systemet møter barn eller andre sårbare menneskegrupper. Sårbarhet opphever heller ikke myndigheten, men gjør det mindre rimelig å føre hele ansvaret tilbake til personen. Heller ikke tilbaketrekning kan være det generelle svaret, fordi som Homo Faber har vi allerede dypt forankret våre liv i den digitale dimensjon hvor aspekt som arbeid, kunnskap, offentlige tjenester, vennskap og mulige livsretninger finnes nettopp her.

Begrepet “personflyt” gjør den kritikkeverdige prosessen til et eget analyseobjekt. Jeg avgrenser privatliv til å gjelde muligheten til å regulere andres tilgang til oss, mens personflyt betegner prosessen hvor informasjon fra, om eller knyttet til personer produseres, forbindes, fortolkes og brukes. Personvern forstår jeg videre som normer, rettigheter og institusjoner som skal beskytte mennesker mot former for tilgang og bruk de ikke selv kan møte på like vilkår. Personflyten har en fot innenfor personvernet, men strekker seg også utenfor da den mer generelt angår oss handlende, moralske aktører.

Westins kontrollforståelse av personvern viser hvorfor vi må behandles som deltaker i informasjonsforholdet, men også at kontroll ikke kan reduseres til at individet selv skal styre hele prosessen. Soloves problemfamilie synliggjør hvordan aggregering, sekundærbruk, eksklusjon og andre praksiser kan skape forskjellige former for sårbarhet, men at denne klassifikasjonen likevel i sin definisjon vil måtte begynne etter at problemet har fått en gjenkjennelig form, da skaden ofte har skjedd. Nissenbaums kontekstuelle integritet gir på sin side et bedre filosofisk språk for å undersøke roller, formål, informasjonstyper og overføringsprinsipper. Personflyt bygger videre på disse innsiktene ved å peke på en mer tidløs og universell prosess, som kan vurderes før en bestemt skade er fastslått. Begrepet gjør det enklere å fokusere på hvordan et spor oppstår, hvilke forbindelser som omformer det, hvem som gir det en ny funksjon, og hvor ansvaret for overgangen burde plasseres.

Her må kilden til et digitalt spor skilles fra forfatteren av representasjonen sporet senere blir til. Vi kan ha utført den opprinnelige handlingen uten å selv ha valgt profilen, kategorien eller inferensen systemet produserer. I dag forblir handlingen likevel i stor grad vår egen, og vi må svare for hensikten, de kjente forbindelsene og det som senere blir forståelig. Det er samtidig det digitale systemet som ofte har forfattet det skjulte handlingen blir gjort til og det er sjeldent at vi som individ faktisk forstår eller har autoriserte alle påstander, formål og virkninger som senere ble bygget rundt oss.

Personflyt kan også oppstå uten vår egen konkrete handling. Genetisk informasjon kan gjøre slektninger synlige gjennom andres valg, og digitale mønstre kan brukes til å skille ut, gjenkjenne og fortolke personer før et navn er kjent. Kunstig intelligens kan produsere inferenser fra forbindelser ingen mennesker tidligere har formulert, og gjøre det ukjente praktisk virksomt. Teknisk anonymitet er derfor ikke det samme som moralsk anonymitet. Teknologiens begrensede analysekapasitet kan heller ikke behandles som et varig vern, fordi den samme personflyten som i dag kanskje med rette kan tolkes anonymt, kan få en annen betydning når nye data eller mer avanserte modeller, blir tilgjengelige i framtiden. Evnen til å produsere en påstand gir heller ikke i seg selv rett til å produsere eller bruke den, og mye personflyt burde derfor forbli uprodusert.

Samtykke kan ikke løse dette ansvarsproblemet alene da dets moralske kraft forutsetter et forståelig og avgrenset objekt, en rimelig mulighet til å avstå og reell myndighet til å gi tillatelsen. Disse forutsetningene svekkes når vi står ovenfor en situasjon som endrer form over tid, når alternativet er å miste tilgang til noe vesentlig, eller når personflyten også berører andre mennesker. Et samtykke kan kanskje legitimere en lokal og konkret forståelig handling, men ikke automatisk alle senere forbindelser, formål og inferenser. Når et registrert klikk brukes som bevis på forståelse av en infrastruktur vi egentlig ikke kan overskue, får samtykket en falsk moralsk overflate. Det gjør samtidig ansvaret til dem som skapte forbindelsene mindre synlig, fordi problemet framstår som løst, når det egentlig bare er skjult.

Den første betingelsen for at moralsk integritet i den digitale dimensjon skal få praktisk gjennomslag, er derfor at personflyten må være under kontroll før individet blir bedt om å velge. Forståelige og avgrensede valg burde fortsatt ligge hos oss selv. Oppdagelsesbyrden må ligge hos dem som skaper og bruker forbindelsene, ikke hos personen som tilfeldigvis rammes av eller oppdager dem. All lovlig personflyt burde kunne møtes fra ett forståelig utgangspunkt hvor det fremgår hvem som har produsert en påstand, hva den bygger på, hvilket formål den tjener, hvilken usikkerhet den har, og hvilken praktisk betydning den får. Samtykker, formålsendringer og nye inferenser må fremtre som nye ledd i prosessen, ikke skjules som om de allerede var autorisert gjennom den første handlingen.

Et slikt utgangspunkt er likevel ikke tilstrekkelig dersom vi fortsatt forventes å kontrollere alle forbindelsene alene. Den delen av orienteringsbyrden som overstiger individets rimelige kapasitet, må bæres gjennom institusjonalisert tillit. Uavhengige kontrollorganer må ha kompetanse og tilgang til å beskytte vår personflyt, og avvik må kunne føre til korrigering eller stans. Personen beholder ansvar for den synlige handlingen, for forbindelser vedkommende kjenner, for faresignaler det var rimelig å reagere på, og for ny kunnskap når den blir tilgjengelig. Når informasjonen er forståelig, alternativene reelle og handlingens videre betydning rimelig avgrenset, får våre valg altså tilsvarende større moralsk vekt. Aktørene som utformer og kontrollerer systemet, bærer ansvar for forbindelsene de skaper, formålene de velger og inferensene de gjør operative. Når de også har størst kunnskap, påvirkningsmulighet og økonomisk interesse, blir plikten til å undersøke, synliggjøre, begrunne og korrigere sterkere. Institusjonene bærer ansvar for den delen av kontrollen ingen enkeltperson burde forventes å utføre selv, og for å sørge for at ansvaret ikke forsvinner mellom mange aktører. Dersom ingen har oversikt over helheten, må de som har myndighet til å organisere et slikt system, også ha ansvar for å etablere den.

Moralsk integritet i den digitale dimensjon krever dermed ikke at hvert menneske selv kontrollerer hele personflyten. Et slikt krav ville gjøre integritet til et umenneskelig ideal og samtidig frita selskapene som faktisk skaper og styrer forbindelsene. Integriteten ligger i vårt redelige forsøk selv når handlingsrommet hindrer verdien i å få praktisk gjennomslag. Dersom mennesker skal få rimelige vilkår for å stå for handlingene sine, må likevel hele personflyten på en eller annen måte være under ansvarlig kontroll, enten direkte hos oss selv der valget er forståelig og avgrenset, eller institusjonelt der forbindelsene overstiger det vi som individ kan forventes å kontrollere selv.

Til slutt står vi igjen med den tilsynelatende enkle handlingen foran skjermen. At vi trykker, søker eller skriver, gjør den synlige handlingen til vår, men det gjør ikke hele det videre livet systemet gir den, til vårt ansvar alene. Mennesket kan handle med moralsk integritet i den digitale dimensjon selv når vi ikke kan overskue alle forbindelsene, så lenge vi oppriktig og rimelig forsøker å la autentiske verdier veilede det vi faktisk kan forstå og påvirke. Skal dette forsøket også få en mulighet til praktisk gjennomslag, må forbindelsene utenfor vår egen oversikt være under kontroll av aktører og institusjoner som faktisk kan se, forme og korrigere dem. Som Homo Faber har vi bygget en verden hvor små handlinger kan føres langt videre enn blikket vårt rekker. Kravet kan derfor ikke være at hvert menneske skal følge dem hele veien, men at det som forsvinner ut av individets synsfelt, ikke samtidig forsvinner ut av ansvarets rekkevidde. Vi har selv skapt systemene som fører handlingene våre videre, og må derfor også skape de moralske vilkårene som gjør at den verden de former, forblir en verden vi kan ta fortsatt kan ta ansvar for.

Ananny, Mike, og Kate Crawford. «Seeing without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability». New Media & Society 20, nr. 3 (2018): 973–89.

Arendt, Hannah. The Human Condition. 2. utg. Chicago: University of Chicago Press, 1998.

Aristoteles. Nicomachean Ethics. Oversatt av Terence Irwin. 3. utg. Indianapolis: Hackett Publishing Company, 2019.

boyd, danah. «Social Network Sites as Networked Publics: Affordances, Dynamics, and Implications». I A Networked Self: Identity, Community, and Culture on Social Network Sites, redigert av Zizi Papacharissi, 39–58. New York: Routledge, 2010. https://doi.org/10.4324/9780203876527-8.

Bozdag, Engin, og Jeroen van den Hoven. «Breaking the Filter Bubble: Democracy and Design». Ethics and Information Technology 17, nr. 4 (2015): 249–65. https://doi.org/10.1007/s10676-015-9380-y.

Christman, John. «Autonomy and Personal History». Canadian Journal of Philosophy 21, nr. 1 (1991): 1–24.

Cohen, Julie E. «What Privacy Is For». Harvard Law Review 126, nr. 7 (2013): 1904–33.

Covington, Paul, Jay Adams og Emre Sargin. «Deep Neural Networks for YouTube Recommendations». I Proceedings of the 10th ACM Conference on Recommender Systems, 191–98. New York: Association for Computing Machinery, 2016.

Datatilsynet. «Datatilsynets oppgaver». U.å. Lest 26. Mai 2026. https://www.datatilsynet.no/Om-Datatilsynet/Oppgaver/.

Datatilsynet. «Europeisk samarbeid i grenseoverskridende saker». Sist endret 30. juni 2025. https://www.datatilsynet.no/regelverk-og-verktoy/internasjonalt/grenseoverskridende-behandling-av-personopplysninger/.

de Montjoye, Yves-Alexandre, César A. Hidalgo, Michel Verleysen og Vincent D. Blondel. «Unique in the Crowd: The Privacy Bounds of Human Mobility». Scientific Reports 3 (2013): 1376. https://doi.org/10.1038/srep01376.

Erlich, Yaniv, Tal Shor, Itsik Pe’er og Shai Carmi. «Identity Inference of Genomic Data Using Long-Range Familial Searches». Science 362, nr. 6415 (2018): 690–94. https://doi.org/10.1126/science.aau4832.

Feinberg, Joel. «The Child’s Right to an Open Future». I Whose Child? Children’s Rights, Parental Authority, and State Power, redigert av William Aiken og Hugh LaFollette, 124–53. Totowa, NJ: Rowman and Littlefield, 1980.

Gillespie, Tarleton. «The Relevance of Algorithms». I Media Technologies: Essays on Communication, Materiality, and Society, redigert av Tarleton Gillespie, Pablo J. Boczkowski og Kirsten A. Foot, 167–94. Cambridge, MA: MIT Press, 2014.

Goldman, Alvin I. «Experts: Which Ones Should You Trust?» Philosophy and Phenomenological Research 63, nr. 1 (2001): 85–110.

Hardwig, John. «Epistemic Dependence». The Journal of Philosophy 82, nr. 7 (1985): 335–49.

Hume, David. A Treatise of Human Nature: Being an Attempt to Introduce the Experimental Method of Reasoning into Moral Subjects. Redigert av David Fate Norton og Mary J. Norton. Oxford: Oxford University Press, 2000.

Ibelin. Regissert av Benjamin Ree. Medieoperatørene AS, 2024. Dokumentarfilm, 104 min. Netflix.

Jakesch, Maurice, Advait Bhat, Daniel Buschek, Lior Zalmanson og Mor Naaman. «Co-Writing with Opinionated Language Models Affects Users’ Views». I Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems, artikkel 111, 1–22. New York: Association for Computing Machinery, 2023. https://doi.org/10.1145/3544548.3581196.

Joerges, Bernward. «Do Politics Have Artefacts?» Social Studies of Science 29, nr. 3 (1999): 411–31. https://doi.org/10.1177/030631299029003004.

Koops, Bert-Jaap. «The Concept of Function Creep». Law, Innovation and Technology 13, nr. 1 (2021): 29–56. https://doi.org/10.1080/17579961.2021.1898299.

Kosinski, Michal, David Stillwell og Thore Graepel. «Private Traits and Attributes Are Predictable from Digital Records of Human Behavior». Proceedings of the National Academy of Sciences of the United States of America 110, nr. 15 (2013): 5802–5.

Luft, Joseph. «The Johari Window: A Graphic Model of Awareness in Interpersonal Relations». Human Relations Training News 5, nr. 1 (1961): 6–7.

Mani, Anandi, Sendhil Mullainathan, Eldar Shafir og Jiaying Zhao. «Poverty Impedes Cognitive Function». Science 341, nr. 6149 (2013): 976–80.

McDonald, Aleecia M., og Lorrie Faith Cranor. «The Cost of Reading Privacy Policies». I/S: A Journal of Law and Policy for the Information Society 4, nr. 3 (2008): 543–68. Forfatternes manus. https://aleecia.com/authors-drafts/readingPolicyCost-AV.pdf.

McFall, Lynne. «Integrity». Ethics 98, nr. 1 (1987): 5–20.

Milli, Smitha, Micah Carroll, Yike Wang, Sashrika Pandey, Sebastian Zhao og Anca D. Dragan. «Engagement, User Satisfaction, and the Amplification of Divisive Content on Social Media». PNAS Nexus 4, nr. 3 (2025): pgaf062. https://doi.org/10.1093/pnasnexus/pgaf062.

Muller, Cassandra, Lyndon Gallacher, Louise Keogh, et al. «‘Uninsurable Because of a Genetic Test’: A Qualitative Study of Consumer Views about the Use of Genetic Test Results in Australian Life Insurance». European Journal of Human Genetics 32 (2024): 827–36. https://doi.org/10.1038/s41431-024-01602-1.

Nagel, Thomas. «Moral Luck». I Mortal Questions, 24–38. Cambridge: Cambridge University Press, 1979.

Nelson, Boel, Elena Pagnin og Aslan Askarov. «Metadata Privacy Beyond Tunneling for Instant Messaging». I 2024 IEEE 9th European Symposium on Security and Privacy (EuroS&P), 697–723. IEEE, 2024. https://doi.org/10.1109/EuroSP60621.2024.00044.

Nickerson, Raymond S. «Confirmation Bias: A Ubiquitous Phenomenon in Many Guises». Review of General Psychology 2, nr. 2 (1998): 175–220.

Nissenbaum, Helen. «Accountability in a Computerized Society». Science and Engineering Ethics 2, nr. 1 (1996): 25–42. https://doi.org/10.1007/BF02639315.

Nissenbaum, Helen. «Privacy as Contextual Integrity». Washington Law Review 79, nr. 1 (2004): 119–57.

Nissenbaum, Helen. Privacy in Context: Technology, Policy, and the Integrity of Social Life. Stanford, CA: Stanford University Press, 2010.

Oliveira, Marcos, Junran Yang, Daniel Griffiths, Denis Bonnay og Juhi Kulshrestha. «Browsing Behavior Exposes Identities on the Web». Scientific Reports 15, nr. 1 (2025): 36066. https://doi.org/10.1038/s41598-025-19950-3.

O’Neill, Onora. «Trust and Transparency». Forelesning 4 i Reith Lectures 2002: A Question of Trust. BBC Radio 4, 2002. https://downloads.bbc.co.uk/rmhttp/radio4/transcripts/20020427_reith.pdf.

Phillips, Chris. «The Golden State Killer Investigation and the Nascent Field of Forensic Genealogy». Forensic Science International: Genetics 36 (2018): 186–88. https://doi.org/10.1016/j.fsigen.2018.07.010.

Radesky, Jenny S., Yolanda Reid Chassiakos, Nusheen Ameenuddin, Dipesh Navsaria og Council on Communications and Media. «Digital Advertising to Children». Pediatrics 146, nr. 1 (2020): e20201681. https://doi.org/10.1542/peds.2020-1681.

Richards, Neil M. «The Dangers of Surveillance». Harvard Law Review 126, nr. 7 (2013): 1934–65.

Smith, Holly M. «Culpable Ignorance». The Philosophical Review 92, nr. 4 (1983): 543–71.

Smith, Holly M. «The Subjective Moral Duty to Inform Oneself before Acting». Ethics 125, nr. 1 (2014): 11–38.

Solove, Daniel J. «A Taxonomy of Privacy». University of Pennsylvania Law Review 154, nr. 3 (2006): 477–564. https://doi.org/10.2307/40041279.

Solove, Daniel J. Understanding Privacy. Cambridge, MA: Harvard University Press, 2008.

Solove, Daniel J. «Introduction: Privacy Self-Management and the Consent Dilemma». Harvard Law Review 126, nr. 7 (2013): 1880–1903. https://harvardlawreview.org/print/vol-126/introduction-privacy-self-management-and-the-consent-dilemma/.

Staab, Robin, Mark Vero, Mislav Balunović og Martin Vechev. «Beyond Memorization: Violating Privacy via Inference with Large Language Models». I Proceedings of the Twelfth International Conference on Learning Representations (ICLR 2024). 2024. https://openreview.net/forum?id=kmn0BhQk7p.

Susser, Daniel, Beate Roessler og Helen Nissenbaum. «Online Manipulation: Hidden Influences in a Digital World». Georgetown Law Technology Review 4, nr. 1 (2019): 1–45. https://georgetownlawtechreview.org/online-manipulation-hidden-influences-in-a-digital-world/GLTR-01-2020.

Taylor, Charles. «The Politics of Recognition». I Multiculturalism: Examining the Politics of Recognition, redigert av Amy Gutmann, 25–73. Utvidet utg. Princeton, NJ: Princeton University Press, 1994.

Tomasello, Michael, og Amrisha Vaish. «Origins of Human Cooperation and Morality». Annual Review of Psychology 64 (2013): 231–55.

van Dijck, José. «Datafication, Dataism and Dataveillance: Big Data between Scientific Paradigm and Ideology». Surveillance & Society 12, nr. 2 (2014): 197–208. https://doi.org/10.24908/ss.v12i2.4776.

Verbeek, Peter-Paul. «Materializing Morality: Design Ethics and Technological Mediation». Science, Technology, & Human Values 31, nr. 3 (2006): 361–80. https://doi.org/10.1177/0162243905285847.

Westin, Alan F. Privacy and Freedom. New York: Atheneum, 1967. EPUB.

Williams, Bernard. «Ethical Consistency». I Problems of the Self: Philosophical Papers 1956–1972, 166–86. Cambridge: Cambridge University Press, 1973.

Winner, Langdon. «Do Artifacts Have Politics?» Daedalus 109, nr. 1 (1980): 121–36. https://www.jstor.org/stable/20024652.

Young, Iris Marion. Responsibility for Justice. New York: Oxford University Press, 2011.

Zuboff, Shoshana. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. New York: PublicAffairs, 2019. EPUB.