AI- og robotetikk – Fire fremtidsscenarier og seks etiske utfordringer

Vil vi oppleve teknologisk singularitet i 2045 eller vil verden kanskje «bare» sjangle videre? Vil vi oppleve det jobbløse samfunnet eller er vi bare midt i en ny industriell revolusjon som skaper nye spennende jobber? Uansett, vi vil møte flere etiske utfordringer i årene fremover.

Fire «fremtidsscenarier»:

Singularitetsåret 2045? Både forskere og forfattere av science fiction har vært opptatt av tidspunkt da kunstig intelligens passerer den menneskelige intelligens. Moore’s lov, er blant inspirasjonene og allerede i 2030 er kunstig intelligens på høyden og 2045 er antydet som året da det man kaller teknologisk singularitet inntreffer og kunstig intelligens tar over styringen av den videre utvikling av liv på jorden. Etter dette vil vi få en videre eksplosiv vekst i kunstig intelligens som raskt parkerer oss mennesker. Menneskene blir «overflødige».

En verden som sjangler videre?  Slår dette til vil vi etter hvert oppleve å leve i en verden med stadig større forskjeller i leve- og livsstandard, som er blå, grønn og idyllisk i noen avgrensede geografiske områder, men skitten og svært utrygg med lokale kriger og krigsområder mange andre steder på jorden.

Et samfunn uten jobber?  Det finnes flere oppslag som beskriver en slik fremtidsvisjonen. De fleste jobber automatiseres, også mye av det akademikere og forskere i dag holder på med. Mange mister jobbene de har og det kommer få nye. Borgerlønn må innføres i stor skala for å sikre menneskene som konsumenter.

En ny industriell revolusjon? Her vises det til tidligere industrielle revolusjoner som over tid har skapt flere jobber enn de som er blitt borte, og også økt velstand. Kunstig intelligens blir et personlig verktøy som gjør arbeid mer kreativt og inspirerende.

Seks områder for etiske utfordringer:

Arbeidsløshet – Hva skjer om/når jobbene blir borte, eller blir de borte? Automatisering av arbeid fører til at fysisk arbeid erstattes av mer komplekse roller for ansatte. Lastebilsjåfører vil som eksempel i løpet av få år møte konkurranse fra lastebiler som kjører selv, med færre ulykkeshendelser, under overvåkning av et fåtall operatører i automatiserte trafikksentraler. I dag lever vi av å selge tiden vår til arbeidsgivere. Dette vil kanskje bli vanskeligere i fremtiden. Hva skal vi da leve av? Hva skal vi bruke tiden til? Mye avhenger av i hvilken retning samfunnsutviklingen bringer oss. Mot et samfunn uten jobber eller en ny, jobbskapende, industriell revolusjon, og av oss selv, våre vurderinger, refleksjoner og valg?

Ulikhet – Hvordan fordeler vi rikdom skapt av maskiner? Vår økonomi er basert på kompensasjon for bidrag til økonomien, dvs. lønnsarbeid for de fleste av oss. Kunstig intelligens vil føre til jobbkutt. De som levere av eierskap i virksomheter der kunstig intelligens er hoveddrivkraft vil kunne hente ut større utbytte til seg selv. Dette ser vi allerede i dag i form av superrike gründere i store internasjonale selskap. Utviklingen drar også med seg lønnsnivået blant meklere, ledere og rådgivere i andre selskaper som automatiserer, outsourcer og leverer «gode resultater» for eierne. Hvordan fordele godene slik at ikke noen få blir stadig rikere og stadig flere blir fattigere? Også her finnes det valg- og påvirkningsmuligheter verdt å reflektere rundt.

Menneske-maskininteraksjon – Hvordan vil samvær med roboter påvirke vår atferd? Vi er i starten av en utvikling der vi i stadig større utstrekning vil kommunisere og interagere med roboter med kunstig selvutviklende intelligens. Vanlig samspill mellom mennesker er begrenset av våre fysiske forutsetninger. Vi må hvile og sove og ønsker noen ganger å være for oss selv. Kunstige intelligenser vil ikke ha slike begrensninger. Hvordan vil det påvirke våre liv? Hva vil det gjøre med oss? Opplagt verdt og reflektere over før vi er der.

Kunstig dumskap og rasisme – Hvordan verger vi oss mot kunstig uforstand? Intelligens kommer fra læring. Slik er det for oss og slik er det for kunstig intelligens. Den «trenes opp» ved «å lære seg» å følge spesielle handlingsmønstre knyttet til ulike former for input. Så testes den ut med nye former for input for å se om den handler fornuftig. Denne fasen kan selvsagt ikke dekke alle mulige fremtidige eventualiteter og «kunstige misforståelser» kan føre til utilsiktede resultater skapt av kunstig intelligens på egen hånd eller som følge av manipulasjon fra mennesker. Det er mennesker med egne tanker, ideer og kanskje fordommer som står for programmering og trening. Hvordan går vi klar av «kunstig» uforstand, utilsiktede konsekvenser, eller ondskap?

Singularitet – Hvordan beholder vi kontrollen over komplekse intelligente systemer? Menneskene er på toppen av næringskjeden i kraft av oppfinnsomhet og intelligens. Vi kan ved hjelp av våre arbeidsredskaper kontrollere andre skapninger på planeten som er både større, sterkere og raskere enn oss. Når det gjelder kunstig intelligens kan vår posisjon som de fremste endre seg. Vil kunstig intelligens en dag ta over uten at vi kan «dra ut stikkkontakten» fordi den har gjort seg i stand til å forsvare seg selv? Vi kan befinne oss i singularitets-scenariet omtalt innledningsvis. Hva da?

Roboters rettigheter – Skal AI-roboter behandles som mennesker eller? Gjennom hjerne- og atferdsforskning har vi nå gjort oss kjent med basale menneskelige opplevelser av f.eks. belønning og aversjon. Vi deler disse mekanismene med dyr rundt oss og vi bygger dem trolig også inn i kunstig intelligens gjennom vår «opptrening». Foreløpig er kunstig intelligens langt fra å bære i seg slike menneskelige egenskaper, men legg til noen generasjoner med systemutvikling, hvor er vi da? Vil vi da oppleve at «maskiner» kan føle smerte? Må vi  vurdere å innrømme disse en form for «maskinrettigheter» på linje med menneskeretttighetene vi påberoper oss selv?

Fremstillingen av områder for etiske utfordringer bygger på en artikkel publisert på World Economic Forums nettside, her sterkt forkortet. De innledende scenariene er tatt med for å vise at samfunnsutvikling ikke er en reise langs et fastlagt spor. Tekna Etiske råd mener at det er viktig å reflektere rundt utfordringer som dette og de etiske implikasjonene som følger med. Bare slik kan vi hver for oss gi bidrag til styring av utviklingen både av teknologi og samfunn mot en fremtid det blir godt å leve i.

 

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *