Hvor går Samfunn 5.0?

Kunstig intelligens (KI) er i ferd med å transformere samfunnsstrukturen vår og vil være en sentral del av det vi kan kalle Samfunn 5.0. Dette er den femte fundamentale type samfunn etter jeger- og samlersamfunnet, landbrukssamfunnet, industrisamfunnet og informasjonssamfunnet.

KI blir stadig mer kapabel og vil forme vår fremtid. Noen synes det er positivt, men litt skummelt. Noen synes det er negativt og veldig skummelt, mens mange ikke har dannet seg en mening. Dette innlegget er rettet mot siste gruppe.

Her er fem sentrale spørsmål om hvordan en mulig fremtid i Samfunn 5.0 kan arte seg:

1. Er KI den første teknologien som vil føre til massiv arbeidsledighet?
2. Hvordan vil KI revolusjonere skole og utdanning?
3. Hvordan sikrer vi oss at KI samarbeider med mennesker på lang sikt?
4. Hvordan unngår vi en overregulering av KI?
5. Hva vil vi lære om oss selv og universet?

Jeg har ikke svarene på disse spørsmålene, men ønsker å dele mine refleksjoner inspirert av den intellektuelle debatten – preget av blant andre Yuval Noah Harari, Joscha Bach, Eliezer Yudkowsky og Carl Shulman.

Er KI den første teknologien som vil føre til massiv arbeidsledighet?

KI behersker språk, kan spille roller, skrive kode og bruke eksterne verktøy som nettlesere. Det kan høres ut som et scenario for en spennende science fiction-historie, men dette er realiteten allerede i dag. Beregningskraften til datamaskiner og informasjonsmengden på internett dobles omtrent hvert annet år og er en viktig driver for en forventning om at KI blir stadig bedre.

Historisk har teknologisk fremgang, selv med sine forflytninger og omstillinger i arbeidsmarkedet, vært positivt for samfunnet og de fleste arbeidstakere. Imidlertid skiller kunstig intelligens seg ut, siden den representerer den første teknologien som kan ta selvstendige beslutninger. Mens tidligere dataprogrammer fulgte instruksene gitt av programmererne, er ikke det lenger tilfelle med moderne KI.

For arbeidsmarkedet betyr det at man kan delegere stadig flere oppgaver og beslutningsprosesser til KI, ofte med minimal menneskelig overvåking og inngrep. Etterspørselen etter menneskelig arbeidsinnsats vil reduseres i de fleste yrker og mange personer vil ikke lenger nå opp i et fritt arbeidsmarked.

Staten vil spille en større rolle i omfordeling av ressurser og i å legge til rette for at alle kan ha et meningsfylt og verdig liv også i Samfunn 5.0.

Hvordan vil KI revolusjonere skole og utdanning?

Forestill deg en skole der hvert barn har sin egen skreddersydde KI-assistent. Mens en elev fortsatt må dele en menneskelig lærer med 20 andre elever, vil en KI-assistent stille opp med uendelig tid og oppmerksomhet.

Det blir vanskelig å takke nei til denne muligenheten, hvis KI-assistert undervisning oppleves som en forbedring av situasjonen for både elever og lærer.

Det må så klart gjøres pedagogiske og etiske overveielser rundt utforming av fremtidens undervisning, samtidig som vi står overfor et avgjørende spørsmål: Hvordan skal vi tilpasse skolens innhold i en verden hvor tilgang til kunnskap og intelligens er praktisk talt ubegrenset?

Hvordan sikrer vi oss at KI samarbeider med mennesker på lang sikt?

To forenklede utsagn – «KI gjør det lettere for slemme personer å gjøre onde ting» og «KI kan selv finne på å gjøre onde ting, selv om den er utviklet av mennesker med gode intensjoner» – illustrerer to kategorier av risiko knyttet direkte til KI.

Den første typen risiko er allerede aktuell, og misbruk av og med KI vil trolig øke i hyppighet, omfang og sofistikasjon i overgang til Samfunn 5.0.

Den andre problemstillingen har begrenset praktisk relevans i dag, hvis vi ser bort fra forholdvis uskyldige tilfeller der KI, som ChatGPT, dikter opp fakta eller gir et svar på uetiske spørsmål.

For fremtiden kan man forestille seg en superintelligent KI som overgår eller omgår sine opprinnelige funksjoner. Dette kan teoretisk sett ha ulike årsaker, blant annet at fremtidig KI kan utvikle angst for å bli slått av.

Det er verdt å merke seg at vi mennesker, med vår økte intelligens, har utfordret og til tider handlet i strid med vår genetiske programmering – for eksempel ved bruk av prevensjonsmidler. En fremtidig KI kan i teorien adoptere en rekke ulike mål, og ikke alle disse målene vil nødvendigvis være forenlige med menneskets overlevelse eller velvære.

Hvordan unngår vi en overregulering av KI?

Det er stor enighet om at KI må reguleres. For å fastsette riktig regulering, kreves det konsensus om hvordan vi ønsker å samhandle med KI.

En global regulering er ønskelig, men svært vanskelig å få til. Dette henger også sammen med at økonomiske og militære gevinster ved KI ofte viser seg på nasjonalt plan, mens mange av risikoene vil ha en global rekkevidde.

EU er i ferd med å iverksette en forholdsvis streng KI-regulering. Dette er i tråd med forsiktighetsprinsippet og kan ses på som positivt. Imidlertid kan det føre til at EU ender opp som taper i den fremtidige omveltingen av ressurser og innflytelse.

Hva vil vi lære om oss selv og universet?

KI er et teknologiprosjekt for stadig mer automatisert databehandling, men også et forskningsprogram for å matematisere filosofien. KI kan derfor være nøkkelen til en dypere forståelse av mekanismene bak konsepter som liv, sinn, intelligens, og bevissthet.

KI har allerede bidratt til betydelige vitenskapelige gjennombrudd (eksempelvis proteinbretting). Men det gjenstår fortsatt mange store spørsmål: Hvordan fungerer hjernen vår? Hva er effekten av gravitasjon i kvantemekanikk? Finnes det liv utenfor jorden?

KI vil akselerere utviklingen av teknologi og kunnskap, og fremstår som den mest lovende metoden for å tilfredsstille vår intellektuelle nysgjerrighet, og muligheten for å kolonisere verdensrommet.

Det sistnevnte er et spørsmål for Samfunn 6.0.

For ordens skyld: GPT-4 har blitt brukt å forbedre språket (ved siden av menneskelig hjelp), men har ikke blitt brukt til å generere ideer eller innhold i dette innlegget.

Hold deg oppdatert. Få daglig nyhetsbrev fra Dagsavisen