KI-forsker: – Griskheten vinner over sikkerheten

– Vi er på vei forbi den «vanlige» KI-en, mot noe vi ikke helt vet hvordan man kontrollerer.

Det sier KI-forsker og fysikkprofessor Max Tegmark til svenske SVT. Han har flere ganger belyst de potensielt negative følgene ved utvikling av kunstig intelligens uten regulering.

Tegmark advarer mot konsekvensene hvis det blir en kollisjon mellom sikkerhet og griskhet.

– Da kommer griskheten til å vinne, med mindre det fins lover og regler som regulerer dette, sier forskeren.

Tror KI vil gi ny finanskrise

Han er ikke alene om å uroe seg. Dagsavisen omtalte nylig at sjefen for Det amerikanske finanstilsynet (SEC) frykter konsekvensene hvis ikke KI-teknologien reguleres.

– Det er nesten uunngåelig at kunstig intelligens vil gi en ny finanskrise. Og den kan komme allerede mot slutten av 2020-tallet eller på starten av 2030-tallet, sa SEC-leder Gary Gensler til Financial Times.

«Når én modell eller ett datasett blir sentralt, øker det flokkmentaliteten. Det betyr at alle vil stole på den samme informasjonen og reagere deretter», advarte Gensler allerede da, ifølge den danske storavisen. Nå gjentar han altså advarselen.

Tilbake hos OpenAI

Tidligere toppsjef i OpenAI, Sam Altman, fikk tilbake jobben etter å ha fått sparken før helgen. Med et nytt styre på plass gleder han seg til å komme tilbake.

– Vi har kommet fram til en prinsippavtale om at Sam skal gå tilbake til OpenAI som administrerende direktør med et nytt styre, heter det i en uttalelse fra selskapet i sosiale medier, ifølge NTB.

– Vi samarbeider for å finne ut av detaljene. Takk for tålmodigheten deres gjennom dette, heter det videre fra selskapet, som utvikler kunstig intelligens (KI), inkludert den populære tjenesten ChatGPT.

Etter at Altman fikk sparken, truet om lag 500 ansatte i OpenAI med å slutte i jobbene sine dersom ikke samtlige styremedlemmer og den daværende toppledelsen gikk av. Også investorer i selskapet har truet med å saksøke styret, skriver nyhetsbyrået.

– Med det nye styret og med støtte fra Microsoft-sjef Satya Nadella gleder jeg meg til å vende tilbake til OpenAI og bygge videre på det sterke partnerskapet med Microsoft, sier Altman.

OpenAI ble startet som et ikke-kommersielt foretak med mål om å bygge kunstig intelligens som jobber bedre enn mennesker og til beste for menneskeheten. Da selskapet senere ble en kommersiell virksomhet, ble det gamle styret sittende.

Les mer om kunstig intelligens (KI) her

Jørn H. Skjærpe

Journalist og frontsjef