Den siste uken har kaoset hos OpenAI preget nyhetene. Selskapet som satte generativ kunstig intelligens på kartet med ChatGPT, ble nesten revet i stykker av interne konflikter. Nå som støvet har lagt seg, og (nesten) alle er venner igjen, er det på tide å oppsummere alt som har skjedd.

For å forstå kilden til konfliktene, er det viktig å forstå hva OpenAI egentlig er, så vi starter med det grunnleggende.

Hva er OpenAI?

I 2015 ble OpenAI startet av Sam Altman, Greg Brockman og Ilja Sutskever, sammen med investorene Elon Musk og Peter Thiel og seks andre. Grunnidéen var å skape et selskap som hadde fokus på utvikling av kunstig intelligens på en etisk og trygg måte. Derfor ble selskapet organisert som en ideell stiftelse, ikke et kommersielt selskap.

Som en stiftelse ville OpenAI være en motvekt til de kommersielle gigantene, som Google, som ledet an utviklingen av kunstig intelligens da. I stedet for salgsinntekter, skulle OpenAI finansieres med donasjoner fra støttespillere, som Musk og Thiel.

I 2018 oppstod det en konflikt mellom OpenAI-ledelsen og Elon Musk, som resulterte i at Musk trakk seg ut. Med han forsvant også deler av finansieringen.

Å utvikle store kunstig intelligens-modeller krever mye datakraft, og OpenAIs kostnader var etter hvert enorme. De innså at det ikke ville være mulig å skaffe nok penger som en ideell stiftelse, og etablerte derfor et kommersielt datterselskap i 2019. Datterselskapet kunne selge aksjer til kommersielle aktører, og dermed finansiere driften i OpenAI. Avtaler sikret imidlertid stiftelsen full kontroll med både styringen og økonomien i det kommersielle selskapet.

En av investorene var Microsoft, som etter hvert investerte 140 milliarder kroner i OpenAI, og ble største aksjonær med 49 prosent av aksjene. Men selv Microsoft hadde ingen innflytelse i OpenAI. Styret i stiftelsen hadde full kontroll.

Styret i stiftelsen bestod av de tre gründerne Sam Altman, Greg Brockman og Ilja Sutskever, i tillegg til de tre eksterne styremedlemmene Adam D’Angelo, Tasha McCauley og Helen Toner.

I 2022 lanserte OpenAI først bildemodellen DALL-E, og deretter chatroboten ChatGPT. OpenAI gikk fra å være et selskap få hadde hørt om, til å bli allemannseie.

Plutselig ville alle ha en bit av OpenAI. I en pågående finansieringsrunde verdsettes selskapet til over 850 milliarder kroner.

Sam Altman har fått mye av æren for OpenAIs suksess. Altman er ikke AI-forsker selv, men han har et enormt nettverk i Silicon Valley, og har klart å tiltrekke seg mange av de klokeste AI-hodene i verden. Smarte mennesker liker å jobbe med smarte mennesker, og med Altman i spissen har OpenAI derfor blitt selskapet «alle» AI-forskere vil jobbe for.

Men Altmans popularitet og OpenAIs suksess skapte også bekymring hos noen.

Bakgrunnen

Det har lenge vært en konflikt i styret om OpenAIs rolle. Ilja Sutskever og de tre eksterne styremedlemmene har ment at OpenAI bør være tilbakeholdne, og bidra til å bremse utviklingen av kunstig intelligens. Sam Altman og Greg Brockman har derimot ment at OpenAI bør ligge i front av utviklingen, slik at ikke de kommersielle gigantene får et forsprang. Alle mener at det er reelle farer ved AI, uenigheten går på hvordan OpenAI best bidrar til en trygg utvikling.

Det siste året har de fire i styret som mener OpenAI bør bremse blitt stadig mer frustrert over det de opplevde som egenrådighet fra Altman. Diskusjonen har også pågått blant de ansatte. På slutten av 2020 forlot flere ansatte selskapet i protest mot Altman, og startet Anthropic, en konkurrent til OpenAI.

Altman på sin side skal ha vært misfornøyd med at styremedlemmet Helen Toner var medforfatter på en rapport som var kritisk til OpenAI.

En viktig utvikling skal ha vært et brev tekologisjef Mira Murati skrev til styret nylig, hvor hun advarer mot et gjennombrudd selskapet har gjort, som forskerne mener kan true menneskeheten. Prosjektet Q* (Q-Star) kan være nær et gjennombrudd i forskning på kunstig generell intelligens (AGI), en form for kunstig intelligens som selv er i stand til å lære seg nye ting, uavhengig av hva vi mennesker ber den om. Det vil i tilfelle kunne bety at vi mennesker mister kontrollen på hva den kunstige intelligensen foretar seg.

Etter at styret leste brevet, begynte ting å skje:

Torsdag 16. november

Torsdag holdt Sam Altman foredrag om kunstig intelligens i Oakland. Etter foredraget fikk han en tekstmelding fra Ilja Sutskever med invitasjon til et nettmøte med styret dagen etter.

Samme kveld fikk OpenAIs teknologisjef Mira Murati spørsmål fra styret om hun kunne overta som midlertidig sjef.

Fredag 17. november

Sam Altman ante fred og ingen fare da han logget seg på nettmøtet med styret. Sjokket var derfor stort da fikk sparken. Begrunnelsen var at Altman «ikke er åpen i sin kommunikasjon med styret». Beslutningen om å sparke Altman ble tatt av Ilja Sutskever og de tre eksterne styremedlemmene.

Greg Brockman ble innkalt til møte like etterpå, og fikk da beskjed om at han var avsatt som styreleder. I en tweet like etter møtet skrev han at han også sa opp stillingen sin i selskapet i protest. Det samme gjorde tre andre ledere i OpenAI.

Samtidig la OpenAI ut pressemeldingen om at Sam Altman var byttet ut, og at Mira Murati var utnevnt til midlertidig sjef. I stedet for de vanlige flosklene om at «…han vil bruke mer tid med familien», som er vanlig når sjefer får sparken, ble Altmans avskjed begrunnet med at han ikke lenger hadde styrets tillit.

Microsoft, som eier 49 prosent av OpenAI, ble varslet kun ett minutt før pressemeldingen ble sendt ut.

Lørdag 18. november

Arbeidet med å få Sam Altman tilbake startet umiddelbart. Microsoft var ikke fornøyde med styrets beslutning, og tok initiativet til forhandlinger for å få Altman gjeninnsatt. Også nyutnevnt toppsjef Mira Murati var aktiv i det arbeidet.

Et internt memo til de ansatte i OpenAI bekreftet at oppsigelsen av Altman ikke skyldtes «en ulovlig handling eller noe relatert til våre finansielle, forretningsmessige, sikkerhets- eller personvernpraksiser».

Søndag 19. november

Etter intense forhandlinger gjennom helgen, strandet forsøket på en forsoning søndag ettermiddag. Altman stilte krav om at styret må gå av hvis han skulle komme tilbake, og de fire styremedlemmene krevde at Altmans makt måtte begrenses. I stedet for forsoning, sendte styret ut en melding som bekreftet at Altman ikke ville komme tilbake til OpenAI.

Mandag 20. november

Mandag morgen ble det klart at OpenAI hadde fått sin tredje sjef på like mange dager. Mira Murati ble erstattet av Emmett Shear, tidligere sjef i strømmeplattformen Twitch.

Samtidig kunngjorde Microsoft at Altman og Brockman var ansatt hos dem, og skulle lede en ny forskningsavdeling for kunstig intelligens. De åpnet samtidig for at ansatte i OpenAI som ønsket det, var hjertelig velkommen til å begynne i Microsoft.

Styret var i løpet av dagen i dialog med Anthropic om en fusjon. Hensikten var å slå sammen de to selskapene for å få Anthropic-sjef Dario Amodei til å overta som sjef i OpenAI. Amodei skal imidlertid ha avvist forslaget.

I mellomtiden hadde Ilja Sutskever fått kalde føtter, og skrev en tweet hvor han angret på at han deltok i sparkingen av Altman. Altman svarte med hjerter.

Mandag formiddag ble det offentliggjort et åpent brev fra de ansatte til styret i OpenAI. 500 av selskapets 770 ansatte skrev i brevet at de ville forlate OpenAI og begynne hos Microsoft hvis ikke Altman ble gjeninnsatt som sjef. Blant de som skrev under på brevet var Ilja Sutskever og Mira Murati. I løpet av dagen økte antall underskrifter på brevet til over 700.

Tirsdag 21. november

Tirsdag kom nyheten om at styret hadde gitt etter for presset, og at Sam Altman var tilbake som sjef for OpenAI. Samtidig ble det oppnevnt et nytt styre i stiftelsen. Adam D’Angelo fortsatte som styremedlem, mens Tasha McCauley og Helen Toner ble byttet ut med Bret Taylor og Larry Summers. Hverken Altman, Brockman eller Sutskever var med i det nye styret. Etter planen skal det utnevnes flere styremedlemmer etter hvert, så det nye styret blir større enn det gamle. Microsoft har hintet om at de ønsker en plass i det nye styret.

Som en del av avtalen skal det også gjennomføres en ekstern granskning av selskapet og Altmans ledelse av det.

Hva nå?

Etter at støvet ser ut til å ha lagt seg i gangene hos OpenAI, er det mange som stiller seg spørsmålet «Hva nå?»

Noen eksperter mener at de kommersielle kreftene har fått et overtak i OpenAI, etter at de to idealistiske styremedlemmene er erstattet av folk fra næringslivet, og Altman har gjenerobret sjefskontoret.

Det er imidlertid viktig å huske på at trygg utvikling av kunstig intelligens er selve fundamentet i OpenAI. Selv om Altman og Brockman har en annen tilnærming, enn Sutskever de avgåtte styremedlemmene, så er de forkjempere for mange av de samme prinsippene.

I bakgrunnen lurer informasjonen som har kommet frem om Q*-prosjektet. Er vi nærmere kunstig generell intelligens enn vi trodde?

Uansett har kaoset i OpenAI satt trygg utvikling av kunstig intelligens ettertrykkelig på kartet. Ingen kan lenger være likegyldige til hvordan vi forvalter den kanskje kraftigste teknologien verden har sett til nå.

---