Flere ansatte og forskere i kunstig intelligens sendte forud for fyringen af den nu genindsatte topchef i ChatGPT-ejeren OpenAI et bekymret brev til bestyrelsen, hvor de advarede om en opdagelse inden for den nye teknologi, som kunne udgøre en trussel mod menneskeheden.
Det siger to kilder til det britiske nyhedsbureau Reuters.
Brevet har ikke tidligere været omtalt, men det var ifølge kilderne sammen med selve algoritmerne bag den kunstige intelligens nogle af de faktorer, som fredag i sidste uge fik bestyrelsen til at give topchef Sam Altman, der også er medstifter af OpenAI, sparket.
Her lød den officielle, kortfattede begrundelse, at der havde været problemer med kommunikationen med bestyrelsen, som ikke følte, at de kunne stole på, hvad de fik at vide af Sam Altman.
Angiveligt skulle storaktionæren i OpenAI, softwaregiganten Microsoft, der ejer 49 procent af selskabet, først være blevet informeret om fyringen, et minut før pressemeddelelsen blev sendt ud.
Efterfølgende skrev næsten samtlige af de 700 ansatte hos OpenAI under på et fælles brev, hvori de krævede Altman genindsat i direktørstolen, samt at bestyrelsen trådte tilbage. I modsat fald truede de med at sige op.
Microsofts topchef, Satya Nadella, skyndte sig at ansætte Sam Altman og hans medstifter Greg Brockman for at sikre, at de ikke smuttede andre steder hen, og tilbød samtidig OpenAIs ansatte job i den nye afdeling for kunstig intelligens, som Altman og Brockman skulle stå i spidsen for.
Kodenavnet er Q*
Den opsigtsvækkende opdagelse går tilsyneladende under kodenavnet Q* (udtalt som Q-Star). Ifølge Reuters anser nogen den for at være et gennembrud i OpenAIs arbejde med at finde, hvad der kaldes for kunstig generel intelligens – et selvstændigt system, som overgår mennesker, altså en slags superintelligens. Med store computerkræfter bag sig kan den nye model løse visse matematiske opgaver, viser forsøg, som har gjort OpenAI meget optimistisk i forhold til den fremtidige succes for Q*.
Reuters har ikke selv kunnet se forskernes advarselsbrev og har ikke kunnet få en kommentar fra brevskriverne.
I dag kan kunstig intelligens af den type, som ligger bag den populære chatrobot ChatGPT, skrive og oversætte i et godt sprog, fordi den er fodret med så store mængder af tekstmateriale, at den kan forudsige det næste ord statistisk. Svarene på samme spørgsmål kan derfor variere.
I matematikkens verden er der kun ét rigtigt svar, og hvis det kan lykkes at vinde evnen til at regne, vil kunstig intelligens få evner, der minder om den menneskelige intelligens. Men modsat en lommeregner vil den kunstige generelle intelligens kunne generalisere, lære og forstå.
Det er det, som forskerne advarede bestyrelsen om i deres brev.
Sam Altman blev onsdag genindsat som topchef i OpenAI, og bestyrelsen blev skiftet ud.
Den britiske finansavis Financial Times har tidligere beskrevet, hvordan den hidtidige bestyrelse i OpenAI i stigende grad var blevet bekymret for, om Sam Altman stadig bakkede non-profitselskabets mission om at sørge for sikker og nyttig kunstig intelligens op. Bestyrelsen mente, at det efterhånden var blevet »umuligt at kontrollere« medstifteren, og hvad han meldte ud.
