OpenAI advarede om opdagelsen af ​​AI, der kunne true menneskeheden

Dagen før eksil OpenAI CEO Sam Altman, skrev flere af virksomhedens personaleforskere til bestyrelsen brev med advarsel om opdagelsen af ​​stærk kunstig intelligens, som de siger "kunne true til menneskeheden." Herom med henvisning til vores egne kilder skriver Reuters.

Det var dette brev, der blev nævnt som en af ​​faktorerne i den lange liste af klager fra bestyrelsen, der førte til Altmans afskedigelse. Reuters var ikke i stand til personligt at tale med forfatterne eller få kommentarer fra OpenAI. Efter en sådan anmodning meddelte virksomheden imidlertid i en intern besked til medarbejderne, at der eksisterede et bestemt projekt kaldet Q* (udtales Q-Star).

Nogle OpenAI-medarbejdere mener, at Q* kunne være et gennembrud i den såkaldte generel kunstig intelligens (AGI). OpenAI karakteriserer det som et autonomt system, der udkonkurrerer mennesker på de fleste økonomisk værdifulde opgaver.

Indtil videre kan Q* kun udføre matematiske problemer på det elementære niveau, ifølge en kilde. skoler, men en vellykket gennemførelse af sådanne test giver forskerne stor optimisme om udsigterne for dens udvikling.

Den største forskel mellem sådan AI er, at den er i stand til at sætte mål, opdele komplekse problemer i små, arbejde på tværs af en bred vifte af problemer og finde løsninger under hensyntagen til kontekst fra forskellige domæner. Enkelt sagt kan en sådan intelligens i teorien erstatte en højt kvalificeret specialist med viden, færdigheder og omfattende erfaring.

Forskere mener, at matematik er forkant med generativ AI. Nu om dage er han god til at skrive og oversætte, statistisk forudsige det næste ord, og svarene på det samme spørgsmål kan variere meget. Men at erobre matematik (hvor der kun er ét rigtigt svar) indebærer, at AI vil have bredere ræsonnementevner, der ligner menneskelig intelligens. Dette kan for eksempel anvendes på ny videnskabelig forskning, siger eksperter.

I deres brev til bestyrelsen bemærkede forskerne styrken af ​​AI og de potentielle farer. De bemærkede også arbejdet fra en særlig gruppe af "kunstig intelligens-videnskabsmænd", hvis eksistens blev bekræftet af adskillige kilder. Holdet studerer, hvordan man optimerer eksisterende AI-modeller for at forbedre deres ræsonnement og i sidste ende udføre videnskabeligt arbejde med dem, sagde en af ​​folkene.

Altman ledede indsatsen for at gøre ChatGPT til en af ​​de hurtigst voksende softwareapplikationer i historie og tiltrak de nødvendige investeringer og computerressourcer fra Microsoft for at bringe sådanne AGI. Og kort før sin afskedigelse, på topmødet for verdens ledere i San Francisco, annoncerede han nogle "alvorlige resultater, der er lige rundt om hjørnet."

Et døgn senere fyrede bestyrelsen Altman.

Måske vil alle disse beslutninger og begivenheder en dag danne grundlag for en bog, en hel film eller endda en historiebog.