Incursiune în interiorul structurii ciudate de guvernare a Open AI

Investitorii nu au avut niciun cuvânt de spus în demiterea lui Sam Altman. De ce?

„Când veți avea mai multă încredere? Când vă obțineți tehnologia de la o companie non-profit sau de la una care scoate profit și care este controlată în întregime de un singur om?” a întrebat Brad Smith, președintele Microsoft, la o conferință la Paris pe 10 noiembrie. Acesta a fost modul în care Smith a lăudat Open AI, startup-ul din spatele Chat GPT, și a declanșat companii precum Meta, gigantul rețelelor sociale al lui Mark Zuckerberg. 

Evenimentele de săptămâna trecută, care au început pe 17 noiembrie cu consiliul Open AI care și-a concediat șeful, Sam Altman, și s-au încheiat patru zile mai târziu, cu revenirea sa la startup-ul pe care l-a co-fondat, au făcut ca configurațiile non-profit să arate mai puțin atractive. Ele au aruncat, de asemenea, în centrul atenției aranjamentele neobișnuite de guvernare ale dragilor de la AI, scrie The Economist.

Open AI nu este singura firmă din industria sa cu o structură ciudată. Anthropic, creată de rebelii de la Open AI, și Inflection AI (al cărui co-fondator, Mustafa Suleyman, este membru al consiliului de administrație al companiei-mamă a The Economist) au fost formate ca și corporații de beneficii publice, care echilibrează randamentul investitorilor cu binele social. Anthropic are, de asemenea, un „trust de beneficii pe termen lung”, cu puterea de a alege noi directori într-un consiliu care se extinde treptat. Chiar și așa, Open AI este un outlier, un anormal.

Firma a fost fondată ca organizație non-profit în 2015 de Altman și de un grup de investitori și antreprenori din Silicon Valley, inclusiv Elon Musk, miliardarul din spatele Tesla, X (fostul Twitter) și SpaceX. Grupul a promis colectiv 1 miliard de dolari pentru obiectivul Open AI de a construi inteligența generală artificială (AGI), care ar depăși oamenii în majoritatea sarcinilor intelectuale.

După câțiva ani, Open AI și- a dat seama că, pentru a-și atinge obiectivul, avea nevoie de numerar pentru a plăti o capacitate de calcul costisitoare și un talent de top – nu în ultimul rând pentru că susține că doar 130 de milioane de dolari sau cam așa ceva din angajamentul inițial de 1 miliard de dolari s-au materializat. Așa că în 2019 a creat o filială cu scop profit. Profiturile investitorilor din această afacere au fost plafonate la de 100 de ori investiția lor (deși datorită unei modificări a regulilor, acest plafon va crește cu 20% pe an începând din 2025). Orice profit care depășește plafonul se îndreaptă către organizația-mamă nonprofit. De asemenea, compania își rezervă dreptul de a reinvesti toate profiturile înapoi în firmă până când obiectivul său de a crea AGI este atins. Și odată ce acest lucru este făcut, AGI rezultat nu este menit să genereze un randament financiar. Termenii de licență Open AI cu Microsoft, de exemplu, acoperă doar tehnologia „pre- AGI”.

Dacă și când AGI a fost atins este stabilit de consiliul de administrație. În loc să reprezinte susținătorii financiari ai Open AI, norma la majoritatea companiilor, carta Open AI îi încredințează pe directori să reprezinte interesele „umanității”. Până la evenimentele de săptămâna trecută, reprezentanții umanității erau formați din trei dintre co-fondatorii Open AI (Altman, Greg Brockman și Ilya Sutskever) și trei membri independenți (Adam D’Angelo, co-fondatorul Quora; Tasha McCauley, un antreprenor în tehnologie, și Helen Toner de la Universitatea Georgetown). Ei dețineau puteri ample acordate consiliului de administrație prin statutul Open AI. Aceasta include dreptul de a adăuga sau elimina membri ai consiliului, dacă majoritatea directorilor este de acord. Cel mai important, consiliul rămâne responsabil doar față de sine.

Această structură a fost concepută pentru a se asigura că Open AI  poate rezista presiunii externe din partea investitorilor, care ar putea prefera un profit rapid acum, decât AGI sigur  pentru omenire mai târziu. În urma fiasco-ului Altman, asta pare acum imposibil de realizat. Din vechea gardă, toți, cu excepția lui D’Angelo, au plecat. În schimb, i se alătură Bret Taylor, fost co-CEO al Salesforce, o mare firmă de software, și Larry Summers, un fost secretar al trezoreriei. Planul este de a aduce încă șase nume grele, inclusiv un reprezentant al Microsoft și, eventual, domnul Altman. Este posibil ca aceștia să fie mai în acord cu interesele investitorilor. Cu toate acestea, fără reforme mai profunde ale guvernării Open AI, noul lot va păstra aceleași puteri necontrolate. „Structura sfidează fizica corporativă”, spune un investitor AI. Mai devreme sau mai târziu va avea nevoie de susținere.