Az OpenAi-ban dúló drámai események folytatódnak. Sam Altman a ChatGPT-t fejlesztő vállalat kirúgott vezérigazgatója talán visszatérhet, mivel a befektetők nyomást gyakorolnak a vállalatra. Lehetséges hogy a végén az igazgatótanács búcsúzik majd, ami menesztette? És igaz lenne egy hihetetlen elmélet, ami az egész világot a feje tetejére állíthatja?
Ahogy annak részleteiről már több cikkben is részletesen beszámoltunk, Altmant pénteken menesztette a cég igazgatótanácsa, arra hivatkozva, hogy nem volt „őszinte a kommunikációjában.” A lépés nemcsak a Szilícium-völgyet, de az egész világot sokkolta, és vadabbnál vadabb teóriák terjedését indította el. Mai cikkünkben sorra vesszük a friss eseményeket és egy olyan döbbenetes eshetőséget, amit talán senki sem látott jönni. De menjünk sorban.
A nap első meglepetései az OpenAI befektetőitől – köztük a Microsofttól – érkező jelzések voltak, amelyek Altman restitúcióját, a vállalatban péntek reggel még betöltött pozíciójának helyreállítását szorgalmazták. Mira Murati, a pénteken kinevezett ideiglenes vezérigazgató azt közölte az OpenAi munkatársaival, hogy Altman vasárnap csatlakozik a cég San Franciscó-i központjának vezetőihez.
Szombaton az Information technológiai hírportál már arról számolt be, hogy az OpenAI optimistán abban reménykedik, hogy vissza tudják csábítani Altmant.
Az erről szóló jelentés a vállalat stratégiai igazgatója, Jason Kwon feljegyzését idézte, melyben azt írta, hogy Altman és a többi távozott (khm…) vezető kollégák visszahozása folyamatban van. Altman távozását igen rövid időn belül Greg Brockman, az OpenAI elnöke és három vezető kutató: Jakub Pachocki, Aleksander Mądry és Szymon Sidor lemondása követte. Vasárnap kora reggel aztán Altman a tőle megszokott rejtélyes tweetek egyikében ezt írta az X-en: „Annyira szeretem az OpenAI csapatát”.
i love the openai team so much
— Sam Altman (@sama) November 19, 2023
A Wall Street Journal is úgy tudja, hogy Altman fontolgatja a visszatérést, de állítólag előfeltételként új igazgatótanácsot és irányítási struktúrát szeretne, miközben lebegtetni kezdte egy új cég alapításának lehetőségét a korábban az OpenAI-nál dolgozott kollégáival. A WSJ szerint Altman még a hétvégén dönthet a két lehetőség között. A jelentések szerint egyébként Altman az Apple korábbi tervezési vezetőjével, Jony Ive-al tárgyalt egy új mesterséges intelligencia-hardver megépítéséről. Azt is közölték, hogy a beszélgetésen a SoftBank vezérigazgatója, Masayoshi Son is részt vett.
A befektetők nem örültek
A Microsoft, az OpenAI legnagyobb befektetője és a második legnagyobb befektető, a Thrive Capital kockázati tőkealap állítólag támogatják Altman visszahívását, és a Khosla Ventures, az OpenAI egyik korai befektetője is szeretné, hogy Altman visszakerüljön az OpenAI-ba. Azt írták: „támogatják őt mindenben, amit ezután tesz”, tette közzé az alapító Vinod Khosla szombaton az X-en.
A Reuters birtokába került egy belső vállalati feljegyzés, melyben Brad Lightcap, az operatív vezető azt írta, hogy Altman menesztése „egy kommunikációs hiba” miatt történhetett, nem pedig azért mert bármiféle neki felróható dolgot tett volna. Altman vasárnap este magyar idő szerint 22:00 után egy kicsivel ismét tweetelt, egy az OpenAI-irodáiba való bejutást lehetővé tevő „Vendég 04” feliratú belépőt mutatva a kamerába egy fényképen a következő szöveggel: „Ez az első és utolsó alkalom hogy hajlandó vagyok ezt a nyakamba venni.” Hogy ne legyen félreérthető a dolog, mellé grimaszolt is egyet, mint aki éppen citromba harapott. A már említett Jason Kwon stratégiai igazgató is tweetelt egy képet, valószínűleg arról a pillanatról, mikor Altman lefotózta a belépőjét.
— Jason Kwon (@jasonkwon) November 19, 2023
És hogy mindennek mi a jelentősége? Nyilván az, hogy megmutassák a világnak: Altman a házban! Vagyis folynak a tárgyalások, és holnap reggelre talán majdnem minden visszaáll oda, ahol péntek reggel volt – leszámítva természetesen a nyilvánvalóan nyerő helyzetben lévő Altman által kért változtatásokat, melyek akár egészen széles körűek is lehetnek. Valószínű, hogy különösebb nyomás nem lesz Altmanon azért, hogy fogja vissza magát, tehát most úgy tűnik minden azon múlik, hogy milyen stratégiát választ.
Az igazság – ha ez az – döbbenetes lehet
A mesterséges intelligencia iparágát közelről figyelő szakértők egy olyan mozaik darabkáit is összeillesztették, ami az egész emberi civilizációt megrázó és feje tetejére állító fejleményt sejtet – ha igaznak bizonyul, mivel egyelőre csak egy elmélet.
Ők nem kevesebbet állítanak, mint hogy a feltételezések szerint hatalmas előrelépés történt az OpenAI-ban az AGI (általános mesterséges intelligencia) elérésében.
Ha ez igaz, akkor megszülethetett az emberét nagyságrendekkel meghaladó értelem a bolygón, mondhatjuk úgy is, hogy az evolúció következő lépcsőfokán álló teremtmény, amely egy gép. Tény, hogy még kirúgása előtt maga Altman számolt be az elmúlt két hétben bekövetkezett történelmi áttörésről, nem árulva el egyéb részleteket. De nem ez az egyetlen momentum, ami erre utal. Előkerült más is a szőnyeg alól a nagy felfordulásban.
SPECULATION:
They achieved AGI, which scared Ilya, leading to his 'Oppenheimer moment.'
The day before his fire, @sama said they made a massive discovery in the last 2 weeks: pic.twitter.com/Va2cX9agBu
— Rowan Cheung (@rowancheung) November 18, 2023
Vészmadarak és gyorsítók
Egy újabb bizonyíték – amely a már létrehozott és rejtegetett AGI-ra utalhat – talán Sam Altman vezérigazgató és Greg Brockman elnök váratlan leváltásának eltitkolt okaiban található. Az MI fejlődésének lézerszikéje két részre vágta, polarizálta a világot, és benne az OpenAI céget is elmetszette, és talán a hasadék egyik oldalán hagyta Altmant és Brockmant a „gyorsítók” (accelerationists), a másikon pedig a többieket a „vészmadarak” (AI doomers) csoportjában – induljunk ki innen.
A „vészmadarak” szerint a biztonság a legfontosabb szempont a mesterséges intelligenciával kapcsolatban, mert egy „gazember szuperintelligencia” mindannyiunkat elpusztíthat, ha nem vigyázunk vele eléggé. A techno-optimisták és „gyorsítók” azok, akik szerint nem az MI nem gyors fejlődésétől kell óvakodnunk, hanem attól, hogy túl soká készül el az AGI. Számukra minden egyes nap, mikor még nem létezik ez az „erős szuperintelligencia” csupán az emberiség felesleges szenvedésének egy újabb napja. David Pfau, a Google mesterséges intelligencia, számítógépes fizika, gépi tanulási és számítógépes idegtudományi kutatója szerint: „Fogalmam sincs, hogy a „vészmadár vs. gyorsító” keretezés megáll-e az OpenAI-nál történtek esetében, de ha igen, akkor azt hiszem, én egyik oldalon sem állok.
Szerintem az AGI felé rohanó emberek egy délibábot kergetnek, és az őket megállítani próbáló embereket az éjszaka árnyékai ijesztgetik.
Az is lehetséges azonban, hogy ez inkább egy „kutatás kontra termék” kérdés, és az ottani vezetők azt hitték, hogy Sam Altman „ChatGPT Company”-t akart csinálni az OpenAI-ból, amely többé nem támogatja az alapkutatást. Nos, ezt lehetségesnek tartom”, írta a tudós.
No idea if the "doomer vs e/acc" framing will turn out to be what really happened, but if it is then I guess I'm on the side of… neither? I think the people rushing towards AGI are chasing a mirage, and the people trying to stop it are being frightened by shadows.
— David Pfau (@pfau) November 18, 2023
Alberto Romero, a CambrianAI elemzője ugyanahhoz a célszalaghoz érkezik, mint Pfau, de másik irányból. Szerinte, ha elfogadjuk, hogy a vállalatnál mindenki olyan AGI-t akart létrehozni, amely mindenki javát szolgálja – ami ésszerű feltételezés – akkor a különbségek módszertani kérdésre szűkíthetők le. Ebből kiindulva húzható egy újabb vonal, amely két különböző csoportot választ el egymástól: az egyik úgy gondolhatja, hogy az AGI könnyebben elérhető a termékek iteratív bevezetésével, pénzszerzéssel és erősebb számítógépek építésével – ezt nevezhetjük ipari-üzleti megközelítésnek. Az ipari megközelítést vallók közé tartozik Altman és Brockman, akik a nyilvánosság előtt is sokszor szorgalmazták az iteratív bevezetés gondolatát. A másik csoport – amely azokból áll, akik végrehajtották az ellenük irányuló puccsot, köztük Ilja Szutszkever vezető tudóssal –, úgy gondolhatják, hogy az AGI könnyebben megvalósítható, ha alaposabb és sokkal több kutatás-fejlesztési tevékenységet végeznek az értelmezhetőség és az összehangolás területein, és kevesebb erőforrást fordítanak a fogyasztó-orientált MI-termékek előállítására – ezt nevezhetjük akár akadémiai megközelítésnek is.
Az OpenAI kettétörése azért is meglepő, mert Altman és Szutszkever talán mégsem nem képviselnek olyan anakronisztikus ellentéteket, mint a szemben álló világvége- és gyorsításpártiak.
Sokkal inkább hasonlítanak egymásra, ám lehetséges, hogy amikor ilyen nagy a tét, az „eléggé hasonló” már nem elég. Mindenki, akinek bármilyen fontos szerepe van (vagy volt) az OpenAI-nál, bízik abban, hogy hamarosan elérjük az általános mesterséges intelligenciát (AGI-t) – vagyis valamilyen mértékben mindannyian techno-optimisták. Szutszkever például határozottan hisz a szuperintelligencia előnyeiben, de még az Anthropic alapítói is – akik egy hasonló konfliktus után hagyták el az OpenAI-t – valószínűbbnek tartják, hogy az AGI nettó jótétemény lesz az emberiség számára. Az OpenAI – ahogy Altman többször nyilvánosan is kijelentette – az MI összehangolásának és a biztonság szükségességének szószólója. Itt nincs nyilvánvaló különbség, legalábbis nem olyan, amely a cégen kívüli emberek számára azonnal nyilvánvaló lenne.
Ellentétek a felszín alatt
A nézeteltérés ott lappang Altman és Szutszkever között, hogy szerintük mennyire kell megérteni, hogy mit hoznak létre, mielőtt továbblépnének vele a nyilvánosság irányába. Altman megelégszik azzal, hogy jó termékeket készít, amit az emberek élveznek, vagyis ő ízig-vérig üzletember, és mindeközben kifejlesztheti a módszert az AGI létrehozására is. Szutszkever – aki elsősorban a tudomány és a kutatás híve – azt tekinti elsődleges feladatának, hogy kiderítse, hogyan irányítsunk egy szuperintelligenciát úgy, hogy először is a céljait és értékeit összhangba hozzuk a sajátjainkkal. Szutszkever célja– ha mindez igaz – nyilvánvalóan megkövetelte, hogy a vállalatát igazítsa a hitéhez, az viszont aligha volt előre látható, hogy a legapróbb eltérés a saját elveitől is arra késztetheti, hogy mindenáron kikényszerítse a belső összhangot.
Az a tény, hogy az Altmannal történt szakítás (illetve egyelőre annak kísérlete) csak most történt meg, nem pedig akkor, amikor a GPT-3 vagy GPT-4 feltanítását végezték élesben mindannyiunk aktív részvételével, nem azt bizonyítja, hogy az említett különbségek nem léteztek, hanem azt, hogy a mesterséges intelligencia képességeinek azon szintjén Szutszkever nem érezte szükségét a pénteki lépések megtételének.
Kiberisten születhet
Az ok, amiért Szutszkever úgy véli, hogy átlépték a még elfogadható nézeteltérés küszöbét, valószínűleg azzal a rejtett információval függhet össze, ami Altman a hét elején az APEC-csúcson folytatott megbeszélésen elhangzott szavai mögött rejlik. Egyszerűen fogalmazva az OpenAI vezetősége úgy vélheti, hogy a vállalat túl közel van az AGI-megalkotásához, vagy esetleg már létre is hozták azt. Ehhez Szutszkever talán nem tudta már jó szívvel hozzákapcsolni azt a nemtörődömséget, amely szerinte Altmant jellemzi. Megijedt a várható, vagy csak vizionált apokaliptikus következményektől. Érdemes újra felidézni Altman pár héttel ezelőtti, az első OpenAI Devday-en, azaz fejlesztői napon elhangzott rejtélyes, mégis optimista üzenetét, mellyel a rendezvényt zárta:
„Amit ma elindítunk, az nagyon furcsának fog tűnni ahhoz képest, amit éppen most hozunk létre az önök számára.”
Talán Szutszkever nem látta előre, hogy milyen következményekkel jár majd Altman és Brockman ilyen drámai és hirtelen leváltása; nyilvánosan, anélkül, hogy őket vagy bárki mást előzetesen értesített volna, és mindennek a tetejébe a legkeményebb kommunikációs hangnemet használva. Talán pont az ellenkezőjét érte el, mint amit akart: gyorsuló versenyt az AGI-t még hamarabb követelő emberek által, a nyílt forráskódú MI-modellekhez terelve a lassuló és káoszba forduló OpenAI-t magára hagyó felhasználókat.
Ne legyen így, de egy nap talán még mindannyian visszasírjuk Szutszkevert, aki talán csak nem akarta megkockáztatni, hogy egy, az AGI felé tartó fegyverkezési versenybe kezdjen.
Talán csak nem tetszett neki, hogy vállalkozók, és nem tudósok vezetik ezeket a történelmi erőfeszítéseket.
Talán Altman Oppenheimer iránti nyílt csodálata sem tetszett neki, vagy az a tény, hogy számára a felfedezés gyorsasága és hasznosítása előbbre való, mint a következmények alapos és előzetes elemzése. Az idő majd eldönti itt is, hogy kinek volt igaza. Utólag természetesen.
