Ilja Szutszkever, az OpenAI-nál hírnevet szerzett korábbi vezető tudós új MI-céget alapít, Safe Superintelligence néven.
Az új startup – minő meglepetés – a biztonságot helyezi előtérbe a Szutszkever által korábban sokat kritizált „kereskedelmi nyomulás” helyett. A dologra Szutszkever egy szerdai bejegyzéséből derült fény, mely szerint a Safe Superintelligence Inc. (SSI) cégnek egyetlen célja és egyetlen terméke lesz: egy biztonságos és hatékony MI-rendszer, illetve annak létrehozása.
Biztonság és fejlett képességek
A közlemény az SSI-t olyan startupként írja le, ami „egyforma figyelmet fordít a biztonságra és a fejlett képességekre”, lehetővé téve a vállalat számára, hogy gyorsan fejlessze mesterségesintelligencia-rendszerét, miközben továbbra is a biztonságot helyezi előtérbe. Szutszkever arra a külső nyomásra is felhívta a figyelmet, mellyel az olyan cégeknél, mint az OpenAI, a Google és a Microsoft gyakran szembesülnek a mesterségesintelligencia-csapatok, mondván, hogy az új vállalat „egyedülálló fókusza” lehetővé teszi majd, hogy elkerüljék „a menedzsment többletköltségei vagy termékciklusai miatti kisiklást”.
„Az üzleti modellünk értelmében a biztonságos fejlesztés, az adatbiztonság és a haladás mind el vannak szigetelve a rövid távú kereskedelmi nyomástól”,– áll a közleményben. „Így békés tempóban lépdelhetünk előre.” Az SSI-ben Szutszkeveren kívül Daniel Gross, az Apple korábbi mesterségesintelligencia-vezetője és Daniel Levy, korábban az OpenAI technikai csapattagja is ott lesznek.
Dzsungelharc után
Szutszkever tavaly híresült el, mikor ő kezdeményezte az OpenAI vezérigazgatója, Sam Altman menesztését. Májusban elhagyta az OpenAI-t, ami már akkor egy új projekt kezdetére utalt. Távozása után nem sokkal Jan Leike mesterségesintelligencia-kutató is bejelentette, hogy lemond az OpenAI-nál betöltött tisztségéről, arra hivatkozva, hogy a biztonsági eljárások „háttérbe szorultak a trendi termékek miatt”. Gretchen Krueger, az OpenAI szakpolitikai kutatója szintén biztonsági aggályokat említett távozásának bejelentésekor.
Az OpenAI halad előre az Apple-lel és a Microsofttal kötött partnerségekkel, és ezen az úton valószínűleg nem követi majd az SSI. A Bloombergnek adott interjújában Szutszkever azt mondta, hogy az SSI első terméke a biztonságos szuperintelligencia lesz, és annak eléréséig a cég „nem is fejleszt semmi mást”.
(Forrás)
