Czy AGI spowodowało chaos w OpenAI?
Zwolnieni, przekierowani na inne stanowisko i ponownie zatrudnieni w ciągu czterech dni: Gdyby pracownik OpenAI, firmy Worldcoin zajmującej się kryptowalutami, w zeszłym tygodniu był na urlopie - razem z cyfrową detoksem, miałby on możliwość przegapienia ostatniego chaosu w gabinecie zarządu firmy AI.
Zwolnieni, przekierowani na inne stanowisko i ponownie zatrudnieni w ciągu czterech dni: Gdyby pracownik OpenAI, firmy Worldcoin zajmującej się kryptowalutami, w zeszłym tygodniu był na urlopie – razem z cyfrową detoksem – mógłby nie zauważyć ostatniego chaosu w gabinecie zarządu firmy AI.
Po zaskakującym zawieszeniu i szybkim ponownym zatrudnieniu w Microsoft, Sam Altman wraca na swoją pozycję w OpenAI. Powodem tego było to, że ponad 700 pracowników firmy AI zagroziło zwolnieniem rady nadzorczej – i przejściem do Microsoftu. To był nacisk, z którym zarząd wyraźnie nie potrafił sobie poradzić.
Ale jak powstał chaos w firmie? W tym kontekście ujawniają się kolejne szczegóły. Według raportu agencji Reuters wszystko zaczęło się od listu, który wyrazili zaniepokojeni badacze OpenAI do rady nadzorczej firmy. Dokładna treść nie jest znana, ale osoby znające sprawę powiedziały Reuters, o czym mowa: Q*.
Czym jest Q*?
Q* to narzędzie AI, którego dokładna funkcjonalność na moment pisania nie jest publicznie znana. Wewnętrznie jednak mówi się, że Q* mógłby być tak zwaną AGI - Sztuczną Ogólną Inteligencją, którą OpenAI definiuje jako "AI-systemy, które są inteligentniejsze niż ludzie".
Q* nadal potrafi rozwiązywać jedynie problemy matematyczne na poziomie szkoły podstawowej, według osób, które zeznawały anonimowo dla Reuters. Jednak potencjał tego narzędzia wydaje się znacznie większy. Tak duży, że „mógłby zagrażać ludzkości", według wspomnianego wcześniej listu do rady nadzorczej.
Według źródeł Reuters list był tylko jednym czynnikiem w dłuższej liście zarzutów wobec zarządu, które doprowadziły do zwolnienia Altmana, w tym obaw dotyczących komercjalizacji postępu zanim były znane konsekwencje. Tak więc możliwe, że Altman chciał pchnąć Q* szybciej, niż autorzy listu chcieli tego.
