Dacă v-ați surprins vreodată holbându-vă la ecran, bătând din picior și mormăind: „Haide, ChatGPT, n-am toată ziua”, atunci OpenAI are exact ce vă trebuie – pentru că, se pare, viteza cu care răspunde un chatbot era adevăratul blocaj din viețile noastre.
Laboratorul de inteligență artificială a lansat un nou mod numit Ultrafast, despre care spune că este conceput să accelereze serios ritmul în care cel mai recent și mai puternic model al său, GPT-5.6 Sol, își îndeplinește munca. Da, exact: modelul se numește Sol, de parcă ar fi avut nevoie să sune mai mult ca un personaj SF.
Compania susține că Ultrafast poate lucra de 14 ori mai rapid decât procesarea standard, livrând până la 750 de tokeni de ieșire pe secundă. Acești tokeni, pentru neinițiați, sunt bucățile distincte de text generate de un LLM atunci când interacționează cu un om – deci, practic, este diferența dintre o conversație cu un licitator care vorbește rapid și un filozof contemplativ.
„Până acum, obținerea vitezei în timp real însemna, de obicei, alegerea unui model mai mic sau mai specializat”, a declarat compania în postarea de pe blog de joi. „Ultrafast indică progresul într-o direcție nouă: mai multă muncă utilă pe secundă.” Pentru că cine nu vrea să cuantifice utilitatea în termeni de debit brut?
Concurenții OpenAI, precum Anthropic, au lansat, de asemenea, versiuni accelerate ale modelelor lor. Claude are modul rapid, deși nu oferă tipul de viteză pe care îl oferă OpenAI aici. Deci, dacă vă temeți că Claude o depășește pe GPT, fiți liniștiți: OpenAI a aruncat mănușa, și este făcută din siliciu și aroganță.
OpenAI sugerează că această versiune de înaltă performanță a GPT-5.6 Sol poate fi implementată într-o serie de fluxuri de lucru corporative, în special răspunsul la incidente, serviciul clienți și asistență, analiza piețelor financiare și comerțul electronic, printre alte domenii relevante. Pentru că nimic nu spune „calm sub presiune” ca un chatbot care răspunde la o cădere de server cu viteza luminii.
Ultrafast, care este lansat în prezent în previzualizare, este alimentat de parteneriatul OpenAI cu producătorul de cipuri Cerebras. În prezent, previzualizarea este disponibilă doar unui grup mic de clienți, deși OpenAI spune că va extinde accesul la funcție pe măsură ce „capacitatea crește”. Deci, deocamdată, cei mai mulți dintre noi va trebui să continuăm să așteptăm agonizantele milisecunde de care are nevoie GPT-5.6 Sol pentru a răspunde. Vom încerca să ne descurcăm.