Startup-ul AI Subquadratic, cu sediul în Miami, a ieșit din stealth mode cu o afirmație atât de îndrăzneață încât l-ar face pe un Transformer să roșească: se presupune că au spart un blocaj matematic care a ținut modelele de limbaj mari ostatici timp de aproape un deceniu. Noul model al companiei, SubQ, promite să fie mai rapid, mai ieftin și mai eficient energetic decât orice altceva de pe piață, procesând de până la 12 ori mai mult text simultan. E ca și cum ai citi Război și pace dintr-o înghițitură, în loc să răsfoiești pagină cu pagină.

Dar iată problema: când Subquadratic a făcut marele anunț luna trecută, dovezile au fost vizibil absente. Scepticismul a fost rapid și nemilos. Dan McAteer, inginer AI, a rezumat starea de spirit pe X: „SubQ este fie cea mai mare descoperire de la Transformer... fie este AI Theranos.” Au.

O lună mai târziu, compania a început să aducă acele dovezi, publicând rezultate din teste independente efectuate de firma terță Appen. Cifrele arată promițător: SubQ a obținut 89,7% la LiveCodeBench, un test de codare, și a fost de 56 de ori mai rapid decât modelele care folosesc FlashAttention, o tehnică anterioară de atenție rară. „A fost foarte interesant pentru mine, mi-a validat arhitectura”, spune Jeanine Sinanan-Singh, directorul de cercetare AI generativă al Appen.

Deci care este secretul? Subquadratic a renunțat la atenția densă – operația de bază a transformatoarelor, care înmulțește fiecare token cu fiecare alt token într-o explozie pătratică de calcul – în favoarea atenției rare, care înmulțește doar perechi selectate. Ideea este că nu toate relațiile dintre cuvinte contează; nu trebuie să conectezi primul cuvânt din Marele Gatsby cu ultimul doar pentru a-l rezuma. „Dacă citești o carte, nu te uiți la primul și al doilea cuvânt, primul și al treilea – asta e o nebunie”, spune cofondatorul Alex Whedon.

Subquadratic nu va spune exact cum alege SubQ cuvintele pe care să se concentreze – pentru că, știi, secrete comerciale – dar susține că este dinamic și calculat pe loc. Economiile de costuri sunt uluitoare: rularea LLM-ului Opus al Anthropic printr-un test numit RULER 128 costă 2.600 de dolari, în timp ce SubQ ar face-o pentru opt dolari. Nu este o greșeală de tipar.

Înainte să-ți anulezi abonamentul OpenAI, câteva avertismente: SubQ a reutilizat greutăți de la modelul open-source chinezesc Qwen, în loc să se antreneze de la zero, ceea ce subminează afirmația de reinventare completă. Și modelul este încă în mare parte pe o listă de așteptare, doar o mână de utilizatori având experiență practică. „Dovezile publice nu justifică încă afirmația mai puternică că au rezolvat blocajul atenției pătratice”, spune cercetătorul independent Will Depue.

Subquadratic, la rândul său, este filozofic în privința scepticismului. „Sperăm că dăm startul unei noi ere a eficienței”, spune CEO-ul Justin Dangel. „Nu credem că va mai construi cineva pe transformatoare în câțiva ani.” Până atunci, lumea așteaptă – și se întreabă dacă acesta este următorul mare lucru sau doar o altă problemă de matematică bine finanțată.