Conform Mediafax: OpenAI lansează o nouă tehnologie, „Ultrafast”, care promite să accelereze de până la 14 ori viteza de procesare a modelului GPT-5.6 Sol. Această inovație este concepută pentru scenarii critice unde timpul de răspuns este esențial, fără a compromite performanța. Abordarea OpenAI vizează optimizarea sarcinii de lucru per secundă, conform declarațiilor companiei preluate de TechCrunch.
Viteza, un factor cheie în competiția AI
GPT-5.6 Sol, vârful de gamă al familiei GPT-5.6, alături de modelele Terra și Luna, este poziționat de OpenAI ca fiind cel mai capabil pentru sarcini complexe, inclusiv programare, analiză profesională, cercetare științifică și securitate cibernetică. Noua infrastructură dezvoltată în parteneriat cu producătorul de cipuri Cerebras permite atingerea unei viteze de până la 750 de tokenuri pe secundă. Inițial, accesul la această capacitate va fi oferit pe scară restrânsă, pe măsură ce OpenAI își extinde infrastructura disponibilă. Această mișcare vine într-un context de competiție acerbă pe piața inteligenței artificiale, unde furnizorii se întrec în reducerea latenței. OpenAI oferă deja pentru GPT-5.6 Sol un mod „Fast”, ce sporește viteza de procesare cu până la 2,5 ori față de modul standard din API, dar cu un cost dublu.
Optimizare pentru fluxuri de lucru critice
Modul „Ultrafast” este gândit special pentru aplicații sensibile la timp, precum răspunsul la incidente, suportul pentru clienți, analiza piețelor financiare și operațiunile din comerțul electronic. În aceste domenii, viteza de reacție poate influența direct rezultatele operaționale. Compania a introdus și funcția „ultra”, care utilizează agenți multipli ce lucrează în paralel pentru a eficientiza sarcinile complexe. Aceasta depășește simpla accelerare a generării, având ca scop executarea simultană a mai multor fluxuri de lucru.
Parteneriatul cu Cerebras marchează o etapă importantă în eforturile OpenAI de a depăși limitele actuale ale procesării AI. Prin această colaborare, se urmărește democratizarea accesului la inteligență artificială de înaltă performanță, punând accent pe viteza de execuție, un parametru crucial pentru multe industrii. Noile capacități promit să redefinească modul în care companiile interacționează cu sistemele AI.
Sursa: Mediafax
