允中 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

AI芯片，正在機房里猛猛吃灰。

海外高端GPU供不應求、又貴又難買；

國產(chǎn)芯片產(chǎn)能好不容易上來了，結果是「能用但不好用」，生態(tài)不全、適配難、推理優(yōu)化門檻高，大量國產(chǎn)卡就這么空轉著，電費照燒，卻產(chǎn)不出一顆能用的Token。

企業(yè)想用AI，偏偏卡在了最不該卡的環(huán)節(jié)，算力。

所有人都在比誰的模型參數(shù)更大，但真正決定AI能不能落地的，其實是另一件沒那么性感的事：一顆Token，能不能被穩(wěn)定、便宜、規(guī)?；厣a(chǎn)出來。

死磕這件事的，是一支從中國超級計算體系里走出來的年輕團隊，是石科技

△AI生成

這家公司成立于2021年，由技術出身清華，有國家級算力中心工程經(jīng)驗的核心科研團隊聯(lián)合組建，是國內(nèi)最早將超算智算并行優(yōu)化的技術進行產(chǎn)業(yè)化的團隊之一。

名字取自“實事求是，甘為基石”，寄托著創(chuàng)始團隊對算力基礎設施地位的深刻認知。其創(chuàng)始人兼董事長閆博文，出生于1993年，畢業(yè)于清華大學，是清華計算機系博士后。

這家公司瞄準的是通過自主研發(fā)的并行優(yōu)化技術，將高性能計算（HPC）與人工智能計算深度融合，專治各種異構算力資源調度的“疑難雜癥”。

在他們看來，現(xiàn)在的AI行業(yè)根本不需要再多一個算力轉租平臺，要打破國產(chǎn)算力空轉的僵局，必須徹底跳出傳統(tǒng)租賃的淺層模式。

是石科技給出的解法直擊本質：

緊扣“Token標準化、國產(chǎn)化、效率提升”這三件事，直接重構算力變現(xiàn)路徑，重磅打造國產(chǎn)TOKEN調優(yōu)工廠。

大模型也有了算力“電網(wǎng)”：插上插頭，算力秒變Token產(chǎn)能

是石科技TOKEN工廠的第一層技術底座，來自異構算力的全域整合與深度國產(chǎn)化適配。

區(qū)別于行業(yè)常見的單一算力資源模式，是石科技搭建了全域異構算力資源池，全面兼容NVIDIA GPU、國產(chǎn)AI芯片（包括昇騰、昆侖芯、天數(shù)、太初、瀚博半導體等），以及云廠商算力、邊緣算力等多源渠道。

通過智能調度與彈性擴縮容技術，實現(xiàn)算力資源的統(tǒng)一納管、智能分配與動態(tài)擴容，讓企業(yè)不再受困于“算力采購難、資源碎片化”。

△AI生成

打個比方，這就像一張“全域智能電網(wǎng)”。

過去每家工廠只能用自己的發(fā)電機（單一算力），買不到柴油就停產(chǎn)，發(fā)電機壞了就癱瘓。

是石科技則類似于搭建了一張覆蓋全國的算力網(wǎng)絡，把各地的風電、水電、火電、太陽能電（各種算力）全部接入統(tǒng)一電網(wǎng)。

企業(yè)需要用電時，只需“插上插頭”，電網(wǎng)就會自動調度、分配與你需求最匹配的電給你，你完全不用關心電是從哪個具體的電網(wǎng)節(jié)點送過來的。

更關鍵的是，是石科技團隊完成了主流國產(chǎn)AI芯片的深度適配與專項優(yōu)化，打通了框架適配、算子兼容、通信優(yōu)化、性能調優(yōu)全鏈路

△AI生成

在這張電網(wǎng)的“變電與穩(wěn)壓”作用下，原本閑置、難調通的國產(chǎn)算力，在這里能被高效轉化為穩(wěn)定、可用、低成本的標準化Token推理產(chǎn)能

通過不斷提升算力利用效率，以及充分利用閑時的算力，或者根據(jù)客戶需求定制專屬算力資源，國產(chǎn)Token就可以真正變成可商用的產(chǎn)能優(yōu)勢。

對此，一位長期從事AI基礎設施的工程師評價說：

過去我們買了國產(chǎn)卡，總要花幾個月去調驅動、改框架、修bug。是石科技把這條路鋪好了。國產(chǎn)卡不再是“擺設”，而是真正能跑生產(chǎn)的引擎。

把芯片性能榨干到極限：吞吐暴漲50%，Token成本硬砍40%

如果說算力池化是底座，那么推理優(yōu)化就是TOKEN工廠的核心技術壁壘。

是石科技團隊深耕高性能計算領域多年，在嚴格恪守企業(yè)級SLA服務標準的前提下，從算子、內(nèi)存、調度、解碼等全維度進行技術革新。

CUDA Kernel算子級優(yōu)化、PagedAttention內(nèi)存優(yōu)化、Continuous Batching連續(xù)批處理、混合精度推理……這些技術被系統(tǒng)性地部署在TOKEN工廠的生產(chǎn)線上。

配合FlashAttention、推測解碼、KV Cache精細化管理、模型并行（TP/PP）等前沿加速方案，GPU等國產(chǎn)芯片的資源利用率大幅提升，Token吞吐總量顯著增加，單位Token生產(chǎn)成本大幅下降。

更重要的是，傳統(tǒng)推理中常見的延遲抖動、TTFT與TPOT波動等問題得到了有效控制——

Token生成變得高效、穩(wěn)定、高品質。實測數(shù)據(jù)顯示，在同等算力條件下，是石科技的推理優(yōu)化方案可將吞吐量提升30%-50%，單位Token成本降低40%。

△AI生成

治好“宕機焦慮”：99.9%高可用，把推理做成不斷電流水線

規(guī)模化的Token生產(chǎn)，不能建立在脆弱的單點算力之上。

是石科技構建了一套多Provider互補與容災體系：

• 資源互補：流量峰值時自動彈性擴容；
• 技術互補：接入特定模型和技術能力（如超低延遲、多模態(tài)）；
• 區(qū)域互補：跨地域部署，降低延遲，滿足各行業(yè)合規(guī)要求。

自動Fallback故障切換機制，搭配“自有集群承載主要流量、合作伙伴集群兜底容災”的流量分配模式，徹底規(guī)避單點算力故障導致的業(yè)務中斷風險。

△AI生成

99.9%的高可用性服務保障，讓Token的規(guī)?；a(chǎn)、調度、輸出全程穩(wěn)定可控。

想象一下飛機引擎的“多冗余設計”，即便一臺引擎失效，其他引擎能夠自動補位，飛機照常飛行。

是石科技相當于給AI推理服務裝了三套引擎——包括自己的引擎、合作伙伴的引擎、備用引擎。

哪怕其中一套突然熄火，系統(tǒng)會在0.1秒內(nèi)自動切換到另一套，用戶完全感知不到。

從技術上看，這已經(jīng)不是漸進式的改良，而是從“算力資源”到“優(yōu)質Token產(chǎn)能”的價值躍遷。

當前，國產(chǎn)AI算力替代進程持續(xù)提速。

標準化、可量產(chǎn)、低成本的Token產(chǎn)能，已成為AI產(chǎn)業(yè)落地的核心生產(chǎn)資料。

是石科技的目標已經(jīng)明確：

建成中國最大、技術最先進、服務最完善的國產(chǎn)TOKEN調優(yōu)工廠。

讓千行百業(yè)降低AI落地門檻，讓國產(chǎn)算力生態(tài)真正實現(xiàn)規(guī)?；?、高質量發(fā)展，推動中國AI產(chǎn)業(yè)邁入工業(yè)化、標準化的全新階段。

當行業(yè)還在追逐單一模型的精度時，是石科技選擇了一條更有挑戰(zhàn)但更具長期價值的道路——

做夯實AI推理底座的工廠，做可進化、可復用、可普惠的Token生產(chǎn)力平臺。

這條路投入更大、周期更長、協(xié)調更復雜。

但一旦走通，它改變的將不只是某一家企業(yè)的推理成本，而是整個適合中國AI產(chǎn)業(yè)高效發(fā)展的國產(chǎn)算力生態(tài)。