「仰賴超大規(guī)模 GPU 叢集執(zhí)行超大型 LLM 的時代已經(jīng)結(jié)束。HyperThought 讓 AI 從僅屬於雲(yún)端巨擘的複雜工程，轉(zhuǎn)變?yōu)槊恳患移髽I(yè)皆可擁有的單卡級簡潔方案。」

—— William Wei,Skymizer 行銷長

消除企業(yè) AI 的隱藏稅負

其結(jié)果是：企業(yè)在享有資料隱私、低延遲與完整營運掌控權(quán)的同時，亦可擺脫 GPU 叢集所帶來的基礎(chǔ)設(shè)施負擔(dān)。

地端推論亦消除了「按 token 計費」所帶來的支出焦慮——此焦慮已成為企業(yè)導(dǎo)入 AI 的無形稅負。雲(yún)端推論迫使團隊必須精打細算每筆查詢，並限縮 Agent 的使用。HyperThought 則徹底解除此限制：一旦部署完成，企業(yè)便可在固定的基礎(chǔ)設(shè)施成本下，執(zhí)行無上限的推論。

HyperThought 為企業(yè)既有的 GPU 基礎(chǔ)設(shè)施提供互補，而非取代。透過將解碼(decode)密集的推論工作自 GPU 卸載，企業(yè)可提升整體叢集的利用率與電力效率。

驅(qū)動企業(yè)跨領(lǐng)域的 Agentic AI 工作流程

HyperThought 與 HTX301 專為 agentic AI 工作負載而設(shè)計，此類工作負載正快速成為企業(yè)自動化的核心基石。搭配 OpenClaw 等 agent harness 框架，HTX301 能提供這些系統(tǒng)所需的推論吞吐量，並同時具備完整的資料自主權(quán)與可預(yù)期的延遲表現(xiàn)。

此一架構(gòu)可驅(qū)動跨產(chǎn)業(yè)與跨領(lǐng)域的 agentic 工作流程與自動化，包括:

金融服務(wù)(法遵、詐欺偵測、投資組合推理)；醫(yī)療與生命科學(xué)(臨床決策輔助、藥物交互作用分析)；製造業(yè)(預(yù)測性維護、品質(zhì)檢測)；法律與專業(yè)服務(wù)(合約審閱、機密知識檢索)；政府與國防(主權(quán) AI、機密分析)；零售(客服自動化、庫存推理)；軟體工程(私有 code copilot、自主 CI/CD)；以及 半導(dǎo)體與 IC 設(shè)計(地端 RTL copilot、驗證 agent、針對自有 IP 的設(shè)計知識檢索)。

焦點應(yīng)用：地端 AI Coding。AI 輔助編碼已成為現(xiàn)代軟體團隊的基本配備，且在「原始碼即公司命脈」的領(lǐng)域中，需求增長最為快速。IC 設(shè)計公司無法將自有 RTL 上傳至雲(yún)端編碼助手，否則將面臨價值數(shù)十億美元矽智財外洩的風(fēng)險；軟體公司在面對機密程式碼與客戶資料時，亦有相同的考量。HTX301 能提供足以支撐完全地端執(zhí)行私有 code copilot、RTL 生成器與驗證 agent 的吞吐量——既消除雲(yún)端外洩風(fēng)險，又完整保留 AI 輔助工程所帶來的生產(chǎn)力效益。

除了 agentic 工作負載之外，單顆 HTX301 晶片亦支援裝置端推論——涵蓋語音轉(zhuǎn)寫、翻譯、視覺理解與多模態(tài) AI——適用於邊緣伺服器、AI 工作站、智慧 NAS 系統(tǒng)及各類智能端點。

由 LISA? 與 HyperThought? 驅(qū)動

HyperThought 由 LISA?(Language Instruction Set Architecture，語言指令集架構(gòu)) 所驅(qū)動，此為 Skymizer 自主研發(fā)、專為 Transformer 推論最佳化的語言中心指令集架構(gòu)。LISA 在效能、功耗效率與擴展性方面,全面支援自邊緣裝置至企業(yè)叢集的各類部署。

地端部署的 HTX301 介面卡，與 HyperThought 裝置端 LPU 共用相同的 LISA 架構(gòu)基礎(chǔ)——一套 ISA、一套部署流程，自邊緣至資料中心，一以貫之。

Prefill/Decode 分離:HyperThought P/D 策略

LLM 推論包含兩個本質(zhì)上截然不同的階段：prefill(處理輸入提示，屬 compute-bound)與 decode(逐一生成 token，屬 memory-bandwidth-bound)。以 GPU 為核心的基礎(chǔ)設(shè)施強迫兩者共用同一塊矽晶片，在任一時刻總會造成運算資源或頻寬資源的閒置。HyperThought 自架構(gòu)設(shè)計之初，即將此兩階段加以分離。

硬體堆疊——Decode 優(yōu)先的專屬矽晶片。HTX301 為 decode 階段量身打造——此階段是主導(dǎo)真實世界推論延遲、對記憶體頻寬極度敏感的 token 生成過程。既有 GPU 處理 compute 密集的 prefill；HTX301 介面卡則負責(zé) decode。每一塊矽晶片皆對應(yīng)其最適合的階段。

軟體堆疊——統(tǒng)一的 P/D 調(diào)度。Skymizer 的統(tǒng)一軟體堆疊——涵蓋 KV-cache 管理員、具階段感知能力的排程器，以及動態(tài)配置引擎——可協(xié)同調(diào)度 prefill 與 decode 資源池，於節(jié)點之間傳遞 KV-cache 狀態(tài)，並隨工作負載變動即時重新平衡 P:D 比例。

「專為 decode 打造的硬體，搭配能協(xié)調(diào)每一份推論工作負載的智慧軟體堆疊——這才是在規(guī)模化場景下分離 P/D 的真正做法?！?/i>