第35屆台灣精品選拔 — 選拔項目撰寫稿

企業以 GPU 跑 AI 常忽略一個浪費：當工作負載只吃 CUDA Core (如電信 vRAN 訊號處理) 時，同卡的 Tensor Core 幾乎整片閒置——實測 NVIDIA H100 於純 vRAN 下 16,896 個 CUDA Core 高度使用、528 個 Tensor Core 幾近全閒，GPU 帳面滿載、實際核心利用率僅 30-40%。AI-Stack (數位無限自主研發之企業級機器學習協作管理平台) 的核心創新 CTA (Core Type Aware Scheduler) 直接解這題：在 Kubernetes 排程層，將每張 GPU 的 Tensor 與 CUDA 資源「分池計量、依工作負載類型獨立排程」，使一個 CUDA 型與一個 Tensor 型容器得以共用同一張卡，並對每容器施加記憶體硬隔離 (由本公司 ixGPU VCUDA 隔離技術提供)。實測證明：CUDA 與 Tensor 容器同卡並行、互相干擾低於 2% (1024 小矩陣、compute-bound；大矩陣因 VRAM 頻寬共享退化較高)，等同把原本閒置的另一半 GPU 拿去跑第二份工作。CTA 為純軟體、應用程式零修改，支援 Volta 架構以上全系列 NVIDIA GPU (不受 MIG 僅限 A100 以上之限制)，並以圖形化 UI 整合於 AI-Stack，直接呼應電信 AI-RAN、媒體串流、金融風控、製藥/HPC 等高算力產業之 TCO 下降與 ESG 節能減碳訴求。

AI-Stack 為數位無限自主研發之機器學習協作管理平台，研發策略以「讓既有 GPU 發揮加倍效益、降低企業 AI 基礎設施總持有成本」為核心布局。平台導入自研之 CTA (Core Type Aware Scheduler，核心類型感知調度器) 作為關鍵差異化技術：現行 GPU 共享方案 (NVIDIA MIG、vGPU、Kubernetes time-slicing) 皆以「整卡」或「SM 分區」為單位，無法區分 GPU 內 CUDA Core (通用浮點，用於 vRAN 訊號處理、視頻轉碼、科學計算) 與 Tensor Core (矩陣乘加，用於 AI 訓練與推論) 兩種硬體獨立之運算單元；單一工作負載僅用其一、另一閒置，導致 GPU 顯示滿載但實際核心利用率僅 30-40%。CTA 在 Kubernetes 排程層新增「核心類型」這個資源維度，將每張 GPU 的 Tensor 與 CUDA 資源分池計量、依工作負載類型獨立排程與配額，使 CUDA 型與 Tensor 型容器得以共用同一張卡、於同一時鐘週期並行運作。技術規格與同類產品比較：CTA 支援 Volta 架構以上全系列 NVIDIA GPU，相容範圍遠廣於僅支援 A100 以上之 MIG；以同時鐘週期真並行取代 vGPU 與 time-slicing 之時間分片；並以標準 Kubernetes 資源請求 (infinitix.co/ixcta-cuda、infinitix.co/ixcta-tensor) 整合、應用程式零修改。依公開技術資料，市場上尚未見可區分 GPU 核心類型 (CUDA/Tensor) 之同類調度方案，產品獨特性與市場競爭力明確。

CTA 在本公司 ixGPU GPU 虛擬化與隔離技術 (VCUDA) 之基礎上，自研「核心類型感知 (Core Type Aware)」層，核心由三部分構成：(1) ixcta device-plugin — 以 Kubernetes Device Plugin API 將單張實體 GPU 暴露為 infinitix.co/ixcta-tensor 與 infinitix.co/ixcta-cuda 兩種虛擬裝置資源 (每卡可分配數量由 AI-Stack 後台設定，屬虛擬裝置配額、非物理切割核心)；(2) 核心類型感知排程 — ixscheduler 將每張 GPU 的 Tensor 與 CUDA 資源分池計量、依 Pod 請求之類型獨立配額，並以 binpack 共置策略使 Tensor 型與 CUDA 型容器共用同卡 (此排程層為自研、原始碼可驗)；(3) libixcta.so — 於容器啟動時替換 CUDA/NVML 動態庫 (libcuda.so.1 / libnvidia-ml.so.1) 以攔截 CUDA 與 NVML 呼叫，強制每容器之 GPU 記憶體硬上限與 SM 限制 (此 runtime 隔離層由本公司 ixGPU VCUDA 技術提供)。此架構展現公司於 Kubernetes 雲原生排程、GPU 資源虛擬化與 CUDA runtime 攔截之研發整合能量。研發能量並延伸至前瞻產業整合研究：團隊已完成 CTA 與 NVIDIA Aerial (cuPHY/cuMAC) 之 vRAN 場景相容性分析 — 實測 H100 於純 vRAN 部署下 16,896 個 CUDA Core 高度使用、528 個 Tensor Core (峰值 1,979 TFLOPS FP16) 幾乎閒置，因 LDPC/FFT/CRC 屬稀疏矩陣與蝶形運算、不符 Tensor Core 之 GEMM 模式，此即 CTA 釋放閒置算力之理論基礎，並延伸出 vRAN+Edge AI、傳統 PHY+AI-Native PHY、vRAN+LLM 推理共置三大部署場景藍圖。

CTA 之核心智慧財產為自研之「核心類型感知」資源模型與排程邏輯 — 將單張 GPU 區分為 ixcta-tensor 與 ixcta-cuda 兩種虛擬裝置資源池並據以分池排程，此為本產品相對於既有 vGPU / MIG 方案之關鍵創新與技術門檻；底層之記憶體與 SM 硬隔離則由本公司 ixGPU (VCUDA) 隔離技術提供。於目前 PoC 階段，前述自研層以營業秘密與著作權方式控管，並建立內部原始碼權限分層管理 (核心倉庫採最小權限存取)，落實智慧財產之分級保護與存取控管。

便利性：管理者於 AI-Stack 後台「節點管理 → Set Core」即可為每張 GPU 設定可分配的 tensor / cuda 虛擬裝置數量 (排程配額，屬虛擬裝置數，非實體核心切割)，並於「規格與樣板」建立 cuda 或 tensor 之 MLS 規格；使用者於前台容器列表點選對應規格、鏡像與儲存即可建立容器，全程圖形化點選、無需指令操作，並可於 Dashboard 即時檢視各卡虛擬裝置之總量、已用量與佔比，大幅降低 GPU 共享之操作門檻。安全性：(1) 零修改導入 — 應用程式僅需於 Pod 宣告請求 ixcta-tensor 或 ixcta-cuda 標準 K8s 資源，不需修改任何一行應用程式碼，大幅降低既有系統之整合與導入風險；(2) 記憶體隔離防連鎖故障 — libixcta.so 於 runtime 強制每容器之 GPU 記憶體硬上限，單一容器超量僅 OOM 自身、不波及同卡其他容器，避免共享環境常見之連鎖崩潰，提升多租戶環境之穩定性與安全性。

成本創新：CTA 將異核心工作負載共置並行，使 GPU 核心利用率自 30-40% 提升至 80% 以上 (情境模型試算，須以實際工作負載組合為準)。PoC 實測佐證 (2025.11，測試環境 CPU 8 核、RAM 10 GB、單張 GPU [卡型待確認]、矩陣 1024×1024、kernel launches 10,000 次，量測 kernel 執行總用時)：單跑 CUDA 2,495.617 ms、單跑 Tensor 955.94 ms；CUDA+Tensor 並行時分別為 2,536.072 ms (+1.6%) 與 959.55 ms (+0.4%)，退化低於 2%，證明為真正同時鐘週期並行而非時間分片；同型核心並存則串行化、程序總時間翻倍。此低退化結論僅適用於 1024 小矩陣等 compute-bound 場景。利用率倍增意味相同算力需求所需 GPU 數量可望減半，硬體採購、機房空間與部署成本隨之下降 (TCO 約降 40-47%，模型試算)。環保綠能：作為純軟體方案，CTA 之導入不產生額外硬體耗材；GPU 數量減半連帶降低電力消耗與冷卻負載，直接貢獻企業 ESG 節能減碳目標，並延後下一波硬體汰換、減少電子廢棄物，體現循環經濟與綠色資料中心精神。

AI-Stack 之設計以企業 GPU 資源管理之真實痛點 (利用率偏低、共享易 OOM、AI 與非 AI 異質工作負載難以共置) 為起點，提供容器管理、GPU 排程、鏡像與儲存管理、分散式訓練與 Dashboard 監控等完整功能模組；CTA 模組進一步滿足「同卡並行 AI 與非 AI 工作負載」之新興市場需求，功能設計精準對應電信、媒體、金融、製藥等目標客群之核心痛點 (詳見 CTA 應用場景)。

全平台以圖形化網頁介面操作，CTA 設定亦為點選式 (Set Core、選 MLS 規格)，免除指令門檻、降低操作負擔；應用程式僅需以標準 K8s 資源請求即可使用、零修改上線，符合人因工程之低學習成本原則。介面採中性語言與一致化版面，不預設使用者性別、年齡或專業背景，貫徹包容性設計，使不同技術程度之系統管理者與資料科學家皆能順暢操作。

CTA 於 Kubernetes Scheduling Framework 與 Device Plugin API 之上擴充，以虛擬裝置資源暴露與類型感知 scoring 達成核心類型之調度配置，屬雲原生排程之高難度整合；PoC 實測異核心並行退化低於 2% (1024 矩陣、10,000 次 kernel)，展現同時鐘週期真並行之優異效能與工程實力，產品性能明確領先時間分片類方案。

平台 UI 採一致化視覺語言與清晰資訊層級，Dashboard 即時呈現各卡 CUDA/Tensor 核心之總量、已用量與佔比，將原本抽象難解的 GPU 核心利用率以直覺圖表視覺化，使資源狀態一目了然，兼顧美感與可讀性。

CTA 透過提升 GPU 利用率，使相同算力需求所需硬體可望減半，自產品設計層面即內建「以軟體換硬體」之綠色思維，降低電力與冷卻消耗，呼應綠色資料中心與企業節能減碳規範，將環保設計落實於核心架構而非附加功能。

AI-Stack 以「讓既有 GPU 發揮加倍效益」之創新品質，滿足客戶尚未被既有 GPU 共享方案 (MIG/vGPU/time-slicing) 滿足的潛在需求 — 在不增購硬體之前提下，於同一張卡並行運行 AI 與非 AI 異質工作負載。CTA 之核心類型感知為差異化魅力品質，依公開技術資料市場尚未見可區分 CUDA/Tensor 核心之同類方案，對同時具備 AI 與 vRAN/HPC 工作負載之客群具明確吸引力；其「零修改、純軟體、利用率倍增」之組合，於既有顧客創造立即可感之效益，並對潛在新顧客形成獨特之競爭差異與獨特性。

AI-Stack 採版本化之開發與發布流程：以 Ansible 量產安裝包與 Helm Chart 進行標準化部署，並以 golden sample 驗證確保各版本之一致性；具備跨版本回歸測試、安裝後 UI 設定查核與發布前壓測驗證機制。CTA 元件即於發布前完成異核心並行壓測 (1024 矩陣、10,000 次 kernel，並行退化低於 2%)，以嚴謹之審查步驟確保產品品質之可控與可重現，落實設計與製造過程之品質控制。

資訊軟體類雖免附認驗證，惟本子點仍須具體說明企業所建立並落實之品質與管理系統及其驗證、稽核與改善機制，以證明品質管理之制度化與持續改善能力。AI-Stack 之發布流程已內建可重現之驗證與查核步驟，作為品質管理系統落地之基礎。

AI-Stack 以客戶 RFP 與 PoC 回饋驅動產品迭代 — CTA 之 vRAN/Aerial 整合分析即源自電信客戶之真實場景需求，將顧客之潛在需求系統性轉化為產品路線圖，體現以顧客為導向之研發與品質經營理念。導入流程亦採「現況評估 → 效益試算 → 技術驗證 → 規劃部署 → 正式上線」之顧客導向五階段，確保品質貫穿全生命週期。

品質經營：以客戶 PoC 與 RFP 需求建立長期合作關係，並將回饋系統性納入產品路線圖，追求顧客忠誠度與長遠價值。ESG 與環境永續：CTA 為 AI-Stack 之關鍵永續槓桿 — 透過 GPU 利用率倍增，使相同算力需求之硬體、電力與冷卻可望減半，直接支持資料中心節能減碳之中長期策略；作為純軟體方案不增額外硬體耗材，並延後硬體汰換、減少電子廢棄物，呼應循環經濟。前述效益使本產品同時具備商業價值與環境永續價值，呼應台灣精品近年「永續、AI 與跨領域整合」並重之評選趨勢。依產業研究估算之 TCO 構成 (模型試算)：GPU 硬體採購占 55-60%、電力與冷卻占 20-25%、機架與網路占 10-12%，CTA 於前三項各約可節省 50%，合計總持有成本約降 47%；以 100 張 GPU 規模估算，五年 TCO 約可節省 240 萬美元，並減少 50 張 GPU 之電力消耗與相應碳排 (模型試算，實際依部署環境而異)，將節能減碳具體量化為可驗證之永續成效。

AI-Stack 為數位無限 (INFINITIX) 之自創品牌，定位為「讓既有 GPU 發揮加倍效益」的企業 AI 基礎設施管理平台。品牌核心價值聚焦三大訴求：GPU 利用率倍增、總持有成本 (TCO) 下降、以及 ESG 節能減碳，並以 CTA 核心類型感知之獨特技術建立明確之市場區隔。產品定位採垂直產業切分，鎖定同時具備高算力與 AI 需求之客群：電信 (vRAN 與 AI-RAN 並行)、媒體串流 (轉碼與 AI 內容分析)、金融 (量化計算與 AI 風控)、製藥/HPC (分子模擬與 AI 藥物發現)，並針對各產業之 CUDA/Tensor 工作負載組合提出對應之效益訴求，使品牌價值精準傳達至各目標市場。依部署規模之效益試算 (模型試算)：50 張 GPU 規模可省約 25 張、五年 TCO 約省 120 萬美元；500 張 GPU 規模可省約 250 張、五年 TCO 約省 1,200 萬美元，此規模化效益為對大型電信與雲端客戶之關鍵價值主張與定位依據。

AI-Stack 採「原廠直接銷售 + 顧問式 PoC 導入 + 經銷通路夥伴」之多元通路策略：對重點客戶以原廠直接銷售與 PoC 驗證切入；並已建立遍布東南亞之經銷與系統整合通路網絡，合作夥伴包含零壹、敦陽、泰豐、敦新等，使產品得以觸及區域企業與電信客戶、進入大型基礎設施專案，兼顧國內與海外通路之經營。

行銷與技術團隊持續蒐集 GPU 調度競品 (NVIDIA MIG/vGPU、Run:ai 等) 之公開技術資料，作為產品定位與差異化之依據，並據以產出 CTA vs MIG/vGPU 之逐項對比分析、以及 CTA × NVIDIA Aerial vRAN 整合可行性研究，系統性回饋至研發與行銷策略，確保產品始終對準市場需求與競爭態勢之變化。競品對比分析顯示 (依公開技術資料)，CTA 於「核心類型感知、同時鐘週期真並行、資源動態彈性、QoS 核心類型隔離」四項相較 NVIDIA MIG 與標準 Kubernetes GPU 方案具差異化優勢，此差異化矩陣即為行銷定位與銷售話術之核心依據。

平台導入採顧問式 PoC 與技術支援模式，依客戶場景 (如電信 vRAN、企業 AI 訓練) 提供導入規劃、效能驗證與後續技術協助，並以「現況評估 → 效益試算 → 技術驗證 → 規劃部署 → 正式上線」之標準流程建立與顧客之長期信任關係。

品牌推廣以產業展會、技術白皮書與 PoC Live Demo 為主要作法 — CTA 已具備 PoC 加 Live Demo 之交付能力，可於客戶現場直接展示核心利用率 before/after 之差異，形成具高度說服力之品牌體驗，並以「GPU 利用率提升約 2 倍、TCO 降低約 40% (模型試算)、應用零修改」為一致之品牌訴求進行推廣。

參選產品 AI-Stack 平台 (其研發中之核心創新模組 CTA 含 ixcta device-plugin、ixcta-monitor、libixcta.so 等自研與整合元件) 由數位無限 (依我國法律設立登記之臺灣品牌企業) 於臺灣自主研發，研發單位設於臺灣，自核心演算法、原始碼設計、開發、壓力測試至版本發布均在我國境內完成，屬於我國研發產製之資訊軟體產品。

核心研發與關鍵技術實作主要於臺灣完成，未涉及國外製造 (原產地證明文件詳見待提供)。

不適用 (非國外製造)。