搶佔人工智能時代制高點:洞察半導體技術革新與未來競爭策略
從雲端到邊緣:AI 晶片正在改變算力地圖 去年底,我在一間做工業設備的公司開會。 他們的產線上有好幾台視覺檢測機,每一台都在「看」螺絲、零件有沒有瑕疵,節奏快到幾乎不能停。 技術主管跟我說了一句話,讓我記到現在: 「我們原本以為,只要把圖傳到雲端讓 AI 看就好。 結果發現,光是傳輸延遲,就讓整條生產線慢了半拍。」 那不是網路商的廣告詞裡面會出現的那種「幾毫秒」, 而是實打實的卡頓:機器手臂等結果、輸送帶速度不得不放慢、良率統計變得不穩定。 他們最後的解法,不是換更快的網路,而是換晶片── 把原本仰賴雲端的推理,搬回機台旁邊的邊緣運算模組裡,用專用 AI 晶片在本地做判斷。 這個場景,其實在很多產業都在悄悄上演。 Gartner 預測,到 2025 年,企業產生的資料有 75% 會在邊緣被產生並處理,而不是集中在傳統資料中心裡。 算力地圖,正在從「雲是一切的中心」,變成「雲與邊緣分工合作」。 雲端夠快,但不是所有事情都等得了 老實說,我們這幾年被「雲端 AI」的成功有點養刁了。 把資料丟上去、等模型跑完、把結果拿回來 —— 在很多辦公場景,這套流程順得不得了: 報表生成、客戶分群、推薦系統優化,延遲以秒計算也無傷大雅。 但當應用場景從後台移到前線、從螢幕裡走到真實世界,問題就完全變了。 你沒辦法讓一台自駕車的感知系統,等雲端伺服器回覆才決定要不要踩煞車; 你也沒辦法讓手術室裡的即時影像判讀,每次都走一趟大西洋再回來。 對機器人、無人機、智慧工廠來說,「幾十毫秒差一點點」有時候就是撞到 vs 避開的差別。 這也是為什麼,在資料中心裡 GPU 仍然稱王的同時, 另一條線悄悄長出來了:邊緣端的算力,開始有了自己的晶片族譜——ASIC、FPGA、NPU、PIM,各有各的位置。 IDC 預估,到 2027 年光是 AI 用 IT 基礎設施的半導體支出,就會來到 1,933 億美元,5 年複合成長率超過 35%,其中很大一塊成長,來自於「把一部分 AI 能力下放到邊緣」這個趨勢。 ASIC 和 FPGA:不是誰比較好,而是你準備押多大 「GPU … 더 읽기