episode7

podcastIcon 【旭沙龍-張育寧時間】耐能科技執行長劉峻誠: AI 將無所不在,我想打造的是一個新產業

podcast34:37

【旭沙龍-張育寧時間】耐能科技執行長劉峻誠: AI 將無所不在,我想打造的是一個新產業

2021-09-03 03:30:00

在台積電穩站 CPU 王者地位的同時,新興邊緣 AI 晶片市場的創新之火也以燎原之勢蔓延;其中,來自台灣的新創耐能智慧透過驚艷業界的「可重組晶片架構」,短短六年間獲得市場矚目,這個終端邊緣 AI 新領域的新王者,要如何在激烈的市場競爭中迎戰國際大廠?

#邊緣AI晶片新王者 #台灣IC設計獨角獸 #下一個台積電?

stopwatch時間標記

00:00 Intro

01:22 發展備受注目,耐能近兩年的里程碑

08:30 可重組式AI晶片是什麼?

11:25 即蓋即可升級,不再需要汰換整個產業鍊

17:50 CPU、GPU 跟 NPU的差別

22:30 首個 AI 共享平台 Kneo 的概念是?

圖片來源 - Kneron提供

questionquestion

AI 晶片為什麼重要?

人工智慧 AI 技術的國際競賽,就是美中科技戰的主要舞台背景;其中,美國陣營擁有明顯優勢的硬體領域,台灣又佔據短期內無法被取代的核心位置,AI 晶片的重要性不言可喻。

  • 美國研究 AI 政策智庫新興科技與安全研究中心今年(2021)四月最新報告認為,未來國際政治經濟勢力變化,端看 AI 晶片技術優勢的競賽發展
  • 半導體晶片技術的地緣政治過去勝負明顯;美國企業在AI晶片設計、設計晶片用的 EDA 軟體具有絕對領導地位;美國、台灣、南韓的企業則控制了世界主要的晶圓廠和製造技術;美、荷、日本的企業則是共同掌握了主要的半導體廠設備能力。
  • AI 以等比級數的規模推動各類科技研究發展的進步,在美中的世紀競賽中,兩大陣營都想獲取 AI晶片設計和產製能力,同時加速自身陣營在 AI 應用上的各項突破,不管是應用在國家安全或商業領域,都能維持一定程度的勝算。

台積電王國境外的新競賽?

被台灣人暱稱為「護國神山」的台積電,在過去 10 年間逐漸掌握 CPU 全球過半市占率,摩爾定律極限衍生的超高製程研發成本和技術門檻,把台積電從寡占推向獨佔的王者地位;然而,新興專業晶片市場的新一輪技術和應用與製造競賽,也因此開始

  • CPU 的產品生命週期愈來愈短、製程研發成本卻愈來愈高,通用晶片規模經濟的絕對優勢開始下降,也使得產品生命週期較長的少量多樣專業晶片有了生存利基。
  • 深度神經網路技術快速成熟,AI 運算需求也快速成長;GPU 可以平行運算的特性, 使得 Nvidia 一直主宰 AI 運算市場,但 GPU 仍然屬於通用晶片,成本和耗能都偏高,只會運用在資料中心、雲端等高性能運算環境。
  • 同時期,開始有半訂製的 FPGA 和全訂製的 ASIC 兩種專業晶片;特製專業晶片隨著 AI 訓練(training)和推論(inference)的任務不同,各自有不同的優勢;若以需要即時推論的終端邊緣運算需求(如行動裝置、無人自駕車、智慧家電等)來看,除了運算力之外,低功耗、低成本及低延遲等特性需要同時具備。
  • 2020 年全球有 80 家 AI 晶片新創,共吸引 105 億美元規模的資金;小型邊緣裝置是 AI 晶片新創公司最活躍的領域,來自台灣的耐能科技,就是其中一個受到矚目的明日之星。

耐能智慧:邊緣 AI 領域的新王者

耐能智慧 2015 年由來自台灣的劉峻誠在美國聖地牙哥創立,他發明的「可重組式AI晶片架構」獲得今年(2021)電機電子工程學會達靈頓獎(IEEE Darlington Award ),低耗能高效率,由於可以用一款 AI 晶片支援多種功能,即使屬於全訂製的 ASIC 也能維持成本優勢

  • 因為主打「一款晶片通用」,使得耐能智慧的 NPU(神經網絡處理器 Neural Processing Unit)成為邊緣 AI 領域的新王者;半導體專業媒體《EE times》去年(2020)將耐能的晶片列為世界十大 AI 晶片,並列的還有英特爾、Nvidia;《CRN》將耐能智慧、英特爾和 Nvidia 等並列世界 5 大人工智慧晶片。
  • 目前募資超過一億美元、估值已經超過百億台幣的耐能智慧,投資股東包含紅杉資本、高通、台達電、鴻海、華邦,以及香港李嘉誠、阿里巴巴其他國際資金,預估有機會在 2023 年實現獲利之後 IPO。
  •  AI 晶片競爭激烈,不只在技術上要有獨特之處,還需要在市場部署上有全方位設計才能存活;其中至少包含成熟的軟體開發堆疊,以及將深度學習應用程式嵌入產品中的更多元潛力,才有機會在市場勝出;耐能在規模化和快速普及化取得優勢後,下一步就是打造生態系。
  • 推出世界第一個 AI 共享開發平臺 Kneo,讓 AI 應用開發者自行上傳,劉峻誠希望打造終端 AI 網路民主化,「讓每個人都可以定義 AI,而不是讓 AI 掌握在大公司手中。」

2017年耐能智慧推出第一款邊緣 AI 晶片時,市場上幾乎沒有其他競爭者,面對技術代換和市場變換快速的市場,劉峻誠怎麼走向獲利、打敗國際大廠?請看《旭沙龍》的精彩專訪。

深度對談

question
晶片圈的潛力新星 耐能在四大領域獲得了哪些成就?
張育寧

張育寧

旭時報總編輯

耐能的晶片在 2017 年推出後,過去三年多來的發展速度非常快,募資已經有非常好的成績,請您跟我們更新一下,過去這兩年耐能在發展上面有哪些重要的里程碑?

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

首先,在募資方面,我們前後大概募得了一億美金,其實還是有一些還沒有公開的新進展,大家可以拭目以待。在產品面,我們成功進入四大領域。第一個是 Edge server 的領域,我們和全球最大的 OEM 廠合作,產品已經開始量產,同時我們也進入台灣第一大的電信公司。另一個領域是車用市場。

張育寧

張育寧

旭時報總編輯

在台灣市場的部分呢?

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

台灣的部分,我們進入台達的子公司 VIVOTEK,這也是為什麼台達投資我們。此外,目前台北世貿、台水的智能水表也都是我們的方案,因此在智慧城市跟公共安防,我們的佈局市占率也有一定水準。那另外一個比較重要的是 IOT 跟智慧家居,智慧家居的部分,第一是 17 年我們進入了格力電器,他是世界最大的空調公司。第二是最近的新進展,我們進入了德施曼。德施曼是德國第一大智慧家居的客戶,在智慧門鎖部分,去年在亞太地區的出貨量應該也是第一名。

最後在工業製造的部分,我們目前經營了台達、廣達跟富士康的市場,這些現在都是已經有量產的。基本上經過這幾年耕耘,我們已經有一定的營收,有一點點小進展,並且希望能持續的努力。

question
一顆 AI 晶片的秘密,不換設備就能把水電瓦斯表都智慧化?
張育寧

張育寧

旭時報總編輯

AI 的運算需要大量的算力,一般來說,我們可能會覺得要放在雲端或是夠大的伺服器才能夠去支持這樣的算力需求,耐能在技術上非常重要的突破是:「能在終端的地方進行運算」。不僅如此,「解決耗能」也是耐能的另一個突破。以 Albert 剛才提到的智慧水表為例,據我了解,您們在傳統水表上加蓋上去的智慧水表,是不是 2 到 3 年都不用重新置換電池或是充電?

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

沒錯,在台水的部分,用純電池是可以跑三年不用充電。那在一些應用上,比方說,水表或者是工業製造鏈,工業生產鏈上很難再加放 GPU 或是 CPU。大家如果看過 NVIDIA 的 GPU,雖然現在因為 AI 的股價很高,可是其實有些市場他是進不去的。因為你看他的 GPU 上面都是有風扇的,其實是很耗電,不太可能使用電池。因此,在電池跑得動的 AI 市場中,基本上耐能有很強的競爭力。這就是耐能的利基市場,「可重組式 AI 晶片」。

張育寧

張育寧

旭時報總編輯

我相信有一些聽眾朋友可能會好奇,耐能的產品究竟有什麼特殊之處,能夠在市場獲得這麼多的肯定和興趣,能在這麼短的時間內,拿下市場中幾個大型客戶,耐能的利基定位是什麼?你們有評估過,在終端的 AI 應用會怎麼改變現在的產業分工模式?例如人力的變化?

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

一顆 AI 晶片就像一個小腦袋,你教他做什麼,他就可以逐步的會做什麼。雖然因為全球法規和導入的時間問題,現在還沒有真正的自動駕駛,但如果你把 AI 晶片裝在車子裡面,他就可以去識別車、識別人,變成智慧駕駛的輔助式引擎。如果你把他裝在水表,他就可以去識別水表,就不需要由水電工挨家挨戶抄表。AI 在終端的應用成熟,我們才有可能真的智慧化,對於組織模式也會帶來具體影響。

張育寧

張育寧

旭時報總編輯

以水表的應用來說,可不可以請您再跟我們說明一下,您們跟台水的合作上,在長期發展上面,他有哪些應用或智慧生活上的可能?

question
CPU、GPU 和 NPU 無優劣之分,「功能性」才是選擇標準?
張育寧

張育寧

旭時報總編輯

請介紹什麼是 NPU(神經網絡處理器 Neural Processing Unit)?跟我們過去熟悉的 CPU、GPU 有什麼不一樣?您覺得在 NPU 這樣的概念,在發展上面會跟傳統的網路架構有什麼不同的變化?

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

車子有很多不一樣的車,有專門載貨運的卡車、可以在小巷子中鑽來鑽去的腳踏車、可以在城市穿梭的小客車,甚至是打仗的坦克車。如果是比在家裏附近繞來繞來,坦克車一定會輸給小客車和腳踏車,那你要比誰載貨比較強,一定是貨車比較強。所以並不是說,哪一種車就比哪一種車好,而是他的功能性不同,那 CPU、GPU跟 NPU 也是類似概念。

question
降低一般人進入 AI 世界的門檻 ,Kneo 的核心概念是?
張育寧

張育寧

旭時報總編輯

耐能在過去這一年,除了軟體跟硬體之外,事實上也開始往平台化的方向前進。以 Kneo 這樣一個開放式的網路平台來說,您真正想要推動的是怎麼樣的「新 AI 世界」?

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

其實耐能從第一天就是想做 Kneo。Kneo 有兩個核心技術,其一核心技術很像 APPLE 的 APP Store ,可以讓每個人很簡單的去開發 AI 的應用,再上架到 Kneo 的平台去賣 APP。就像是我剛提到的,我們今天其實有用同一個方案進入各種領域,像是車子、小家電,甚至安防和工業製造。其實有更多分散的應用,是因為我們人手不夠才沒有去做的。

我在清華、交大和成大擔任客座教授,以前在清華第一次上課的時候,有一堂課我讓學生在我們的 AI 開發平台去開發各種應用,當時其中一個學生,用耐能 KL520 晶片花兩週的時間,去做一個識別貓咪尿尿有沒有血便的 APP。

當時我在心裡想說,這個應用應該不太會有人用。結果第二年,我在成大開課的時候,也是讓學生自己去選擇題目,沒想到也有一個學生說要去檢查家裡的貓尿尿有沒有血便,因此,我就想到說,如果這個平台是更開放的,大家都能上傳和自己開發,也許就會出現很多我們想像不到的應用,像是我後來才知道,某一種品種的貓咪是很容易出現血便的問題。

Kneo 想要解決的第一個問題,就是讓每個人都可以定義 AI,而不是讓 AI 掌握在大公司手中,大公司想做什麼,你才能使用什麼。以前的手機遊戲基本上都是大公司開發,比如說貪吃蛇、魔術方塊,直到 APPLE 把市場開放,才會出現百花齊放的各種 APP。當市場開放,這樣零碎的應用應該是更多的,因為不會有大公司為這種非常破碎的應用去投入資源。Kneo 在 APP Store 目前的進展,是我們已經有兩萬多個開發者,我自己也有寫了一本書,在美國和台灣很多學校都有老師在使用。概念有點像是讓學生在唸書時,就能夠熟悉我們的開發平台,即使你是很小的小孩也可以使用。

另一個 Kneo 其實想做的事情是,我們想讓每個人定義自己的網路。這也是為什麼導入了區塊鏈,其實我們把 AI 普及到每個設備裡只是第一步,我們把晶片做小,把你的家電、車子、門鎖、公共安房智慧化,最終我們想要創造的是一個只屬於自己的子網路。像現在我在和主持人聊天,如果我家裡有相機的話,我家裡發生什麼樣的情況,什麼樣的異常行為,他都可以及時地送警告信息給我。但是,如果他是連到公眾的網路上,駭客就會很容易駭入,能直接看見你家的一切。所以我們想創造的其實是,像電影裡的 R2-D2 和 CPU,他們是各自有各自的想法,也可以互相溝通,但是訊息只掌握在他們溝通的設備裡。

question
在生活中實踐子網路概念 隱私和智慧化如何兩全其美?
張育寧

張育寧

旭時報總編輯

子網路的運作,請您再為我們說明得更詳細。

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

舉例來說,今天假設我跟我太太吵架了,我就在家裡和我的手機說,如果我太太回來,你要給我警告,我的手機就把這個訊息送到我裝有 AI 晶片的車和門鎖。如果我的太太正在開車,那他的 GPS 就會即時送警告給我,所以如果我太太快到家,我就可以「奪窗而逃」,或是如果這個訊息送到我的門鎖,我太太要來開門的時候,就可以把她鎖在外面。這裡面有一個彼此互通資訊的子網路,而且是私網路。

此次對談專家

張育寧

張育寧

旭時報總編輯

劉峻誠

劉峻誠

耐能科技
創辦人暨執行長

延伸閱讀

AI 晶片為何如此重要?

美中科技戰的核心背景是人工智慧技術的國際競爭,台灣在晶片製造能力上舉足輕重,也註定在這場 AI 國際競爭中扮演關鍵角色

CSET

應用無所不在,AI 晶片戰況升溫

邊緣 AI 晶片的成長速度將遠高於整體晶片市場,預估到 2024 邊緣AI 晶片出貨量可能超過 15 億顆,意味其年複合成長率達 20 %

EETTAIWAN

和馬雲、馬化騰同登國際殿堂,一睹台灣 AI 新秀耐能關鍵技術與布局

把目前現有的 GoogleNet、Resnet-18、Resnet-34 與 Vgg16 等卷積神經網絡模型,全部細分拆解,推出「可重組人工神經網絡」

數位時代

耐能如何走出不信任危機,拿下 Intel 吃不到的市場?

耐能有機會成為台灣睽違已久的 IC 設計獨角獸嗎?

天下雜誌

KNEO 平台如何運作?

耐能智慧的 KNEO 平台怎麼運作?為什麼可以解放 AI?

Kneron官網