Jim Keller:AI也就600行程式碼,你知道AI晶片怎麼設計了吧

—— 開創AMD、Apple、Tesla最重要晶片的辣個男人,來了。

Jim Keller 是《AMD Zen系列》、《Apple Silicon 初代A系列晶片》、《Tesla 首代 FSD 自駕晶片》的開創者,《Tenstorrent AI 晶片公司》的CEO。

.

大神說:「其實最潮AI的程式碼,不過就600行而已」

不信的話,請你自己去讀最潮的Llama開源大語言模型程式碼。

(NVIDIA可能在後面說:「拜託別說了,我的股價!」

.

總之,這跟20年前百家爭鳴的電腦應用相比,超級收斂的。

.

大神又說:「未來的AI晶片,一定會長得跟CPU很不一樣」

所以,到底長怎樣?

還是大神要收費「解鎖課程」嗎?

.

還真沒有。

以下是他濃縮自己開公司的心法,無私分享給大家。

1. 「從底層」出發,專心優化一個「Layer」

2. 重申「Abstraction Layer」

3. 「開源」軟硬體,一定是未來

.

▋大絕招:「從底層」出發,專心做好一個「Layer」

現在的AI,其實是由一層一層Layer組成的。

所以,Jim Keller說,其實只要把晶片設計成「以Layer為單位」。

專心做好每一層就好。

.

你應該會好奇,那會有多少種「Layer」呢?

大神算了一下,大概5個Layer。

Matrix Multiply、Convolution、TM、Softmax、All-to-all

.

正因如此。

.

「從底層切入」好好優化做一個「Layer」的速度,從軟到硬「去蕪存菁」是最重要的。

.

這也是大神公司正在做的事情。

.

更甚者,他們把自己做的很棒的一些成果開源了。

像是Compiler、Runtime等等。

因為他們相信:「開源才是王道。」

.

▋眾志成城:「開源」才是王道

現在是網路時代,也是開源的時代。

與群眾共舞,開發使用者喜愛的產品。

才是最重要的。

.

像是RISC-V處理器就是最好的例子。

這是UC Berkeley開源的指令集,已經逐漸威脅到Arm了。

.

使用開源的好處是可以最大程度降低開發產品的經費,把Cost-Down做到最好、有效降低風險。

.

此外,他們絕不是只利用別人的專案。

他們目前開源的專案列在這裡:

.

看著國外科技領袖如何與群眾一起成長。

我真的蠻佩服的。

不愧是我的偶像 Jim Keller。

.

▋影片與截圖資源

最後,如同我承諾的。

附上YouTube連結資源,也幫大家截了一些圖。

Jim Keller’s DAC Keynote:Building AI with RISC-V

You cannot copy content of this page

Scroll to Top