—— 開創AMD、Apple、Tesla最重要晶片的辣個男人,來了。
Jim Keller 是《AMD Zen系列》、《Apple Silicon 初代A系列晶片》、《Tesla 首代 FSD 自駕晶片》的開創者,《Tenstorrent AI 晶片公司》的CEO。
.
大神說:「其實最潮AI的程式碼,不過就600行而已」
不信的話,請你自己去讀最潮的Llama開源大語言模型程式碼。
(NVIDIA可能在後面說:「拜託別說了,我的股價!」
.
總之,這跟20年前百家爭鳴的電腦應用相比,超級收斂的。
.
大神又說:「未來的AI晶片,一定會長得跟CPU很不一樣」
所以,到底長怎樣?
還是大神要收費「解鎖課程」嗎?
.
還真沒有。
以下是他濃縮自己開公司的心法,無私分享給大家。
1. 「從底層」出發,專心優化一個「Layer」
2. 重申「Abstraction Layer」
3. 「開源」軟硬體,一定是未來
.
▋大絕招:「從底層」出發,專心做好一個「Layer」
現在的AI,其實是由一層一層Layer組成的。
所以,Jim Keller說,其實只要把晶片設計成「以Layer為單位」。
專心做好每一層就好。
.
你應該會好奇,那會有多少種「Layer」呢?
大神算了一下,大概5個Layer。
Matrix Multiply、Convolution、TM、Softmax、All-to-all
.
正因如此。
.
「從底層切入」好好優化做一個「Layer」的速度,從軟到硬「去蕪存菁」是最重要的。
.
這也是大神公司正在做的事情。
.
更甚者,他們把自己做的很棒的一些成果開源了。
像是Compiler、Runtime等等。
因為他們相信:「開源才是王道。」
.
▋眾志成城:「開源」才是王道
現在是網路時代,也是開源的時代。
與群眾共舞,開發使用者喜愛的產品。
才是最重要的。
.
像是RISC-V處理器就是最好的例子。
這是UC Berkeley開源的指令集,已經逐漸威脅到Arm了。
.
使用開源的好處是可以最大程度降低開發產品的經費,把Cost-Down做到最好、有效降低風險。
.
此外,他們絕不是只利用別人的專案。
他們目前開源的專案列在這裡:
- https://github.com/tenstorrent/tt-buda
- https://github.com/tenstorrent/tt-metal
- https://github.com/tenstorrent/riscv_arch_tests
- https://github.com/tenstorrent/riscv-ocelot
- https://github.com/tenstorrent/whisper
- https://github.com/tenstorrent/cosim-arch-checker
- https://github.com/tenstorrent/tt-metal/tree/main/models/demos
.
看著國外科技領袖如何與群眾一起成長。
我真的蠻佩服的。
不愧是我的偶像 Jim Keller。
.
▋影片與截圖資源
最後,如同我承諾的。
附上YouTube連結資源,也幫大家截了一些圖。
Jim Keller’s DAC Keynote:Building AI with RISC-V