Jim Keller：AI也就600行程式碼，你知道AI晶片怎麼設計了吧
—— 開創AMD、Apple、Tesla最重要晶片的辣個男人，來了。 Jim Keller 是《AMD Zen系列》、《Apple Silicon 初代A系列晶片》、《Tesla 首代 FSD 自駕晶片》的開創者，《Tenstorrent AI 晶片公司》的CEO。 . 大神說：「其實最潮AI的程式碼，不過就600行而已」 不信的話，請你自己去讀最潮的Llama開源大語言模型程式碼。 (NVIDIA可能在後面說：「拜託別說了，我的股價！」 . 總之，這跟20年前百家爭鳴的電腦應用相比，超級收斂的。 . 大神又說：「未來的AI晶片，一定會長得跟CPU很不一樣」 所以，到底長怎樣？ 還是大神要收費「解鎖課程」嗎？ . 還真沒有。 以下是他濃縮自己開公司的心法，無私分享給大家。 1. 「從底層」出發，專心優化一個「Layer」 2. 重申「Abstraction Layer」 3. 「開源」軟硬體，一定是未來 . ▋大絕招：「從底層」出發，專心做好一個「Layer」 現在的AI，其實是由一層一層Layer組成的。 所以，Jim Keller說，其實只要把晶片設計成「以Layer為單位」。 專心做好每一層就好。 . 你應該會好奇，那會有多少種「Layer」呢？ 大神算了一下，大概5個Layer。 Matrix Multiply、Convolution、TM、Softmax、All-to-all . 正因如此。 . 「從底層切入」好好優化做一個「Layer」的速度，從軟到硬「去蕪存菁」是最重要的。 . 這也是大神公司正在做的事情。 . 更甚者，他們把自己做的很棒的一些成果開源了。 像是Compiler、Runtime等等。 因為他們相信：「開源才是王道。」 . […]