admin

Jim Keller 成為晶片之神的五大心法

↑這是Jim,他演講比中指也沒關係 Jim Keller 是《AMD Zen》架構師,《Apple Silicon 初代A系列晶片》的開創者,《Tesla 首代 FSD 自駕晶片》的開創者: 他數次在四年內開發出世界最好的晶片,瀟灑離去,繼續挑戰下世代最好的晶片,有如射雕英雄傳中的俠客-周伯通一般。 這一次,他加入了 AI 晶片新創公司 TensorTorrent,並擔任 CTO。 你一定會問:「怎麼做到的?一個大學畢業生怎麼可能完成這麼多事情?」 Jim Keller 不僅做到了,他願意直接分享心法給你。 以下,是他濃縮自己與團隊合作,成功改變世界的關鍵。 1. 以「目標」為導向,激勵團隊2. 替組織建立「Abstraction Layer」,大而不亂3. 不把「舊團隊」帶去「新公司」,成就創新4. 想像5年後的晶片路線,制敵機先5. 假設先前做的東西「很糟」,除舊佈新 1. 以「目標」為導向,激勵與幫助團隊 大神認為,沒有領導這回事。 只有大家一起做一個計畫,像是設計世界上最好的自動駕駛晶片,大家才能找到自己想做的事,成為團隊。 而執行計畫時,除了debug,還有更多個人問題,像是:健康、家庭、同事等等。 其實,這些每個人「自己」的問題才是最重要的。 當主管幫助團隊成員解決這些問題時。 計畫通常就順利往前推進了,Jim Keller 也不知道為什麼。 󠀠久而久之,人們開始說Jim Keller是他們的「導師」。 但他其實只是幫大家的生活 debug 而已。 2. 替組織建立「Abstraction Layer」,才能大而不亂 計算機結構有一個很重要的觀念,稱為 Abstraction Layer。 講白話文,就是硬體跟軟體之間有一個統一的溝通規則。 一定要遵守。 好處是什麼呢?做晶片的人可以專心想晶片怎麼改良,不用天天跟軟體的人開會。 軟體的人也可以專心想演算法怎麼改良,不用一天到晚開會。 只要中間的公通規則是不變的! 而組織也需要其「Abstraction […]

Jim Keller 成為晶片之神的五大心法 Read More »

8本必讀的晶片半導體好書

不論是在電子股當股神還是想當工程師領分紅 󠀠「了解晶片產業均十分重要!」 但學校通常教不了這些知識 唯有「看書」來輸入前輩數十年的知識與歷史,能學一點是一點 因此,這邊整理了8本必讀的晶片好書! 推薦一讀,對理解晶片產業十分有幫助! 前5本分別從美日台中四種立場出發講述晶片史與國際情勢 後3本適合買來送給小朋友或工作夥伴,幫助他們在半導體之島「台灣」生存 ▌8本必讀的晶片書 1. 《晶片戰爭》美國觀點 簡介:這本書實在太熱門,是世界半導體人類史的集大成, 讀 完還是一句話,必讀! 第一作者:克里斯·米勒 電子書:https://moo.im/a/cosvCU 實體書:https://www.books.com.tw/products/0010949912 󠀠詳細介紹:晶片戰爭完整半導體產業發展歷史,並以國家競爭角度出發 我認為這十年最最重要的半導體產業書,將半導體業如何發展成功到關鍵地位的完整說明,輔以國家間競爭角度說明整個產業於國家利益的重要性,很像我小時候在看歷史小說,淺顯易懂,可以藉由這本書思考臺灣與各國利益的戰略意涵。 2. 《半導體地緣政治學》日本觀點 簡介:分析各國半導體戰略思維,像是中國是「特洛伊木馬」,試圖用廣大中國市場策動企業對付美國政府,精彩 第一作者:太田泰彥 (日本經濟新聞編輯委員、35年半導體產業報導經歷) 電子書:https://moo.im/a/ejCJLR 實體書:https://www.books.com.tw/products/0010933846 完整介紹:作者是日本人,相較其他本半導體產業書籍,這本比較著重在國家政策和關鍵人物的歷史談話,也揭露許多訪談內容,可以從比較人性的一面觀察半導體發展。 3. 《晶片島上的光芒》臺灣觀點 簡介:前台積研發六騎士蔣尚義曾說「這本書揭露的台積秘密比我和中芯講的還多」 ,其重要性可見一班 第一作者:林宏文 (交大電工畢業、30年科技作家、曾多次訪談張忠謀) 電子書:https://moo.im/a/0hHKLM 實體書:https://shope.ee/3fgmQClT6K 詳細介紹:台積電到底是如何藉由了解人性,掌握技術優先權,成長成今天世界第一的公司呢?這本書真的講得超級詳細,包含為什麼當初不要把中芯告到倒都記錄在裡面,很精彩的! 󠀠 4. 《矽島的危與機》臺灣觀點 簡介:我認為最特別的是有許多圖表綜觀世界與台灣半導體產業的趨勢 第一作者:黃欽勇 (電子時報創辦人、37年科技產業分析師) 電子書:https://moo.im/a/07gySZ 實體書:https://shope.ee/1LIrewYgy3 詳細介紹: 是臺灣電子時報創辦人所寫,把臺灣所處全球產業鏈的地位講的很清楚,全書最後提出未來發展半導體產業的建議他擔憂 Intel 平衡全球代工產業鏈的做法,將影響TSMC的後續地位。但老實說,我認為 Intel 一定會先衝擊 NVIDIA 等公司 󠀠 5. 《一本書看懂晶片產業》中國觀點

8本必讀的晶片半導體好書 Read More »

晶片宅宅開箱麻省理工學院MIT

󠀠MIT已經連續12年獲得QS 世界頂尖大學排行第一名是全世界最頂尖的理工學校󠀠我自己在大學學IC Design時很欽佩的一個教授為了提振大家疲弱的精神常常分享自己之前在MIT實驗室當博後的故事舉例來說和來自全印度最強學校IIT的卷哥卷姐一起證明數學定理和來自中國各省的省狀元一起合作論文在MIT Museum看到全像術興奮的跟女友分享但馬上就被女友問到底在自嗨什麼XD󠀠另外許多台灣知名的前輩讀過MIT台灣清華大學劉炯朗前校長是MIT畢業的博士台積電張忠謀創辦人讀過MIT機械系AMD蘇媽也是MIT博士畢業的學生󠀠因此身為理工科系做晶片相關的阿宅學生我一直覺得MIT是「工程師的最高殿堂」也蠻喜歡他們的校訓「Mind and Hand」󠀠因此第一次看到大門真的是蠻感動的(可能別人也覺得莫名其秒🤣󠀠今天跟著蘿蔔和就讀MIT博士班的學長來開箱麻省理工學院吧󠀠行程1. 在Great Dome前面跟學長一起合照 (以後簽個名拿來募資🤣2. 去Great Dome內觀察累到睡著的MIT學生 (醒著的都在讀書3. 在Barker圖書館看到90後的Hop Chips期刊和Bipolar電路設計教科書 (真的是歷史呀4. 去Banana Lounge亂拿一堆香蕉回家囤 (真是勤儉客家5. 去參觀蘇媽捐的晶片大樓與黃光實驗室 (酷酷酷酷酷酷酷6. 發現MIT的販賣機竟然是賣IT產品(賣簡報筆、HDMI線7. 圖書館的熱門借閱「How to be a Geek」 還聽到好多有趣的故事像是朋友做的晶片被學長碰瓷掉到地板三個月的努力泡湯 什麼都有,覺得行程很有趣記錄下來之後可以再帶女友、家人朋友去晃晃也跟大家分享自己的學習感想󠀠▌學習感想可能最近是MIT的期中週到處都是瘋狂學習的學生覺得有一種被push的感覺可能是所謂同儕效應吧會希望自己想要坐下來更精進一些技術實力、多努力一點的感覺然後也知道同學們都已經是各國頂尖的學習機器了竟然還這麼拼󠀠我個人猜想之所以有這麼多人奮不顧身的想來MIT一趟或許是想跟一群志同道合的頂尖工程同學追求科學所以如果要run公司的話創辦人、員工的特質很有可能就會吸引來類似特質的人真的要慎選呀…如果老闆喜歡高大上,來的就是高大上如果老闆希望謙卑做技術,來的就是技術人依此類推󠀠之前參觀過Harvard、Stanford、Berkeley等學校台灣也去過台清交成(理工)、台政北東 (商業)整體感受下來每一間學校的氛圍都差好多個人覺得沒有所謂好壞只要在自己覺得重要的方向努力夠久都會找到自己適合發光的領域與場所一起加油努力󠀠把心得記錄下來或許過一陣子又會有其他感受未來有機會再來分享

晶片宅宅開箱麻省理工學院MIT Read More »

Vision Pro的晶片供應商

除了蘋果自研的R1, M2晶片外 Vision Pro其實還有許多重要的晶片供應商 幫大家整理出來各個廠商的完整晶片列表 以及我自己的觀察與思考,希望對大家有幫助! ▌USI:藍牙與WiFi模組 ▌🇺🇸 Micron:DRAM記憶體晶片 ▌🇯🇵 Kioxia:Flash記憶體晶片 ▌🇺🇸 CIRRUS LOGIC:音頻晶片 ▌🇺🇸 Texas Instruments:被動元件 ▌🇺🇸 Lattice:FPGA ▌🇺🇸 DIODES:選擇器晶片 ▌🇺🇸 onsemi:限流器晶片 ▌個人思考 蘿蔔覺得有2個最特別的地方: 顯示器應該是被Samsung拿走了 CIS晶片很可能是Sony或Samsung 不知道台灣除了TSMC有成為供應鏈的關鍵角色外 是否有更多廠商有機會打入Vision Pro的供應鏈呢?

Vision Pro的晶片供應商 Read More »

AI教父Andrew Ng:三個臭皮匠,勝過諸葛亮?運用ChatGPT Agents打敗GPT4!

ChatGPTs贏過GPT4的關鍵在於Agentic Reasoning! 什麼是Agentic Reasoning? 把LLM視為工作代理人,讓LLMs擁有工作角色、工具、團隊合作、復盤能力 把工作派給LLM Agents,就是所謂的Agentic Reasoning! 舉例來說: 我們可以開兩個ChatGPTs 一個寫程式,一個負責審核程式 這樣就是最簡單的Agentic Reasoning! 更重要的是,ChatGPT Agents互動達成任務,會比直接使用GPT-4更厲害! 講完定義,我們必須看一下實驗結果 在寫程式HumanEval這個任務上 使用多個ChatGPT Agents,會比單獨使用GPT-4完成任務的效果好很多! 上圖橫軸為寫出來的程式其通過率,越接近100%越好 Zero-shot就是使用單一個LLM一次回答可以達到的正確率 可以看到單一個GPT-3.5的準確度僅有48%,遠低於單一個GPT-4的67% 但是當使用多個GPT-3.5 agents後,準確度大幅提升至90%以上超越單一個GPT-4、比肩多個GPT-4 agents! Andrew提到有四大方法幫助LLM Agents效果變更好: 招數一:讓LLM復盤 (Reflection) 以寫程式做unit test來舉例 可以先要求LLM生成程式後 再要求LLM讀程式碼看是否有問題 如此往復循環多次 LLM就可以自己檢驗是否有寫錯程式的地方 增加程式碼的正確性 復盤既可以一個LLM分飾兩角,也可以一個LLM自言自語 招數二:讓LLM使用工具 (Use Tools) 如果讓LLM接上各種現有的系統 也可以讓LLM Agents變得更加良好! 讓LLM可以使用搜尋引擎 讓LLM可以使用程式執行器 都可以讓LLM agent任務做的更好 招數三:使用LLM規劃步驟 (Planning) 讓LLM Agent可以規劃完成某件事情該用哪些模型,有哪些步驟 也是一種讓Agentic Reasoning更好的方向 招數四:LLM專家團隊合作 (Multiagent

AI教父Andrew Ng:三個臭皮匠,勝過諸葛亮?運用ChatGPT Agents打敗GPT4! Read More »

8個晶片人必追的科技新聞網

半導體與晶片科技日新月異 跟大家分享8個推薦的半導體新聞網站 ▌先上統整圖! ▌DigiTimes 簡介:台灣最優質的晶片與科技媒體,台灣人私心推一下! 網址:https://www.digitimes.com.tw/ 󠀠 ▌Techinsights 簡介:優質的半導體媒體之一,也會逆向工程來拆解科技 網址:https://www.techinsights.com/ 󠀠 ▌EE Times 簡介:最最老牌的半導體科技媒體 網址:https://www.eetimes.com/ 󠀠 ▌EENews Europe 簡介:歐洲最優質的半導體科技媒體 網址:https://www.eenewseurope.com/en/ 󠀠 ▌Semiconductor Engineering 簡介:最受歡迎的半導體科技媒體之一 網址:https://semiengineering.com/ 󠀠 ▌SemiWiki 簡介:半導體領域的維基百科 網址:https://semiwiki.com/ 󠀠 ▌Design & Reuse 簡介:最優質的半導體科技媒體之一,還能在上面買IP 網址:https://www.design-reuse.com/ 󠀠 ▌Semiconductor Today 簡介:來自英國的老牌半導體媒體 網址:https://semiconductor-today.com/ —–以下是加碼—— ▌SemiAnalysis 網址:https://www.semianalysis.com/ ▌EETOP 網址:https://bbs.eetop.cn/

8個晶片人必追的科技新聞網 Read More »

NVIDIA 2024 GTC 五大重點

老黃今年的 GTC Keynote 有五大重點 ▌新產業「Accelerated Generative AI」 針對生成式AI的加速運算服務將是下世代重要產業 󠀠 ▌新晶片「Blackwell」 推出史上最大的GPU,有2080億個電晶體,由兩個晶片拼接而成 󠀠 ▌新服務 「NIM (NVIDIA Inference Microservice)」 NIM是結合了Pre-trained model、軟體環境、針對NVIDIA GPU優化的AI服務包 未來可根據需求買一些NIM AI服務來與自己共同工作了 󠀠 ▌新商業模型 「AI Foundry」 NVIDIA的終極目標是給使用者一站式的AI服務,NVIDIA提供軟到硬一切事情 當需要AI服務->去NVIDIA AI Store買需要的NIM AI服務包 當需要AI晶片->去NVIDIA Cloud買需要的運算、或是部署到自己的NVIDIA GPU上 當需要客製AI->用NEMO Retriever將公司專屬資料存到Vector資料庫中,客製化自己的AI 󠀠 ▌新世界 「ISAAC Robotics & Omniverse」 使用其數位孿生技術,讓機器人可以在虛擬世界不會摔斷腿就可以學會走路、揮手 NVIDIA將會提供Robotic Foundation Model,加速機器人時代來臨 󠀠 Blackwell、NIM、ISAAC Robotics、Omniverse一定是媒體關鍵字 󠀠 我最喜歡的兩個小彩蛋: 1. 老黃最後展示了一堆機器人 (包含小綠小橘),但demo時小綠不受控,尷尬笑慘 2.

NVIDIA 2024 GTC 五大重點 Read More »

8堂必修的AI大師課

自學AI五年了 幫大家整理8堂大佬開設的AI課程 是我覺得頗有料的內容 分成LLM專班和深度學習大師課 方便大家服用 也歡迎大家一起交流喜歡的AI課 ▌LLM專班 – [Andrej Karpathy] 「Intro to Large Language Models」 (https://reurl.cc/dLk1G2) – [Databricks] 「LLM: Application through Production」 (https://reurl.cc/VNvGqN) – [台大李宏毅教授]「生成式AI課程」 (https://reurl.cc/lgjE4l) ▌深度學習DL從入門到專家 – [Andrej Karpathy] 「Neural Networks: Zero to Hero」 (https://reurl.cc/yYNv2M) – [MIT Kaiming He教授]「Deep Learning Bootcamp」 (https://reurl.cc/zlRqa7) – [MIT Phillip Isola教授]「Deep Learning Bootcamp」 (https://reurl.cc/54WK6y) – [NYU Yann Lecun教授]「Deep Learning」

8堂必修的AI大師課 Read More »

解密LLM推論晶片新王:Groq LPU的三大亮點

󠀠 Groq 如何用14nm的LPU 打敗了4nm的NVIDIA H100呢? 󠀠 我認為有幾個設計亮點 1) 採用Dataflow架構 ↪︎Dataflow架構會使用編譯器預先做好排程,可降低控制電路面積 ↪︎目的:最大化晶片的算力與SRAM記憶體大小 󠀠 󠀠 2) 捨棄傳統多階層的Memory Hierarchy ↪︎不使用DRAM/HBM,也不將SRAM記憶體編排成L1、L2、L3 cache等階層,只有一層軟體可控的SRAM記憶體 Scratchpad ↪︎目的:SRAM可以直接供給運算單元資料,最大化記憶體頻寬 (80 TBps) 󠀠 󠀠 3) 捨棄複雜的跨晶片Networking ↪︎讓LPU也成為Router,使用Compiler來控制跨晶片的資料傳輸 ↪︎目的:簡化晶片之間傳輸資料所需要的硬體成本,可彈性配置跨晶片頻寬、提升頻寬利用率 󠀠 󠀠 ▌參考資料 [1] Groq Head of Silicon-Igor Arsovski的演講:https://youtu.be/WQDMKTEgQnY?si=Bicqpg2yPM3jvXZ6 [2] Groq Chief Architect在Stanford的演講:https://youtu.be/kPUxl00xys4?si=sV8r_MrX7GLN7ZLV [3] Think Fast: A Tensor Streaming Processor (TSP) for Accelerating Deep Learning Workloads, ISCA’20

解密LLM推論晶片新王:Groq LPU的三大亮點 Read More »

前台積副理十年經驗談:最重要的工作是理解、爭取、轉譯

我認為這是2024必看的職涯成長乾貨 推薦給對護國神山工作感興趣的朋友! 󠀠YouTube連結在此:https://reurl.cc/xLAveZ 󠀠 前台積研發副理(職等34)-瓦基: 我當主管時的工作 其實很像說書人 不斷在「理解上級目標、激發團隊動力、共同達成目標」 󠀠 翻成白話文就是 – 接收並與上級爭取自己能認同的目標 (強調要有爭取,只有FYI一定被下屬私下爆噴) – 使團隊認同自己並一起並肩作戰 – 將目標轉譯成團隊成員有動力且願意做的事情 󠀠 這集影片分享到如何在台積文化下帶團隊的part 我真的覺得是無價經驗談 因為職涯中或多或少會遇到帶人的機會 要怎麼滿足上級壓力 又要帶得動團隊完成目標 󠀠 真的是很有挑戰的工作呢 󠀠 其實主管也是員工 而且是夾在上級與團隊中間當夾心餅乾 一定有自己的難處 󠀠 像是之前在讀博時遇到跨實驗室IC合作計畫 剛開始會天真的認為管理就是分配工作 再按照Deadline回收進度即可 但真的不是這麼簡單的 要考慮每個人看重的事、每個人手上其他事的Loading等等 還很常要救火 也難怪科技版上有那麼多工程師和PM的Beef 󠀠 除了職場上帶領團隊的寶貴經驗 瓦基(閱讀前哨站)與慢活夫妻(慢活夫妻 George & Dewi)也聊了很多有趣的話題󠀠 我們已幫忙將其他重點整理在下面 蘿蔔也很認真推薦兩個台積YouTuber的粉專! 󠀠 ▌台積每個單位都很操嗎? 要記得台積有73090人 有各式各樣的部門、主管 其實就是一個小型社會 󠀠 不太能以偏概全 有些部門比較軍事化 有些則比較著重一起成長 󠀠

前台積副理十年經驗談:最重要的工作是理解、爭取、轉譯 Read More »

You cannot copy content of this page

Scroll to Top