IC

8個晶片人必追的科技新聞網

八大學習資源 /

半導體與晶片科技日新月異 跟大家分享8個推薦的半導體新聞網站 ▌先上統整圖！ ▌DigiTimes 簡介：台灣最優質的晶片與科技媒體，台灣人私心推一下！ 網址：https://www.digitimes.com.tw/ 󠀠 ▌Techinsights 簡介：優質的半導體媒體之一，也會逆向工程來拆解科技 網址：https://www.techinsights.com/ 󠀠 ▌EE Times 簡介：最最老牌的半導體科技媒體 網址：https://www.eetimes.com/ 󠀠 ▌EENews Europe 簡介：歐洲最優質的半導體科技媒體 網址：https://www.eenewseurope.com/en/ 󠀠 ▌Semiconductor Engineering 簡介：最受歡迎的半導體科技媒體之一 網址：https://semiengineering.com/ 󠀠 ▌SemiWiki 簡介：半導體領域的維基百科 網址：https://semiwiki.com/ 󠀠 ▌Design & Reuse 簡介：最優質的半導體科技媒體之一，還能在上面買IP 網址：https://www.design-reuse.com/ 󠀠 ▌Semiconductor Today 簡介：來自英國的老牌半導體媒體 網址：https://semiconductor-today.com/ —–以下是加碼—— ▌SemiAnalysis 網址：https://www.semianalysis.com/ ▌EETOP 網址：https://bbs.eetop.cn/

8個晶片人必追的科技新聞網 Read More »

NVIDIA 2024 GTC 五大重點

大師演講統整, 關鍵晶片解析 /

老黃今年的 GTC Keynote 有五大重點 ▌新產業「Accelerated Generative AI」 針對生成式AI的加速運算服務將是下世代重要產業 󠀠 ▌新晶片「Blackwell」 推出史上最大的GPU，有2080億個電晶體，由兩個晶片拼接而成 󠀠 ▌新服務 「NIM (NVIDIA Inference Microservice)」 NIM是結合了Pre-trained model、軟體環境、針對NVIDIA GPU優化的AI服務包 未來可根據需求買一些NIM AI服務來與自己共同工作了 󠀠 ▌新商業模型 「AI Foundry」 NVIDIA的終極目標是給使用者一站式的AI服務，NVIDIA提供軟到硬一切事情 當需要AI服務->去NVIDIA AI Store買需要的NIM AI服務包 當需要AI晶片->去NVIDIA Cloud買需要的運算、或是部署到自己的NVIDIA GPU上 當需要客製AI->用NEMO Retriever將公司專屬資料存到Vector資料庫中，客製化自己的AI 󠀠 ▌新世界 「ISAAC Robotics & Omniverse」 使用其數位孿生技術，讓機器人可以在虛擬世界不會摔斷腿就可以學會走路、揮手 NVIDIA將會提供Robotic Foundation Model，加速機器人時代來臨 󠀠 Blackwell、NIM、ISAAC Robotics、Omniverse一定是媒體關鍵字 󠀠 我最喜歡的兩個小彩蛋： 1. 老黃最後展示了一堆機器人 (包含小綠小橘)，但demo時小綠不受控，尷尬笑慘 2.

NVIDIA 2024 GTC 五大重點 Read More »

解密LLM推論晶片新王：Groq LPU的三大亮點

關鍵晶片解析 /

󠀠 Groq 如何用14nm的LPU 打敗了4nm的NVIDIA H100呢? 󠀠 我認為有幾個設計亮點 1) 採用Dataflow架構 ↪︎Dataflow架構會使用編譯器預先做好排程，可降低控制電路面積 ↪︎目的：最大化晶片的算力與SRAM記憶體大小 󠀠 󠀠 2) 捨棄傳統多階層的Memory Hierarchy ↪︎不使用DRAM/HBM，也不將SRAM記憶體編排成L1、L2、L3 cache等階層，只有一層軟體可控的SRAM記憶體 Scratchpad ↪︎目的：SRAM可以直接供給運算單元資料，最大化記憶體頻寬 (80 TBps) 󠀠 󠀠 3) 捨棄複雜的跨晶片Networking ↪︎讓LPU也成為Router，使用Compiler來控制跨晶片的資料傳輸 ↪︎目的：簡化晶片之間傳輸資料所需要的硬體成本，可彈性配置跨晶片頻寬、提升頻寬利用率 󠀠 󠀠 ▌參考資料 [1] Groq Head of Silicon-Igor Arsovski的演講：https://youtu.be/WQDMKTEgQnY?si=Bicqpg2yPM3jvXZ6 [2] Groq Chief Architect在Stanford的演講：https://youtu.be/kPUxl00xys4?si=sV8r_MrX7GLN7ZLV [3] Think Fast: A Tensor Streaming Processor (TSP) for Accelerating Deep Learning Workloads, ISCA’20

解密LLM推論晶片新王：Groq LPU的三大亮點 Read More »

前台積副理十年經驗談：最重要的工作是理解、爭取、轉譯

Leave a Comment / 大師演講統整 /

我認為這是2024必看的職涯成長乾貨 推薦給對護國神山工作感興趣的朋友！ 󠀠YouTube連結在此：https://reurl.cc/xLAveZ 󠀠 前台積研發副理(職等34)-瓦基： 我當主管時的工作 其實很像說書人 不斷在「理解上級目標、激發團隊動力、共同達成目標」 󠀠 翻成白話文就是 – 接收並與上級爭取自己能認同的目標 （強調要有爭取，只有FYI一定被下屬私下爆噴） – 使團隊認同自己並一起並肩作戰 – 將目標轉譯成團隊成員有動力且願意做的事情 󠀠 這集影片分享到如何在台積文化下帶團隊的part 我真的覺得是無價經驗談 因為職涯中或多或少會遇到帶人的機會 要怎麼滿足上級壓力 又要帶得動團隊完成目標 󠀠 真的是很有挑戰的工作呢 󠀠 其實主管也是員工 而且是夾在上級與團隊中間當夾心餅乾 一定有自己的難處 󠀠 像是之前在讀博時遇到跨實驗室IC合作計畫 剛開始會天真的認為管理就是分配工作 再按照Deadline回收進度即可 但真的不是這麼簡單的 要考慮每個人看重的事、每個人手上其他事的Loading等等 還很常要救火 也難怪科技版上有那麼多工程師和PM的Beef 󠀠 除了職場上帶領團隊的寶貴經驗 瓦基(閱讀前哨站)與慢活夫妻(慢活夫妻 George & Dewi)也聊了很多有趣的話題󠀠 我們已幫忙將其他重點整理在下面 蘿蔔也很認真推薦兩個台積YouTuber的粉專！ 󠀠 ▌台積每個單位都很操嗎？ 要記得台積有73090人 有各式各樣的部門、主管 其實就是一個小型社會 󠀠 不太能以偏概全 有些部門比較軍事化 有些則比較著重一起成長 󠀠

前台積副理十年經驗談：最重要的工作是理解、爭取、轉譯 Read More »

Google首席科學家Jeff Dean：算力是加速AI學習曲線的關鍵

Leave a Comment / 大師演講統整 /

Jeff Dean是DeepMind和Google Research的首席科學家 前幾天在RICE University給了一個演講 󠀠 其中很大一部分在分享自研的AI晶片Tensor Processing Unit (TPU) 從規格到背後邏輯都分享了一些 󠀠 其中，之所以TPU已經成為Google重要專案，是因為 「算力」是加速「AI學習曲線」的關鍵 以及 「自研晶片」可大幅降低算力的成本 󠀠󠀠 󠀠󠀠 ▌Google的十年AI晶片大業 (TPU-v1到TPU-v5) 很難想像軟體龍頭Google的TPU專案已經發展了近十年吧 󠀠 從v1到v5，總結一下TPU的亮點： – TPU已從只能「推論」到可以支援「訓練+推論」 – TPU的訓練算力已經提升了10倍 (459TFLOPS) – TPU Pod的算力已經達到 4.1 exaflops (8960個TPU-v5p晶片, exa=10^18) 󠀠 乍聽數字沒什麼感覺 但是世界最強的超級電腦frontier也就提供1.191 exaflops TPU Pod其實已經跟世界最猛的超級電腦算力差不多囉XD 󠀠 而背後持續讓Google推動TPU演進的趨勢是 「More computational power improves models significantly」 翻成白話文就是 「算力是Google開發AI的關鍵資源」 󠀠 想像一下 當一間公司擁有的AI算力越高 他可以大幅降低訓練時間、減少模型試錯成本

Google首席科學家Jeff Dean：算力是加速AI學習曲線的關鍵 Read More »

8個免費Verilog學習資源 (數位IC)

八大學習資源 /

Verilog是台灣數位IC設計工程師必學的硬體描述語言 我們幫大家整理了8個免費的Verilog學習資源 快一起來學習吧！！ ▌圖片大統整！ ▌HDLBits 簡介：182題Verilog練習題 (由簡而難)，整合線上編譯器、debugger，是Dr. Wong在多倫多大學擔任7年IC助教的精華 網址：https://hdlbits.01xz.net/wiki/Main_Page 󠀠 ▌牛客網 簡介：「中文」Verilog練習題，整合線上編譯器、debugger 網址：https://www.nowcoder.com/exam/oj?tab=Verilog%E7%AF%87…… 󠀠 ▌ASIC World 簡介：高質量的 Verilog 學習文章與範例程式碼 網址：https://www.asic-world.com/verilog/index.html 󠀠 ▌Nandland 簡介：Verilog學習Youtube頻道，還會教你開發FPGA專案，佛心！ 網址：https://www.youtube.com/c/nandland 󠀠 ▌EDA playground 簡介：Verilog線上編譯器，有許多大家撰寫的 verilog 程式碼可以參考學習 網址：https://www.edaplayground.com/ 󠀠 ▌FPGA Tutorial 簡介：業界人士撰寫的 Verilog 學習部落格 網址：https://fpgatutorial.com/ 󠀠 ▌DOULOS 簡介：適合初學者的 Verilog 學習文章與範例程式碼 網址：https://www.doulos.com/knowhow/verilog/ 󠀠 ▌天璇 簡介：中文 Verilog 教學 Vtuber，超特別的 ~ 網址：https://www.youtube.com/playlist……

8個免費Verilog學習資源 (數位IC) Read More »

南漂的台積電：親臨高雄楠梓第一線

Leave a Comment / 關鍵晶片解析 /

近日台積電、清大、陽明交大紛紛進駐高雄市。 高雄呈「北科技業、南重工業」的發展趨勢越趨明顯。 󠀠 蘿蔔特別實地走訪了台積電落腳的楠梓產業園區（原加工出口區），帶回第一線照片與個人思考跟大家分享！ 󠀠 ▌北高雄半導體生態鍊發展 高雄的護國神山於2023年在半屏山腳開工。 位在捷運「楠梓加工出口站」或「油廠國小站」旁。 目前楠梓科技園區有80間廠商進駐，加台積電共81間。 涵括了半導體生態鏈的IC設計、晶片製造、晶片封測。 󠀠 其中，比較有名的廠商有： – IC設計：義隆、群聯、恩智浦 – 晶片製造：台積電、華邦 – 晶片封測：日月光、華泰 󠀠 借問一下，IC設計、晶片製造、封測是什麼意思？ 󠀠 蘿蔔用蓋房子來比喻好懂一些： – IC設計就像是「建築師事務所」設計大樓結構圖 – 晶片製造就像是「營造商」要按結構圖施工蓋出大樓 – 晶片封裝就像是「裝潢」要讓住戶看到漂亮房間 – 晶片測試就像是「驗屋」要確認水管有水牆壁沒裂 󠀠 兩者的差別只差在成品是晶片還是房子而已。 󠀠 󠀠 ▌高雄楠梓園區的未來：台南善化園區的現在 台南的台積電在2017年開工，距今已經過了6年 因為南部文化相似，我們或可從台南善化來推估高雄楠梓未來。 園區公司數：漲了43% (191間275間) 房價：漲了90% (每坪15萬元29萬元) 人口：漲了70% (30,565人51,921人) 租金：漲了41.2% 󠀠 我想高雄楠梓的未來發展也會蠻類似的 楠梓台積電是2023年動土 蘿蔔預測五年後應該楠梓房價、人口也會成長至少50% 公司數會成長40%，形成產業聚落 先列下來2024楠梓數據，到2028再一起回頭看： 園區公司數：81 ? 房價：每坪25萬 ? 人口：193,139人

南漂的台積電：親臨高雄楠梓第一線 Read More »

為什麼iPhone比MacBook Air貴？

Leave a Comment / 關鍵晶片解析 /

󠀠 我們嘗試從硬體零件成本、市場需求來解謎 講重點，晶片硬體成本差不多，但市場需求、生態鏈差很多！ ▌推理思路 󠀠我們的思路是這樣的，如果晶片硬體成本iPhone比MBA高很多，那iPhone貴就很直覺 反之就很可能需要多考量兩種產品市場需求不同，造成蘋果對iPhone的議價能力高，而訂定了較高的價格 󠀠 ▌硬體零件成本比較 (都以512GB比較) iPhone 15 Pro Max （512GB) – 官網售價：54900台幣 – 總成本估計：17856 台幣 (558美元) – 照相模組：2528台幣 （79美元） – 鈦合金外殼：1600台幣 (50美元) – A17 Pro處理器 (3nm)：4160台幣 (130美元) – OLED顯示螢幕：3680台幣 (115美元) – 無限系統：768台幣 （24美元） – 記憶體：1856台幣 (58美元) ——————————— 󠀠 MacBook Air (512GB) – 售價：36900台幣 – 總成本估計：18656台幣 (583美元) – 照相機：384台幣 (12美元) – 散熱：480台幣

為什麼iPhone比MacBook Air貴？ Read More »

Like!
Like!

You cannot copy content of this page

Scroll to Top