Linux 核心設計/實作 (Linux Kernel Internals)

• Instructor: Jim Huang (黃敬群) <jserv.tw@gmail.com>
  • Facebook 粉絲專頁 (不要擔心提了笨問題，這專門用來和學生互動，可預約一對一討論)
• 訂閱 Google Calendar 以得知實體/線上課程的進行方式
• 討論區: https://www.facebook.com/groups/system.software2024/
• 課程信箱: <embedded.master2015@gmail.com> (授課教師和助教會以該信箱發公告), 往年課程進度
• Linux 核心設計 (線上講座)
• 下方課程進度表標註有 * 的項目，表示內附錄影的教材
• 「Linux 核心實作」課程內容幾乎與「Linux 核心設計」一致，採線上為主的進行方式
• 注意: 「Linux 核心實作」實際授課時間為每週四 19:30-22:30，前半段是線上測驗，後半段則是檢討和講解，第一週則是例外，安排在 2 月 23 日 20:00
• 注意: 參與「Linux 核心設計」的學員也該參加自 2 月 29 日起每週四晚間的線上測驗，直到 6 月 27 日晚間

Linux 核心設計/實作 (Spring 2024) 課程進度表暨線上資源

• 第 1 週 (Feb 20, 23): 誠實面對自己
  • 課程簡介和注意須知 / 課程簡介解說錄影*
    • 每週均安排隨堂測驗，採計其中最高分的 12 次
    • 學期評分方式: 隨堂測驗 (20%) + 個人作業+報告及專題 (30%) + 自我評分 (50%)
    • 留意資訊科技詞彙翻譯
  • 部分教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • 歷屆修課學生心得: 向景亘, 張家榮, 蕭奕凱, 方鈺學
  • 佳句偶得：「大部分的人一輩子洞察力不彰，原因之一是怕講錯被笑。想了一點點就不敢繼續也沒記錄或分享，時間都花在讀書查資料看別人怎麼想。看完就真的沒有自己的洞察了」(出處)
  • 分組報告示範: ARM-Linux, Xvisor
  • GNU/Linux 開發工具共筆*: 務必 自主 學習 Linux 操作, Git, HackMD, LaTeX 語法 (特別是數學式), GNU make, perf, gnuplot
    • 確認 Ubuntu Linux 22.04-LTS (或更新的版本) 已順利安裝到你的電腦中
  • 透過 Computer Systems: A Programmer’s Perspective 學習系統軟體*: 本課程指定的教科書 (請及早購買: 天瓏書店)
  • 軟體缺失導致的危害
    • 1970 年代推出的首款廣體民航客機波音 747 軟體由大約 40 萬行程式碼構成，而 2011 年引進的波音 787 的軟體規模則是波音 747 的 16 倍，約 650 萬行程式碼。換言之，你我的性命緊繫於一系列極為複雜的軟體系統之中，能不花點時間了解嗎？
    • 軟體開發的安全性設計和測試驗證應獲得更高的重視
  • The adoption of Rust in Business (2022)
    • 搭配觀看短片: Rust in 100 Seconds
  • 解讀計算機編碼
    • 人們對數學的加減運算可輕易在腦中辨識符號並理解其結果，但電腦做任何事都受限於實體資料儲存及操作方式，換言之，電腦硬體實際只認得 0 和 1，卻不知道符號 + 和 - 在數學及應用場域的意義，於是工程人員引入「補數」以表達人們認知上的正負數
    • 您有沒有想過，為何「二補數」(2’s complement) 被電腦廣泛採用呢？背後的設計考量是什麼？本文嘗試從數學觀點去解讀編碼背後的原理
  • 你所不知道的 C 語言：指標篇*
  • linked list 和非連續記憶體操作*
    • 安排 linked list 作為第一份作業及隨堂測驗的考量點:
      • 檢驗學員對於 C 語言指標操作的熟悉程度 (附帶思考：對於 Java 程式語言來說，該如何實作 linked list 呢？)
      • linked list 本質上就是對非連續記憶體的操作，乍看僅是一種單純的資料結構，但對應的演算法變化多端，像是「如何偵測 linked list 是否存在環狀結構？」和「如何對 linked list 排序並確保空間複雜度為 O(1) 呢？」
      • linked list 的操作，例如走訪 (traverse) 所有節點，反映出 Locality of reference (cache 用語) 的表現和記憶體階層架構 (memory hierarchy) 高度相關，學員很容易從實驗得知系統的行為，從而思考其衝擊和效能改進方案
      • 無論是作業系統核心、C 語言函式庫內部、應用程式框架，到應用程式，都不難見到 linked list 的身影，包含多種針對效能和安全議題所做的 linked list 變形，又還要考慮到應用程式的泛用性 (generic programming)，是很好的進階題材
    • 題目 1 + 分析*
    • 題目 2 / 參考題解1, 參考題解2
    • 題目 3 / 參考題解
    • 題目 4 / 參考題解
    • 題目 5 / 參考題解
    • 題目 6 / 參考題解
  • Linus Torvalds: Nothing better than C
  • Linux: 作業系統術語及概念*
  • 作業: 截止繳交日: Mar 4, 2024
    • lab0*
    • 注意: 若你在 2 月 21 日 09:10AM 之前，已從 GitHub sysprog21/lab0-c 進行 fork，請重新 fork
  • 第 1 週隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 2 週 (Feb 27, 29): C 語言程式設計
  • 公告
    • 研究生要依據課程說明，寄送學習狀況給「實驗室指導教授」(不是授課教師)，請詳閱學習回顧信件之書寫範本和規範
  • 部分教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • video: engineer 詞源
  • 校友經驗分享: Google, Apple
  • 系統軟體開發思維
  • 分析「快慢指標」
  • C 語言: 數值系統*
    • 儘管數值系統並非 C 語言所特有，但在 Linux 核心大量存在 u8/u16/u32/u64 這樣透過 typedef 所定義的型態，伴隨著各式 alignment 存取，若學員對數值系統的認知不夠充分，可能立即就被阻擋在探索 Linux 核心之外 —— 畢竟你完全搞不清楚，為何在 Linux 核心存取特定資料需要繞一大圈。
  • C 語言: Bitwise 操作*
    • Linux 核心原始程式碼存在大量 bit(-wise) operations (簡稱 bitops)，頗多乍看像是魔法的 C 程式碼就是 bitops 的組合
    • 類神經網路的 ReLU 及其常數時間複雜度實作
    • 從 √2 的存在談開平方根的快速運算
  • Linux 核心的 hash table 實作
  • 為什麼要深入學習 C 語言？*
    • C 語言發明者 Dennis M. Ritchie 說：「C 很彆扭又缺陷重重，卻異常成功。固然有歷史的巧合推波助瀾，可也的確是因為它能滿足於系統軟體實作的程式語言期待：既有相當的效率來取代組合語言，又可充分達到抽象且流暢，能用於描述在多樣環境的演算法。」
    • Linux 核心作為世界上最成功的開放原始碼計畫，也是 C 語言在工程領域的瑰寶，裡頭充斥各式「藝術」，往往會嚇到初次接觸的人們，但總是能夠用 C 語言標準和開發工具提供的擴展 (主要來自 gcc 的 GNU extensions) 來解釋。
  • 基於 C 語言標準研究與系統程式安全議題
    • 藉由研讀漏洞程式碼及 C 語言標準，討論系統程式的安全議題
    • 透過除錯器追蹤程式碼實際運行的狀況，了解其運作原理;
    • 取材自 dangling pointer, CWE-416 Use After Free, CVE-2017-16943 以及 integer overflow 的議題;
  • C 語言：記憶體管理、對齊及硬體特性*
    • 搭配閱讀: The Lost Art of Structure Packing
    • 從虛擬記憶體談起，歸納出現代銀行和虛擬記憶體兩者高度相似: malloc 給出 valid pointer 不要太高興，等你要開始用的時候搞不好作業系統給個 OOM ——簡單來說就是一張支票，能不能拿來開等到兌現才知道。
    • 探討 heap (動態配置產生，系統會存放在另外一塊空間)、data alignment，和 malloc 實作機制等議題。這些都是理解 Linux 核心運作的關鍵概念。
  • C 語言: bit-field
    • bit field 是 C 語言一個很被忽略的特徵，但在 Linux 和 gcc 這類系統軟體很常出現，不僅是精準規範每個 bit 的作用，甚至用來「擴充」C 語言
  • 參考題目 / 參考題目 / 參考題目* / 參考題解 1, 參考題解 2, 參考題解 3
  • 作業: 截止繳交日 Mar 12
    • quiz1+2
  • 第 2 週隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 3 週 (Mar 5, 7): 數值系統和 C 語言程式設計
  • 公告:
    • 第 3 次作業包含二項子作業。
    • 研究生要依據課程說明，寄送學習狀況給「實驗室指導教授」(不是授課教師)，請詳閱學習回顧信件之書寫範本和規範
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Linux: 發展動態回顧*
  • 從 Revolution OS 看作業系統生態變化*
  • 浮點數運算*: 工程領域往往是一系列的取捨結果，浮點數更是如此，在軟體發開發有太多失誤案例源自工程人員對浮點數運算的掌握不足，本議程希望藉由探討真實世界的血淋淋案例，帶著學員思考 IEEE 754 規格和相關軟硬體考量點，最後也會探討在深度學習領域為了改善資料處理效率，而引入的 BFloat16 這樣的新標準
    • float16 vs. bfloat16
  • 並行程式設計: 排程器原理*
  • C 語言: 函式呼叫*
    • 著重在計算機架構對應的支援和行為分析
  • C 語言: 遞迴呼叫*
    • 或許跟你想像中不同，Linux 核心的原始程式碼裡頭也用到遞迴函式呼叫，特別在較複雜的實作，例如檔案系統，善用遞迴可大幅縮減程式碼，但這也導致追蹤程式運作的難度大增
  • C 語言: 前置處理器應用*
    • C 語言之所以不需要時常發佈新的語言特徵又可以保持活力，前置處理器 (preprocessor) 是很重要的因素，有心者可逕行「擴充」C 語言
  • C 語言: goto 和流程控制*
    • goto 在 C 語言被某些人看做是妖魔般的存在，不過實在不用這樣看待，至少在 Linux 核心原始程式碼中，goto 是大量存在 (跟你想像中不同吧)。有時不用 goto 會寫出更可怕的程式碼
  • C 語言程式設計技巧*
  • 作業: 截止繳交日: Mar 25
    • review*, tic-tac-toe
  • Week3 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 4 週 (Mar 12, 14): 數值系統 + 編譯器
  • 公告
    • 第四次作業已指派，內容是第三週和第四週測驗題
    • 3 月 21 日 19:00 安排 code review (在成大資訊系舊館二樓的 4263 教室)，請留意信件通知，以得知進行方式
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • 貢獻程式碼到 Linux 核心
    • 第一次給 Linux Kernel 發 patch
    • 提交第一份 Patch 到 Linux Kernel
    • 第一次發 patch 到 LKML
    • Linux patch 心得
  • 追求神乎其技的程式設計之道
    • 「可以看出抄襲風氣在台灣並不只是小時候在學校抄抄作業而已；媒體工作者在報導中任意抄襲及轉載是種不尊重自己專業的表現，不但隱含著一種應付了事的心態，更代表著這些人對於自己的工作沒有熱情，更沒有著一點堅持。如果要說我在美國看到這邊和台灣有什麼最大的不同，我想關鍵的差異就在對自己的工作有沒有熱情和堅持而已了。」
    • 「程式藝術家也不過是在『簡潔』、『彈性』、『效率』這三大目標上進行一連串的取捨 (trade-off) 和最佳化。」
  • Linux 核心的紅黑樹
  • CS:APP 第 2 章重點提示和練習*
  • 核心開發者當然要熟悉編譯器行為
    • Linus Torvalds 教你分析 gcc 行為
    • Pointers are more abstract than you might expect in C / HackerNews 討論
  • C 編譯器原理和案例分析*
  • C 語言: 未定義行為*: C 語言最初為了開發 UNIX 和系統軟體而生，本質是低階的程式語言，在語言規範層級存在 undefined behavior，可允許編譯器引入更多最佳化
  • C 語言: 編譯器和最佳化原理*
  • 錯誤更正碼 (ECC) 介紹和實作考量
  • 作業: 截止繳交日: Apr 2
    • quiz3+4
  • Week4 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 5 週 (Mar 19, 21): Code Review
  • 公告
    • 第四次作業已指派，內容是第三週和第四週測驗題
    • 3 月 21 日 19:00 安排 code review (在成大資訊系舊館二樓的 4263 教室)
  • 回顧學員的參與狀況
  • 課堂問答簡記
• 第 6 週 (Mar 26, 28): System call + CPU Scheduler
  • 公告
    • 第 5 次作業已指派。對某些學員來說，這是最後一份全體學員通用的作業，之後就是期末專題或客製化作業。
    • 3 月 28 日晚間安排線上測驗 (取消原定的討論)，作答時間 19:30 到 20:30
  • rv32emu 正式支援 WebAssembly，得以在網頁瀏覽器中執行 RISC-V 程式，下一步是執行 RISC-V 處理器架構的 Linux 核心
  • 教材解說-1* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Linux 核心模組運作原理
  • Linux: 不只挑選任務的排程器*: 排程器 (scheduler) 是任何一個多工作業系統核心都具備的機制，但彼此落差極大，考量點不僅是演算法，還有當應用規模提昇時 (所謂的 scalability) 和涉及即時處理之際，會招致不可預知的狀況 (non-determinism)，不僅即時系統在意，任何建構在 Linux 核心之上的大型服務都會深受衝擊。是此，Linux 核心的排程器經歷多次變革，需要留意的是，排程的難度不在於挑選下一個可執行的行程 (process)，而是讓執行完的行程得以安插到合適的位置，使得 runqueue 依然依據符合預期的順序。
  • C 語言: 動態連結器*
  • C 語言: 連結器和執行檔資訊*
  • C 語言: 執行階段程式庫 (CRT)*
  • 教材解說-2* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Linux: 賦予應用程式生命的系統呼叫
  • vDSO: 快速的 Linux 系統呼叫機制
  • UNIX 作業系統 fork/exec 系統呼叫的前世今生
  • Week6 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
  • 作業: 截止繳交日: Apr 15
    • assessment
• 第 7 週 (Apr 2, 4): Process, 並行和多執行緒
  • 公告:
    • 4 月 4 日晚間不停課，依舊安排線上測驗和討論 (事後提供錄影)，19:30 開始
    • 4 月 9 日不停課，改為 Google Meet 線上授課 (稍後確認進行方式)
    • 研究生要依據課程說明，寄送學習狀況給「實驗室指導教授」(不是授課教師)，請詳閱學習回顧信件之書寫範本和規範
  • 教材解說-1*, 教材解說-2* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Linux: 不僅是個執行單元的 Process*: Linux 核心對於 UNIX Process 的實作相當複雜，不僅蘊含歷史意義 (幾乎每個欄位都值得講古)，更是反映出資訊科技產業的變遷，核心程式碼的 task_struct 結構體更是一絕，廣泛涵蓋 process 狀態、處理器、檔案系統、signal 處理、底層追蹤機制等等資訊，更甚者，還很曖昧地保存著 thread 的必要欄位，好似這兩者天生就脫不了干係
    • 探討 Linux 核心設計的特有思維，像是如何透過 LWP 和 NPTL 實作執行緒，又如何透過行程建立記憶體管理的一種抽象層，再者回顧行程間的 context switch 及排程機制，搭配 signal 處理
  • 《Demystifying the Linux CPU Scheduler》第 1 章
  • 並行和多執行緒程式設計*，涵蓋
    • Atomics 操作
    • POSIX Threads (請對照 CS:APP 第 12 章自行學習)
  • 測試 Linux 核心的虛擬化環境
  • 建構 User-Mode Linux 的實驗環境*
  • 〈Concurrency Primer〉導讀
  • The C11 and C++11 Concurrency Model
    • Time to move to C11 atomics?
    • C11 atomic variables and the kernel
    • C11 atomics part 2: “consume” semantics
    • An introduction to lockless algorithms
  • CS:APP 第 12 章
    • Concurrency / 錄影*
    • Synchronization: Basic / 錄影*
    • Synchronization: Advanced / 錄影*
    • Thread-Level Parallelism / 錄影*
  • Week7 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 8 週 (Apr 9, 11): 並行程式設計, lock-free, Linux 同步機制
  • 公告:
    • 第 6 次作業已指派
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • 並行和多執行緒程式設計，涵蓋
    • Atomics 操作
  • Linux: 淺談同步機制*
  • 利用 lkm 來變更特定 Linux 行程的內部狀態
  • Week8 隨堂測驗: 題目 (內含作答表單)
  • 作業: 截止繳交日: Apr 29
    • integration
  • 課堂問答簡記
• 第 9 週 (Apr 16, 18): futex, RCU, 伺服器開發與 Linux 核心對應的系統呼叫
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Twitter 上面的笑話: index 的複數寫作 indices, complex 的複數寫作 complices, 那 mutex 的複數是什麼？答 “deadlock” – 出處
  • A Deep dive into (implicit) Thread Local Storage
    • 允許執行緒擁有私自的資料。對於每個執行緒來說，TLS 是獨一無二，不會相互影響。案例: 全域變數 errno 可能在多執行緒並行執行時錯誤，透過 TLS 處理 errno 是個解決方案
    • __thread, 在 POSIX Thread 稱為 thread-specific data，可見 pthread_key_create, pthread_setspecific
    • 在 x86/x86_64 Linux，fs segment 用以表示 TLS 的起始位置，讓執行緒知道該用的空間位於何處
  • 建立相容於 POSIX Thread 的實作
  • RCU 同步機制*
  • Linux 核心設計: 針對事件驅動的 I/O 模型演化*
  • 精通數位邏輯對 coding 有什麼幫助？
  • Linux: 透過 eBPF 觀察作業系統行為*: 動態追蹤技術（dynamic tracing）是現代軟體的進階除錯和追蹤機制，讓工程師以非常低的成本，在非常短的時間內，克服一些不是顯而易見的問題。它興起和繁榮的一個大背景是，我們正處在一個快速增長的網路互連異質運算環境，工程人員面臨著兩大方面的挑戰：
    • 規模：無論是使用者規模還是機房的規模、機器的數量都處於快速增長的時代;
    • 複雜度：業務邏輯越來越複雜，運作的軟體也變得越來越複雜，我們知道它會分成很多很多層次，包括作業系統核心和其上各種系統軟體，像資料庫和網頁伺服器，再往上有腳本語言或者其他高階語言的虛擬機器或執行環境，更上面是應用層面的各種業務邏輯的抽象層次和很多複雜的程式邏輯。
  • Week9 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 10 週 (Apr 23, 25): 現代微處理器
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • 公告:
    • 本學期最後一份作業: ktcp*，之後會進行期末專題
    • 學員應及早跟授課教師預約一對一線上討論，請參照課程行事曆裡頭標注 “Office hour” 的時段，發訊息到 Facebook 粉絲專頁，簡述你的學習狀況並選定偏好的時段 (建議是 30 分鐘)
    • 5 月 2 日晚間安排「實體」作業回顧和檢討，稍後見課程行事曆
  • 產業動態
    • Embedded Open Source Summit 2024 會後紀錄
    • Introducing Google Axion Processors, our new Arm-based CPUs: 因為這個專案，Google 台灣增加許多職缺
    • 我在 SiFive 處理器架構部門四年的經歷
  • Cautionary Tales on Implementing the Software That People Want* (RCU 原始作者的精闢演講，必看！)
    • slides
    • 1990: Queueing Problem: Stochastic Fair Queueing: Hash
    • 2004: Real-Time Linux
    • 2004: Dawn of Multicore Embedded
    • Formal Verification is Heavily Used
    • Natural Selection: Bugs are Software!
    • People don’t know what they want. But for software developers, this is no excuse.
  • 現代處理器設計：原理和關鍵特徵*
  • Linux: 中斷處理和現代架構考量*
  • Linux: 多核處理器和 spinlock*
  • 作業: 截止繳交 May 15
    • ktcp
  • Week10 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 11 週 (Apr 30, May 2): 作業回顧 + 期末專題
  • 公告
    • 課程規劃在 6 月下旬舉辦成果發表，預計採用實體 + 線上直播的模式
    • 注意最後一份作業 ktcp，截止繳交 May 15
    • 5 月 2 日 19:00 安排作業回顧 (在成大資訊系舊館二樓的 4263 教室)
    • 學員應及早跟授課教師預約一對一線上討論，請參照課程行事曆裡頭標注 “Office hour” 的時段，發訊息到 Facebook 粉絲專頁，簡述你的學習狀況並選定偏好的時段 (建議是 30 分鐘)
    • 期末專題可由單人或二人進行，但後者會有更高的難度，且需要授課教師充分溝通
    • 研究生要依據課程說明，寄送學習狀況給「實驗室指導教授」(不是授課教師)，請詳閱學習回顧信件之書寫範本和規範
  • 2024 年開放原始碼專案協作*
  • 2024 年 Linux 核心設計/實作課程期末專題
  • 課堂問答簡記
• 第 12 週 (May 7, 9): 現代微處理器 + 記憶體管理
  • 公告
    • 5 月 14 日下午，授課教師請大家喝飲料並討論期末專題規劃，請在 15:10 - 16:00 到資訊系新館二樓電腦教室登記飲料
  • 課程期末專題
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • 並行和多執行緒程式設計講座近期新增:
    • 實作輕量級的 Mutex Lock / 搭配看 Priority Inversion on Mars
    • 案例: Reference Count
  • 《Demystifying the Linux CPU Scheduler》
    • 2.4 Multiprocessing
    • 3.2 Time keeping
    • 3.4 Per-Entity Load Tracking
    • 4.1 Group scheduling and cgroups: Introduction
    • 4.2 Group scheduling and CPU bandwidth
  • CS:APP 第 6 章重點提示*
  • CPU caches by Ulrich Drepper
    • 進行中的繁體中文翻譯: 《每位程式開發者都該有的記憶體知識》
    • 本文解釋用於現代電腦硬體的記憶體子系統的結構、闡述 CPU 快取發展的考量、它們如何運作，以及程式該如何針對記憶體操作調整，從而達到最佳的效能。
  • CS:APP 第 9 章重點提示*
  • 解析 Linux 共享記憶體機制
  • Linux 核心的 /dev/mem 裝置
  • Week12 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 13 週 (May 14, 16): 記憶體管理 + 裝置驅動程式
  • 公告:
    • 慶祝專案順利推進，授課教師請學員喝飲料
    • 本週「已進行一對一討論」的學員會收到期末專題的確認信件，尚未預約討論的學員請及早進行
    • 課程期末專題 由一人或二人執行，若要二人為一組，請向授課教師確認
  • Linux kernel v6.9 發佈，主要新特性:
    • Rust support on AArch64 (Arm64) architectures
    • Named Address Spaces feature in GCC that allows the compiler to better optimize per-CPU data access
    • LZ4 compression support for the hibernation image creation and loading code
    • The F2FS (Flash-Friendly File System) flash file system received zoned block device support
  • 教材解說-1*, 教材解說-2* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Introduction to Memory Management in Linux*
  • The Linux Virtual Memory System
  • Linux: 記憶體管理*: 記憶體管理是 Linux 核心裡頭最複雜的部分，涉及到對計算機結構、slob/slab/slub 記憶體配置器、行程和執行檔樣貌、虛擬記憶體對應的例外處理、記憶體映射, UMA vs. NUMA 等等議題。
  • POSIX Shared Memory: 在 Linux 中要實作出共享記憶體 (shared memory) 的機制很多，例如: 1) SysV shared memory; POSIX shared memory; 3) 以 mmap 對檔案進行記憶體映射; 4) 以 memfd_create 實作跨越行程存取; 本文章探討 POSIX shared memory 的使用，並提供完整應用案例，最後探討相關的同步議題。
  • C 語言: 物件導向程式設計*
  • Object-oriented design patterns in the kernel, part 1 / Object-oriented design patterns in the kernel, part 2
    • 對照《Demystifying the Linux CPU Scheduler》 3.1 Structs and their role: sched class
  • C 語言: Stream I/O, EOF 和例外處理*
  • CS:APP 第 10 章重點提示*
  • Linux: 裝置驅動程式介面和模型 / 錄影* by Greg Kroah-Hartman
    • 針對 Linux v5.x 的素材請見《The Linux Kernel Module Programming Guide》
  • How to avoid writing device drivers for embedded Linux / 錄影*
  • Debugging Embedded Devices using GDB / 錄影*
  • Linux: Device Tree / 錄影*
  • Linux: Timer 及其管理機制*
  • Linux: Scalability 議題*
  • An Introduction to Cache-Oblivious Data Structures
    • 「自動快取資料結構」，特性是無視硬體特定的快取大小，可能達到接近最優化快取的效能;
    • 在現代 CPU 多層多種大小的快取架構下，它的理論宣稱其能自動優化在所有層的快取的存取效率。傳統上電腦科學做偏理論的人不重視實作的效能表現，而實作或硬體優化的從業人員往往不重視理論分析。這個學門卻是橫跨相當理論的演算法分析（需要相當多的進階數學工具），及相當低階的硬體效能理解;
    • 影片: Memory Hierarchy Models
    • Google Research 強者的心得: 關於變強這檔事（九）, 設計高效 Hash Table (一), 設計高效 Hash Table (二)
    • Skip List: 置放大量數字並進行排序的資料結構。不用樹狀結構，而改用高度不同的 List 來連接資料。資料結構在概念上可以表示成 Left Child-Right Sibling Binary Tree 的模式。是 Cache-oblivious Algorithm 的經典範例，時間複雜度與空間複雜度與 Binary Search Tree 皆相同，但精心調整的實作可超越 Binary Search Tree。
    • Linux 核心: A kernel skiplist implementation (Part 1), Skiplists II: API and benchmarks
  • Linux: linked list, Queues, Maps, Binary Trees: 錄影* / 共筆
  • Week13 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 14 週 (May 21, 23): 虛擬化技術
  • 公告
    • 原訂 5 月 23 日晚間課程，改為「Linux 核心設計：虛擬化技術」線上講座 (議程結束後提供錄影)
  • Embedded Virtualization applied in Mobile Devices / info
  • KVM: Linux 虛擬化基礎建設*
  • 2024 年 Linux 核心設計/實作課程期末專題
• 第 15 週 (May 28, 30): 網路封包處理 + 多核處理器架構
  • 公告
    • 原訂 5 月 28 日實體課程，改為線上方式進行
    • 5 月 30 日晚間討論專題進行狀況
    • 研究生及早撰寫五月份學習彙報給指導教授 (並 Cc. 授課教師)，作為期末自我評量的依據之一。六月份不用特別撰寫學習彙報，而是邀請實驗室指導教授觀看你的期末專題
    • 課程期末專題
  • slab 記憶體配置器
  • LKL: 重用 Linux 核心的成果
  • 教材解說-1*, 教材解說-2*, 教材解說-3* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Linux 核心網路
    • socket 的譯法
  • semu: 精簡 RISC-V 系統模擬器: 支援 TAP/TUN 以存取電腦網路
  • Memory Externalization With userfaultfd / 錄影* / kernel documentation: userfaults
  • How Linux Processes Your Network Packet / 錄影*
  • Kernel packet capture technologies / 錄影*
  • PACKET_MMAP
    • PACKET_MMAP 在核心空間內配置一塊核心緩衝區，一旦使用者層級的應用程式呼叫 mmap 將前述緩衝區映射到使用者層級時，接收到的 skb 會直接在該核心緩衝區，從而讓應用程式得以直接捕捉封包
    • 若沒有啟用 PACKET_MMAP，就只能使用低效率的 AF_PACKET，不但有緩衝區空間的限制，而且每次捕捉封包就要一次系統呼叫。反之，PACKET_MMAP 多數時候不需要呼叫系統呼叫，也能實作出 zero-copy
    • 圖解 Linux tcpdump
  • Multi-Core in Linux*
  • Multiprocessor OS
    • Arm 處理器筆記
  • 從 CPU cache coherence 談 Linux spinlock 可擴展能力議題
  • Week15 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 16 週 (Jun 4, 6): 程式碼最佳化概念 + 多核處理器架構
  • 公告
    • 課程期末專題成果展示 (線上直播) 的規範，請保留 6 月 30 日
    • 善用行事曆的 office hour，向授課教師預約一對一討論和補考 (6 月 28 日前皆可)
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Multiprocessor OS
    • Arm 處理器筆記
  • 《Demystifying the Linux CPU Scheduler》
    • 2.4 Multiprocessing
    • 2.5 Energy-Aware Scheduling (EAS)
    • 3.4 Per-Entity Load Tracking
    • 4.2 Group scheduling and CPU bandwidth
    • 4.3 Control Groups
    • 4.4 Core scheduling
  • 現代硬體架構上的演算法: 以 Binary Search 為例
    • Beautiful Binary Search in D
    • binary_search.c
  • CS:APP 第 5 章重點提示和練習*
  • CS:APP Assign 5.18*
  • Linux: Scalability 議題*
  • Linux-Kernel Memory Ordering: Help Arrives At Last! / video*
    • Memory barriers in C
  • 課堂問答簡記
• 第 17 週 (Jun 11, 13): 即時 Linux 的基礎建設
  • 公告
    • 佔學期總成績 50% 的自我評量，請在 7 月 4 日中午前完成。範例: User/OscarShiang
    • 自我評量的網址必須符合 /User/你的GitHub帳號名稱 格式 (區分大小寫)，請不要打錯字。「不能」用「上傳檔案」的功能，使用文字編輯
    • 填寫你的法定姓名和 GitHub 帳號名稱
    • 自我評分項目 (都要有對應的狀況說明、超連結、延伸資訊，和用客觀事實佐證，每項不少於 70 個 Unicode 字元，用流暢清晰的漢語書寫，採用指定的資訊科技詞彙翻譯，你日後的同事和主管可能會看到你的評量)
      1. 成果發表和貢獻: 與 Linux 核心相關的公開演講、貢獻到 Linux 核心和相關專案 (應標註對應的公開 commits/patches)、貢獻本課程的教材和使用的專案，包含授課教師編撰/翻譯的書籍 (即《Demystifying the Linux CPU Scheduler》, 《Concurrency Primer》, 《Linux Kernel Module Programming Guide》, 〈每位程式開發者都該有的記憶體知識〉)，必須要獲得採納才算，即便只是修正錯字，也可列入貢獻。有效採計區間為 2 月 20 日到 6 月 30 日
      2. 作業/隨堂測驗: 你的開發紀錄，人在做，Google 在看
      3. 期末專題: 開發紀錄、評量成果和產出，以及觀摩其他學員的期末專題並提問 (要有對應的公開軌跡)，且至少要涵蓋一項列於課程期末展示的專案。注意：你有義務回覆其他學員 (和授課教師) 對你期末專題的提問，並在 7 月 6 日中午前做出回應且更新更新在期末專題頁面
      4. 與授課教師的互動: 標注與授課教師「一對一討論」的時間，並列出你針對授課教師的問答、測驗和後續討論及啟發。課堂問答也可列入
      5. 所見所聞所感，務必提及閱讀〈因為自動飲料機而延畢的那一年〉和回顧自身在本課程的投入狀況
      6. 針對研究生，每月發給實驗室指導教授的學習回顧，要包含二月、三月、四月，和五月。大學部學生則忽略本項目。應當在自我評量中列出學習回顧的簡短內容，並標示發信的日期和時間，唯有授課教師也列入信件副本才可列出。每月的學習回顧信件只能在當月或隔月寄送
      7. 上述 (1) 到 (6) 各項都該有對應的評分，皆為介於 1 到 10 之間的「整數」(不要自作主張寫 8.7 這樣的數值) 並要能充分反映上述評分項目，附上對應的「公開」證明，如 commit log 和 pull requests
      8. 計算方式 (GEOMEAN 即針對上述 (1) 到 (6) 各項的幾何平均，沒有加權。若有計算錯誤，整個自我評量不計分) 如下，若超過 10，則取 10
         • 方案 A (針對已對 Linux, glibc, gcc, llvm, rv32emu 等專案做出超過 3 項 non-trivial 貢獻 [僅修正錯字或沒有改變程式行為的修改視為 trivial] 並獲得開發者採納): 8 + floor(0.3 * GEOMEAN)
         • 方案 B: 1 + floor(GEOMEAN)
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Re: [問卦] 精通作業系統對Coding有什麼幫助？
  • Linux: Timer 及其管理機制
  • The End of Time 19 years to go (2038)
  • Real-Time Scheduling on Linux
  • PREEMPT_RT 作為邁向硬即時作業系統的機制
  • Linux 核心搶佔
  • Towards PREEMPT_RT for the Full Task Isolation
  • Linux and Zephyr “talking” to each other in the same SoC
  • Week17 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 18 週 (Jun 18, 20): 多核處理器 + Rust
  • 教材解說* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • 公告
    • 及早進行期末專題
    • 準備自我評量 (佔學期總分的 50%)
  • Linux 核心搶佔
  • Customize Real-Time Linux for Rocket Flight Control System
  • RTMux: A Thin Multiplexer To Provide Hard Realtime Applications For Linux / EVL
  • Memory Barrier
    • Memory Barriers in the Linux Kernel: Semantics and Practices
    • From Weak to Weedy: Effective Use of Memory Barriers in the ARM Linux Kernel / video* / Cortex-A9 MPcore
  • Rust 程式語言
    • 現況: 已被 Google Android 團隊選為開發系統軟體的另一個程式語言，與 C 和 C++ 並列; 自 2017 年 Facebook 內部採納 Rust 程式語言的專案增加，像是加密貨幣 Diem (前身為 Libra) 就將 Rust 作為主要程式語言並對外發布,
    • 撰寫 LKMPG 的 Rust 核心模組
  • Week18 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 19 週 (Jun 25, 27): Rust, Linux 核心除錯
  • 公告
    • 依據「教師線上成績登錄系統」，112 學年第 2 學期繳交期限為 7 月 7 日 23:59，授課教師預計在當日晚間繳交成績，學員在此之前都有努力空間，請重視自己的權益
    • 自我評量務必在 7 月 4 日中午前完成
    • 2024 年 Linux 核心設計/實作課程期末展示*
    • 7 月 2 日是本學期最後一次授課，改為 19:30 進行 (事後提供錄影)，涉及期末專題和自我評量的檢討，所有學員務必參加。
  • Linux kernel panic 排除
  • 教材解說-1* (僅止於概況，請詳閱下方教材及個別的對應解說錄影)
  • Rust for Linux 研究
  • 撰寫 LKMPG 的 Rust 核心模組
  • Rust 程式語言
    • Steve Klabnik 與 Carol Nichols，及 Rust 社群的協同撰寫的《The Rust Programming Language》線上書籍，由台灣的 Rust 社群提供繁體中文翻譯
    • Rust by Example
    • C vs. Rust
    • Unsigned Integers Are Dangerous
    • constant vs. immutable
  • Week19 隨堂測驗: 題目 (內含作答表單)
  • 課堂問答簡記
• 第 20 週 (Jul 2): 回顧和檢討
  • 注意事項
    • 之所以將 6 月 29 日訂為期末專題錄影解說的繳交時限，是便於同儕檢討，學員應持續改進期末專題，作為日後能寫在個人簡歷的成果。
    • 倘若你沒在 6 月 30 日進行專題展示發表，就要在 7 月 4 日中午前，挑出至少 5 個由其他學員進行的題目，觀看其解說錄影、開發紀錄、程式碼和成果進行批評，紀錄於下方對應專案的開發紀錄中，針對個別題目，至少提出 1 個問題或建議。注意：比照第三次作業的風格，在 (自己以外) 學員的開發紀錄上留言。
    • 針對其他學員 (含授課教師和社會人士) 在開發紀錄頁面提出的問題或建議，務必在 7 月 6 日中午前予以回應和改進。
  • 課程自我評量*
  • 透過 Linux 核心重新認識數位化世界: 藉由 Dominic Walliman 製作的〈Map of Computer Science〉短片，探討電腦科學的多個面向，諸如電腦網路、圖形處理、抽象機器及理論 (如Turing machine)、NP-Complete 問題、計算機架構、排序演算法、資料壓縮、現代密碼學、形式化方法、作業系統排程、異質多核運算、編譯器，和程式語言，來回顧今日的 Linux 核心 ── 電腦科學的子學科幾乎都可反映在 Linux 核心中。
  • 課程期末展示*
  • 期末專題檢討