非同步模型筆記

Concurrency: 兩件以上的事情，同時被一個處理單位處理，以分時的方式。
ex: 處理A事情處理到一半，把 call stack 丟出去，載入 B stack 到暫存器中，以分時的方式處理。

Parallelism: 多個事件，被多個處理單位同時處理。

這兩種程式在開發的時候都非常困難，因為有 shared memory 的問題！

Shares memory 會造成
1. Race condition
2. Dead lock

解決方式
1. functional programing - 每件事都是 immutable
2. Actor model - 把 mutable 的狀態封裝在物件內，只透過非同步的通訊方式交換訊息

Actor
1. 輕量化的物件，有自己內部可改變的 state，別人不可改，也不共享
2. 跑在自己的執行緒上面
3. 沒有 shared memory state
4. 別的 actor 來的訊息，會按照順序存在 mailbox 中，依序處理
5. 只能透過訊息改變其他 actor
6. 程式變得更可擴展，因為更輕量且每個 call stack 都很小

CSP Model


Actor vs CSP
相同:
1. 不同的執行單元是透過傳 message 的方式溝通
2. 他們自己內部都有 private state，所以不需要 lock
3. 他們不是用共享記憶體的方式通訊，而是通訊來達到共享記憶體

不同:
1. CSP 不關注 Process 本身，所以 CPS 的 processes are anonymous，然而每個 Actor 都會有自己的身份
2. Actor 都是用非同步的方式傳送訊息，但是 CSP 則是同步，也就是 CSP 會 blocking


Asynchronous model
callbacks:
當相依的事件做完之後，會呼叫下一件要做的事情
會有 callback hell 的問題

promise => async/await:
promise 底層其實也是透過 callback, 只是將 callback 封裝在內部，
搭配內部 state (fulfilled, pending, reject) 的管理，將 callback hell 的問題解決。
更詳細的解說請參考: https://zhuanlan.zhihu.com/p/58428287

async await 跟 generator 的概念幾乎一樣，詳細請看
https://zhuanlan.zhihu.com/p/115112361

Coroutine:
User-space light weight thread created within one process
Coroutine之間是 cooperative scheduling => non-preemptive
簡單來說，Coroutine 是將非同步的寫法變成類似同步的寫法，
底層來說 Coroutine 並不是讓效能變好的關鍵
IO模型中的 Reactor model 才是，藉由 io multiplexing 來達成。

io multiplexing 是指
實現一個 thread 可以監聽多個 file descriptor
一但某個 file descriptor 已經就緒了
就會通知對應的應用程式去進行處理
如果都沒有 file descriptor 就緒
就把 cpu 的控制權交出去
以Linux的環境上，Reactor 會用到 epoll 來提升效能


(補充)
進行 CPU scheduling 的可能時機有下列四種:

1. 當一個 process 的狀態由 running 轉為 waiting 時
2. 當一個 process 的狀態由 running 轉為 ready 時 e.g. time sharing 因為 timeout 回到 ready
3. 當一個 process 的狀態由 waiting 轉為 ready 時
4. 當一個 process 的狀態由 running 轉為 terminate 時

Non-preemptive 不可搶奪型，又稱 cooperative scheduling 合作式排程
一個 Process 除非自行放棄 CPU 的使用權，否則其他 Processes 不能奪取其 CPU 使用權
 - process 等待 I/O, semaphore wait
 - process terminates

Non-preemptive scheduling 只可能發生在上面的 1. 4. 兩個時機點

Preemptive 可搶奪型

不論正在執行的 process 是否可繼續執行，必要時 CPU 使用權可能被搶奪
Preemptive scheduling 在上述的四個時間點皆會發生
適用於 real-time system, time sharing system
context switch 次數較多，overhead 較大

Ref: https://www.kshuang.xyz/doku.php/operating_system:course_concept:cpu_scheduling
Ref: https://blog.techbridge.cc/2019/06/21/actor-model-in-web/
Ref: IO多路覆用
Ref: IO模型-Reactor model

留言

張貼留言

這個網誌中的熱門文章

[翻譯] 介紹現代網路負載平衡與代理伺服器

圖片
原文(Source): https://blog.envoyproxy.io/introduction-to-modern-network-load-balancing-and-proxying-a57f6ff80236 什麼是網路負載平衡 (network load balancing) 與 代理伺服器的代理行為 (proxying)? 維基百科是這樣定義負載平衡的 > 負載平衡藉由工作量分配到多台運算資源, 例如: 主機, 主機叢集, 網路連結, CPU,  硬碟等. > 負載平衡盡量最佳化資源的使用, 最大化每個最大化每個資源的吞吐量(生產能力), 最小化反應時間, 避免單一資源工作量過重 > 使用多個資源來當負載平衡來提升可靠與高可用而不是單一個資源 > 負載平衡總是使用獨立的軟體或硬體, 例如獨立的 multilayer switch, 或是 DNS主機的程式 上面的定義用於各資訊領域的各方面, 不單單只有網路而已. 作業系統使用負載平衡在實體處理器去分配運算任務, 容器編排服務像是K8S使用負載平衡在不同的主機叢集中去分配任務, 而網路負載平衡器則是將網路上進來的任務分配給可用的後端主機們. 剩下的文章主要都是講解關於網路負載平衡. 圖1 圖1展示了從應用層來看網路負載平衡. 許多的用戶端(Client)透過只需要向 load balancer 請求, load balancer就會將這些request, 也就是上述提到的任務分配給可用的後端服務. Load balancer位於Client 與後端之間執行幾個重要的任務: 服務發現 (Service discovery) 後端的服務在系統的哪裡, 他們的IP(位置)是什麼? (也就是load balancer該如何與後端主機溝通) 服務的狀態檢查 (Health checking) 現在的服務是否是可接受請求的 負載平衡 (Load Balancing) 該用什麼樣的演算法去平均將request分配給可用的服務 在分散式系統使用負載平衡主要有幾個好處: 主機抽象 (Naming abstraction): 每個client 不需要知道每個後端服務在哪, 只需要利用預先定義好的機制向負載平衡器...
閱讀完整內容

[MySQL] schema 與資料類型優化

圖片
選擇優化的資料類型 原則: 越小越好 因為會佔用最小的磁碟、記憶體與CPU快取。 越簡單越好 操作整數比操作字串代價低，因為字串排序規則 ex: 儲存ip應該用 unsigned int - 4 bytes, 用 varchar 會用到 15 bytes 儲存時間應該用 mysql 內建的時間類型 DATETIME, TIMESTAMP可以儲存相同資料：時間日期，精確到秒 TIMESTAMP 只用 DATETIME 一半的儲存空間，根據時區自動變化 TIMESTAMP 允許的時間範圍比 DATETIME 小很多 避免 NULL 在 innodb 上有單獨的 bit 儲存 null 值，但在 myisam，但還是盡量避免 整數類型 tinyint - 8 bits smallint - 16 bits mediumint - 24 bits int - 32 bits bigint - 64 bits 如果是有正負數的，會因為 1 bits 會用來記錄正負，故範圍為 -2^(n-1) ~ 2^(n-1) unsigned 的範圍則是 -2^n ~ 2^n MySQL 可以為整數指定寬度，例如 INT(11)，其實沒什麼意義，11只是表示與 MySQL 相關工具(client 端的 cli) 用來顯示的長度，對於儲存與計算來說，INT(1)與INT(20)是一樣的。 實數類型 decimal(M,N) - M: 最大位數, N: 小數點後有幾位 ex: decimal(18, 9) => 9位數字.9位數字，總共使用 9 個 bytes float => 4 bytes double => 8 bytes decimal的計算雖然比較精確，但需要額外，但需要額外的空間與計算開銷，資料量較大時，可以用 bigint 代替 decimal，假設需要精準到萬分之一，則可以將數字*1百萬，將結果存在 bigint 內，可以同時避免福點數計算不精準與 decimal 計算代價太高。 字串類型 VARCHAR row_format=fix，這樣就都會固定長度，沒意義 varchar會需要額外1~2 bytes記錄長度, 假設用 latin1 charset, varchar(10) => 11 bytes, varchar(1000) => 1002...
閱讀完整內容