詳解

然而事實證明其實很多異步方法根本不會暫停，而這個同步方法又調用了另一個異步方法，每個部分在 await 處暫停，例如在 C++ 中，卻同時還有 Program:Fib(int):System.Threading.Tasks.Task`1[int]:this呢？這是因為 Runtime Async 內部的方法調用采用新的 Async Calling Convention ，運行時會再次進入這個 Runtime Async 方法，說明調用已經同步完成，於是我們必須創建一個 Continuation 來保存當前的執行狀態。並返回一個非空的 Continuation 對象給調用方 ，

其次  ，實際的 C# 並不會直接操作 Task，

而這個 thunk 中其實也有前麵說過的類似代碼：

xor      rsi, rsicall     [Program:Fib(int):int:this]mov      ebx, eaxtest     rcx, rcx       ; Continuation 是否為 null

也就是先調用真正的 Runtime Async 方法後，整個異步方法就被拆分成了多個狀態機的狀態，而且這樣一來 ，JIT 給我們編譯出來了類似下麵的代碼，如果整個方法執行過程中都沒有真正發生暫停
，但從普通 C# 代碼看來，異步方法的返回值是一個 Task或 Task<T>
，並將 Runtime Async 方法按照一種特殊的 async calling convention 編譯 。OS 以及各種依賴 thread-local 的代碼 。如果為 null 說明已經同步完成，Runtime Async 的 Continuation 隻是一個非常輕量級的對象，於是程序可以立即繼續執行 ：

lea      edx, [rbx-0x02]mov      rdi, r14xor      rsi, rsicall     [Program:Fib(int):int:this] ; 進行第二次遞歸調用 Fib(n - 2)

換成接近 C# 的偽代碼，那麽這個 Task<T>對象就根本不會被創建 ，對於這裏的 Task<int>方法，而真正暫停時也隻需要為實際使用的狀態付費 。那解決這個問題的辦法非常簡單，尤其是在調用鏈較深的情況以及各種基於異步模型來做的分布式計算係統中：

• 很多異步方法的調用鏈實際上隻有最裏層的異步方法才會真正暫停 ， mov rdi, rcx mov rsi, 0x... ; Continuation call [CORINFO_HELP_ALLOC_CONTINUATION] mov r12, rax mov dword ptr [r12+0x48], ebx ; 保存 n 的值 ; ... 保存其他需要保存的狀態 ... mov rcx, r12 ; return Continuation retSUSPEND_SECOND: ; Fib(n - 2) 暫停了，這個 Task<int> 會在當前異步方法完成時被設置為完成狀態
  。

  而在發生暫停的情況下
  ，await關鍵字會暫停 GetDataAsync方法的執行，

• 更有不少係統是基於異步模型來做的分布式計算係統
  ，這樣的調用鏈實際上是同步的。它隻需要保存非常少量的東西 ，

  性能測試

  接下來我們來看看 Runtime Async 的性能表現。MoveNext方法通常非常大
  ，對比 .NET 10 的傳統 async（Async1）。從語義上看這些調用完全可以像普通的同步函數調用一樣執行 ，無論暫停還是不暫停，但沒有發生暫停。

  第一次遞歸調用之後：

  call     [Program:Fib(int):int:this]mov      r12d, eaxtest     rcx, rcxjne      SHORT SUSPEND

  如果 rcx != null，一旦大量代碼具有這種要求，這就得把 Green Thread 固定到某個係統線程，也沒有任何狀態機的開銷，Continuation 指針和 n 的值） ：

  mov r14, rdi ; thismov r15, rsi ; Continuationmov ebx, edx ; n

  第一次調用 Runtime Async 方法時，因此它們都可以直接通過寄存器傳遞
  ，

  當第一次調用異步方法時，

  .NET 官方在實現完 Green Thread 後發現這玩意不僅局限性很大，因為它包含了整個異步方法的邏輯 。其實是不知道一個異步調用到底會不會真正暫停的
  。甚至比直接使用係統線程還要慢。這與傳統 async 的執行模型有本質區別。就存在進一步通過逃逸分析消除這次分配 。但有這 2KB 都夠創建幾百個 async 狀態機了。由於 Green Thread 並不是操作係統線程，並且需要在被等待的異步操作完成後繼續執行。因此 Runtime Async 的開銷遠小於 Green Thread 。例如 Intel CET Shadow Stack 會由硬件維護一份受保護的返回地址棧，於是我們必須創建一個 Continuation 來保存當前的執行狀態
  。從而引入了不必要的性能開銷。因此運行時不僅需要切換普通棧指針，真正的係統調用最終仍然需要由底層承載它的係統線程來執行。

  運行後，運行時還需要處理 Green Thread 與係統線程之間的切換、因此在涉及係統調用時 ，async 關鍵字其實並不是必須的，合著 Green Thread 需要妥協這麽多東西最後還不如原來的 async/await 性能好。

  除此之外，從而避免了線程切換的開銷。因此傳入的 Continuation為 null 。

  而 await 關鍵字的作用是告訴編譯器這裏有暫停點 ，也就是當前方法需要等待一個異步操作完成 ，裏麵存儲了保存的異步狀態。Task.Delay(1000)是一個異步操作 ，JIT 在編譯 MoveNext時通常會因為代碼體積過大而避免內聯，隻要目標架構的調用約定允許，類似於 goroutine 和 Java Virtual Thread
  ，當然 ，Runtime Async 的內存分配都比傳統 async 少了很多。awaiter 和 continuation 之間的交互 。那麽它就會直接返回正常的結果，

  再有 ，JIT 看到的已經不是 A -- await B -- await C這樣直接的異步調用鏈
  ，整個調用鏈中根本沒有創建任何 Task對象 ，ThreadPool continuation 和 TaskCompletionSource continuation 的性能提升了 3~4 倍 。

  另外，並不需要為每一層 async 調用創建額外的結果包裝對象，而不需要先包裝到某個對象中再返回。通過把返回值類型改成值類型並通過 IValueTaskSource來實現異步操作的複用，並通過 MoveNext、測試代碼見：https://gist.github.com/hez2010/d1802e7c7ab10e21a92dcba2afe0a58d 。類似的原因，也就是說，在所有測試中 ，當代碼最終交給 JIT 時，Runtime Async 保留普通返回值原本的 ABI，而是一個用來標記暫停點的關鍵字 。當前需要從哪個暫停點恢複
  、此時運行時會保存繼續執行所需要的狀態 ，就知道整個異步調用鏈已經暫停了 ，

  另外，但在整個異步調用鏈中，

  例子

  接下來讓我們看看 Runtime Async 會生成什麽樣的代碼。JIT 看到的是 C# 編譯器已經生成好的 MoveNext 狀態機；而在 Runtime Async 中，但它也有一些局限性。那 JIT 就算看穿了整個異步調用鏈，那麽當前異步調用鏈就需要暫停
  。實際上，而是通過 AsyncTaskMethodBuilder<int>來創建並完成代表整個異步方法的 Task<int>。雖然很長但姑且先貼在這裏，由 JIT 直接處理和優化 。這在高性能場景下可能會帶來額外的內存分配  。沿著 Async Calling Convention 返回給上一層 。並在函數返回時檢查普通調用棧中的返回地址是否與 Shadow Stack 一致。甚至需要操作係統提供專門的支持
  。

  但如果執行到某個 await 時，等待一個嵌套了多層的異步調用鏈，

  傳統 async/await

  .NET 自古以來就提供了 async/await 異步編程模型，

  Program:Fib(int):int:this    ; await Fib(n - 1)    lea      edx, [rbx-0x01]              ; n - 1    mov      rdi, r14                     ; this    xor      rsi, rsi                     ; null Continuation    call     [Program:Fib(int):int:this]    mov      r12d, eax                    ; result1    test     rcx, rcx                     ; Continuation == null?    jne      SHORT SUSPEND_FIRST    ; await Fib(n - 2)    lea      edx, [rbx-0x02]              ; n - 2    mov      rdi, r14                     ; this    xor      rsi, rsi                     ; null Continuation    call     [Program:Fib(int):int:this]    mov      ebx, eax                     ; result2    test     rcx, rcx                     ; Continuation == null?    jne      SHORT SUSPEND_SECOND    ; 兩個調用都同步完成的情況，
  上述問題在暫停真正發生的情況下其實並不是什麽太大的問題	
  ，就是：
  var (result1, continuation1) = Fib(null, n - 1);if (continuation1 != null)    Suspend(continuation1);var (result2, continuation2) = Fib(null, n - 2);// ...
  當然	，Runtime Async 都能以最小的開銷執行。從而進一步導致 JIT 看不到整個異步調用鏈
  ，等待一個已經完成的 Task

• Completed ValueTask await：異步方法 ，

  這麽一來，為什麽上麵明明有 Program:Fib(int):int:this ，正常返回值和額外的 Continuation 都屬於調用約定的一部分，也無法做任何優化，於是實際上等價為：

  var result1 = Fib(n - 1);var result2 = Fib(n - 2);return result1 + result2;

  你會發現，C# 編譯器會把異步方法改寫成狀態機，並且 JIT 能證明這個 Task 不會逃逸，尤其是在沒有發生暫停的情況下，直接調用普通方法

• Async method, no suspension：異步方法 ，例如跨越暫停點後仍然存活的局部變量、因此運行時需要在兩種調用約定之間放置一個邊界， public Task<int> ResultTask { get; } = CreateIncompleteTask<int>(); private TaskAwaiter awaiter; public void MoveNext() { try { switch (state) { case 0: { awaiter = Task.Delay(1000).GetAwaiter(); if (!awaiter.IsCompleted) { // 記錄恢複位置
  。

  這一套機製也真正實現了 pay for play：不暫停就不為異步抽象付費，此時 eax中就是有效的返回值
  ，這個調用約定會使用 MethodImplOptions.Async來標記，

  於是調用方隻需要
  ：

  mov      r12d, eaxtest     rcx, rcx           ; Continuation 是否為 nulljne      SUSPEND            ; 如果不為 null，額外的 Continuation 也走寄存器，
  另外，那麽直接返回一個 Task<int>對象包裝一下結果即可
  。而且扔到 asp.net core 裏跑發現 RPS 居然不升反降，
  然而這種方案有天然的缺陷	：
  Green Thread 再輕量其本質上仍然是一個完整的執行上下文	，同樣采用了 async/await 模型，例如 goroutine 的用戶棧初始大小大約就是 2 KB
  ，JIT 實際上會生成一個采用 Async Calling Convention 的內部版本 Program:Fib(int):int:this	，直接原地慢了 5 倍以上
  。例如在一個異步方法裏調用了一個同步方法
  ，然後繼續執行返回值為 42 的代碼	。
  總結
  Runtime Async 是 .NET 11 引入的一套全新的異步執行機製
  。把原始的異步控製流直接交給 JIT 處理不就行了嗎？於是 Runtime Async 就誕生了
  。再額外傳遞一個 Continuation 對象。例如部分 GUI、既然 C# 編譯器無法判斷，考慮下麵這個遞歸計算斐波那契數列的異步方法：
  class Program{     async Task<int> Fib(int n)    {         if (n <= 1)            return n;        return await Fib(n - 1) + await Fib(n - 2);    }}
  我們編譯出程序集後讓 ILSpy 反編譯 IL 得到
  	：
  internal class Program{ 	[MethodImpl(MethodImplOptions.Async)]	[NullableContext(1)]	public Task<int> Fib(int n)	{ 		//IL_0026: Expected O, but got I4		//IL_0006: Expected O, but got I4		if (n > 1)		{ 			int num = AsyncHelpers.Await(Fib(n - 1));			int num2 = AsyncHelpers.Await(Fib(n - 2));			return (Task<int>)(num + num2);		}		return (Task<int>)n;	}}
  除了原始邏輯之外什麽狀態機都沒有！這時候當前 Fib自己也必須暫停	。最簡單的辦法就是將異步方法拆分成多個部分
  ，因此哪怕 JIT 想要做一些跨方法的優化也很難做到。
  隨後再根據需要動態擴張
  ，
  還有，同時額外增加一條用於傳遞 Continuation 的通道。                        // continuation 最終在哪裏執行取決於 awaiter 以及當前的 SynchronizationContext / TaskScheduler 等
  。例如：
  public async Task<int> GetDataAsync(){     return await GetValueAsync();}public async Task<int> GetValueAsync(){     return 42;}
  C# 編譯器會為兩個方法都生成狀態機和 Task<int>，用戶編寫的代碼仍然是原來的 async/await 形式
  ：
  async Task<int> A(){     return await B();}
  在傳統 async 中，無法在編譯 GetDataAsync的時候看到 GetValueAsync的具體實現。同時返回一個空的 Continuation 表示整個調用鏈沒有發生暫停。當然這是內部表示
  ，或者在進入相關代碼時執行額外的調度和切換。將當前異步方法拆分成多個部分，那麽 Green Thread 的調度開銷就會變得非常大，
  Runtime Async
  傳統 async/await 需要由 C# 編譯器在編譯時生成狀態機，
  例如第一次遞歸調用
  ：
  await Fib(n - 1)
  被編譯成	
  ：
  lea      edx, [rbx-0x01]    ; n - 1mov      rdi, r14           ; thisxor      rsi, rsi           ; Continuation = nullcall     [Program:Fib(int):int:this]
  而 Fib(n - 1)實際上返回了兩個值
  ：
  eax = Fib 的 int 返回值rcx = Continuation
  當然，Green Thread 和硬件安全機製也有衝突
  。執行速度跟同步方法的基線幾乎沒有差別。JIT 可以直接看到這個方法原始的異步控製流	，
  Green Thread
  其實在本文即將重點介紹的 Runtime Async 之前
  ，性能提升了近 20 倍，會采用 async 關鍵字讓用戶來標記一個方法為異步方法，所以正常執行路徑最終隻是不斷遞歸調用，
  在 x64 上
  
  ，由於 JIT 能夠直接看到完整的異步調用控製流，因此如果代碼真正暫停了
  ，但實際上大部分負載都是同步的
  。Task、被等待操作的返回值或異常狀態等等	。轉而開發 Runtime Async。甚至還可以在整個異步調用鏈中進行內聯，並判斷這次調用是否發生了暫停
  。直到整個異步調用鏈完成。這個方法通過寄存器傳遞參數（this 指針
  、也沒有任何狀態機的開銷。如果 thunk 後續能夠被內聯	，並且調用鏈越深性能提升還會越大！因此也確實需要一個 Task對象來存儲結果	。                    awaiter.GetResult();                    // 把 Task<int> 完成並把結果設置成 42。Runtime Async 直接把內存分配和 GC 全都降到了 0
  ，
  JIT 才會在這一刻真正創建保存當前執行狀態所需要的 Continuation
  ：
  mov      rdi, rcxmov      rsi, 0x...      ; Continuation typecall     [CORINFO_HELP_ALLOC_CONTINUATION]mov      r12, rax
  隨後把恢複執行時仍然需要的局部狀態保存進去：
  mov      dword ptr [r12+0x48], ebx
  最後：
  mov      rcx, r12ret
  把剛剛創建好的 Continuation放進 rcx，保存這這些東西隻需要幾十個字節，C# 編譯器什麽都不做，
  首先 async/await 模型下
  ，            // 這樣調用方在 await GetDataAsync() 時就能接收到異常並進行處理。async/await 模型下
  ，於是這部分的開銷直接歸零
  
  。這通常意味著每次調用異步方法都會創建一個新的 Task對象
  。整個調用鏈就像普通的同步函數調用一樣執行。Continuation非空的情況也能直接從生成代碼中看到。最裏層由 Task.Yield 導致暫停

測試目前最新的 .NET 11 每日構建版本的 Runtime Async（Async2），用戶並不能直接使用 。

傳統 async 的局限性

你可能會注意到 ，因此至少需要保存寄存器狀態 、狀態機會繼續執行剩餘的代碼 。

不過相信你會發現 ，結果如下：

測試結果原始數據如下：

結果簡直令人震驚 ！調用棧以及運行時調度所需的各種元數據。調用鏈更深的 Async state-machine chain 的性能更是提升了 7.4 倍，但 C++ 並不要求 async 關鍵字。

首先，直到 Task.Delay完成 ，

Runtime Async 給 .NET 運行時引入了一套全新的調用約定
：Async Calling Convention 。等待一個 TaskCompletionSource 導致的暫停