MicrosoftはNginxを置き換え、スループットを80%向上させました。

MicrosoftはNginxを置き換え、スループットを80%向上させました。

Azure App ServiceはNginxをYARPに置き換え、スループットの80%以上を達成しました。1日あたり160B以上のリクエストを処理します1.9m RPS。これはマイクロソフトの驚くべき技術革新です。

最后更新 2024/01/14 6:19
tokengo
预计阅读 5 分钟
分类
.NET
标签
.NET C# 技術アップデートのお知らせ

大佬消息截图

Azure App ServiceはNginxをYARPに置き換え、スループットの80%以上を達成しました。1日あたり160B以上のリクエストを処理します1.9m RPS。これはマイクロソフトの驚くべき技術革新です。

まず、Yarpとは何かを説明しましょう。

Yarpとは？

YARP（Yet Another Reverse Proxy）は、マイクロソフトが開発したオープンソースの高性能リバースプロキシライブラリであり、C#言語で書かれている。. NETプラットフォーム上でリバースプロキシサーバを構築するための基盤となるように設計されている。YARPは主に. NET 5以降を対象としており、開発者は. NETアプリケーションにリバースプロキシ機能を簡単に実装できます。

YARPの主な特徴と機能：

  1. ** モジュール性と拡張性：** YARPは高度にモジュール化されているため、HTTPリクエストルーティング、ロードバランシング、ヘルスチェックなどの内部コンポーネントを必要に応じて置き換えたり拡張したりできます。
  2. ** パフォーマンス：** YARPは高性能に最適化されており、. NETの非同期プログラミングモデルと効率的なIO 操作を活用して多数の同時接続を処理します。
  3. ** 構成駆動：** YARPの動作は構成によって制御でき、ファイル、データベース、またはその他のソースから構成を動的にロードすることができます。
  4. ** ルーティング：** リクエストのルーティングルールは、パス、ヘッダ、クエリパラメータなどの様々なパラメータに基づいて構成できます。
  5. ** ロードバランシング：** ポーリング、最小接続、ランダム選択など、複数のロードバランシングポリシーが組み込まれており、ロードバランシングポリシーをカスタマイズすることができます。
  6. ** ヘルスチェック：** バックエンドサービスのヘルスチェックをサポートし、リクエストが健全なバックエンドサービスインスタンスにのみ転送されることを確認します。
  7. ** コンバータ：** ヘッダー、パス、クエリパラメータの変更など、リクエストとレスポンスの変換を可能にします。
  8. ** セッション·アフィニティ ** セッション·アフィニティSession Affinityをサポートし、同じクライアントからのリクエストが同じバックエンド·サービス·インスタンスに送信されることを保証します。

YARPを使用するいくつかの例：

  • リバースプロキシ：リクエスト転送とロードバランシングのために、クライアントとバックエンドサービスの間に中間層を提供します。
  • APIゲートウェイ： マイクロサービスアーキテクチャ内のAPIゲートウェイとして、ルーティング、認証、監視などの機能を提供します。
  • ** エッジサービス：** アプリケーションと外部世界の間にセキュリティレイヤーを提供し、SSL終了、リクエスト制限などのタスクを処理します。

Yarpの使い方は簡単。

WebAPIプロジェクトを作成する

安装NuGet包

<ItemGroup>
 <PackageReference Include="Yarp.ReverseProxy" Version="2.0.0" />
</ItemGroup>

打开appsettings.json

{
  "Logging": {
    "LogLevel": {
      "Default": "Information",
      "Microsoft": "Warning",
      "Microsoft.Hosting.Lifetime": "Information"
    }
  },
  "AllowedHosts": "*",
  "ReverseProxy": {
    "Routes": {
      "route1": {
        "ClusterId": "cluster1",
        "Match": {
          "Path": "{**catch-all}"
        }
      }
    },
    "Clusters": {
      "cluster1": {
        "Destinations": {
          "destination1": {
            "Address": "https://cn.bing.com/"
          }
        }
      }
    }
  }
}

打开Program.cs

var builder = WebApplication.CreateBuilder(args);
builder.Services.AddReverseProxy()
    .LoadFromConfig(builder.Configuration.GetSection("ReverseProxy"));
var app = builder.Build();
app.MapReverseProxy();
app.Run();

然后启动项目，访问我们的 api 就会被代理转发到bing上

成功代理到必应

Yarpツールの使用

以下は、ミドルウェアでyarpを使用する方法です。

我们需要用到IHttpForwarder

先修改Program.cs 在这里我们注入了HttpForwarder，然后提供一个 Run 中间件，在中间件中手动指定了端点的地址https://cn.bing.com/ 然后我们启动一下项目。

using Yarp.ReverseProxy.Forwarder;

var builder = WebApplication.CreateBuilder(args);
builder.Services.AddHttpForwarder(); // 注入IHttpForwarder
var app = builder.Build();

var httpMessage = new HttpMessageInvoker(new HttpClientHandler());

app.Run((async context =>
{
    var httpForwarder = context.RequestServices.GetRequiredService<IHttpForwarder>();
    var destinationPrefix = "https://cn.bing.com/";

    await httpForwarder.SendAsync(context, destinationPrefix, httpMessage);
}));

app.Run();

同じことがプロキシに渡されますが、単純な使用とは異なり、コードレベルでプロキシを制御します。

代码控制反代效果一样

Yarpを使用してBingの応答を変更する

上記のプロキシの使用に基づいてBingの対応する内容を変更し続けます。

打开Program.cs

var builder = WebApplication.CreateBuilder(args);
builder.Services.AddHttpForwarder(); // 注入IHttpForwarder
var app = builder.Build();

var httpMessage = new HttpMessageInvoker(new HttpClientHandler()
{
    // 忽略https错误
    ServerCertificateCustomValidationCallback = (_, _, _, _) => true,
    AllowAutoRedirect = false,
    AutomaticDecompression = DecompressionMethods.GZip,
    UseCookies = false,
    UseProxy = false,
    UseDefaultCredentials = true,
});
var destinationPrefix = "https://cn.bing.com/";

var bingTransformer = new BingTransformer();

app.Run((async context =>
{
    var httpForwarder = context.RequestServices.GetRequiredService<IHttpForwarder>();
    await httpForwarder.SendAsync(context, destinationPrefix, httpMessage, new ForwarderRequestConfig(),
        bingTransformer);
}));

app.Run();

创建BingTransformer.cs

public class BingTransformer : HttpTransformer
{
    public override async ValueTask TransformRequestAsync(HttpContext httpContext, HttpRequestMessage proxyRequest,
        string destinationPrefix,
        CancellationToken cancellationToken)
    {
        var uri = RequestUtilities.MakeDestinationAddress(destinationPrefix, httpContext.Request.Path,
            httpContext.Request.QueryString);
        proxyRequest.RequestUri = uri;
        proxyRequest.Headers.Host = uri.Host;
        await base.TransformRequestAsync(httpContext, proxyRequest, destinationPrefix, cancellationToken);
    }

    public override async ValueTask<bool> TransformResponseAsync(HttpContext httpContext,
        HttpResponseMessage? proxyResponse,
        CancellationToken cancellationToken)
    {
        await base.TransformResponseAsync(httpContext, proxyResponse, cancellationToken);

        if (httpContext.Request.Method == "GET" &&
            httpContext.Response.Headers["Content-Type"].Any(x => x.StartsWith("text/html")))
        {
            var encoding = proxyResponse.Content.Headers.FirstOrDefault(x => x.Key == "Content-Encoding").Value;
            if (encoding?.FirstOrDefault() == "gzip")
            {
                var content = proxyResponse?.Content.ReadAsByteArrayAsync(cancellationToken).Result;
                if (content != null)
                {
                    var result = Encoding.UTF8.GetString(GZipDecompressByte(content));
                    result = result.Replace("国内版", "Token Bing 搜索 - 国内版");
                    proxyResponse.Content = new StringContent(GZipDecompressString(result));
                }
            }
            else if (encoding.FirstOrDefault() == "br")
            {
                var content = proxyResponse?.Content.ReadAsByteArrayAsync(cancellationToken).Result;
                if (content != null)
                {
                    var result = Encoding.UTF8.GetString(BrDecompress(content));
                    result = result.Replace("国内版", "Token Bing 搜索 - 国内版");
                    proxyResponse.Content = new ByteArrayContent(BrCompress(result));
                }
            }
            else
            {
                var content = proxyResponse?.Content.ReadAsStringAsync(cancellationToken).Result;
                if (content != null)
                {
                    content = content.Replace("国内版", "Token Bing 搜索 - 国内版");
                    proxyResponse.Content = new StringContent(content);
                }
            }
        }

        return true;
    }

    /// <summary>
    /// 解压GZip
    /// </summary>
    /// <param name="bytes"></param>
    /// <returns></returns>
    public static byte[] GZipDecompressByte(byte[] bytes)
    {
        using var targetStream = new MemoryStream();
        using var compressStream = new MemoryStream(bytes);
        using var zipStream = new GZipStream(compressStream, CompressionMode.Decompress);
        using (var decompressionStream = new GZipStream(compressStream, CompressionMode.Decompress))
        {
            decompressionStream.CopyTo(targetStream);
        }

        return targetStream.ToArray();
    }

    /// <summary>
    /// 解压GZip
    /// </summary>
    /// <param name="str"></param>
    /// <returns></returns>
    public static string GZipDecompressString(string str)
    {
        using var compressStream = new MemoryStream(Encoding.UTF8.GetBytes(str));
        using var zipStream = new GZipStream(compressStream, CompressionMode.Decompress);
        using var resultStream = new StreamReader(new MemoryStream(compressStream.ToArray()));
        return resultStream.ReadToEnd();
    }

    /// <summary>
    /// Br压缩
    /// </summary>
    /// <param name="input"></param>
    /// <returns></returns>
    public static byte[] BrCompress(string str)
    {
        using var outputStream = new MemoryStream();
        using (var compressionStream = new BrotliStream(outputStream, CompressionMode.Compress))
        {
            compressionStream.Write(Encoding.UTF8.GetBytes(str));
        }

        return outputStream.ToArray();
    }

    /// <summary>
    /// Br解压
    /// </summary>
    /// <param name="input"></param>
    /// <returns></returns>
    public static byte[] BrDecompress(byte[] input)
    {
        using (var inputStream = new MemoryStream(input))
        using (var outputStream = new MemoryStream())
        using (var decompressionStream = new BrotliStream(inputStream, CompressionMode.Decompress))
        {
            decompressionStream.CopyTo(outputStream);
            return outputStream.ToArray();
        }
    }
}

得到的效果我们将国内版修改成了Token Bing 搜索 - 国内版

修改响应内容结果

Yarpの関連情報

技術交流グループ：73777659 5

公式ドキュメントhttps//microsoft.github.io/reverse-proxy/articles/getting-started.html

トークンを共有します。

Keep Exploring

延伸阅读

更多文章
同分类 / 同标签 2026/04/22

バージョン別の. NETサポート状況（250 7 0 7更新）

仮想マシンとテストマシンを使用して、各バージョンのオペレーティングシステムの. NETサポートをテストします。オペレーティングシステムのインストール後、対応するランタイムを測定し、スターダストエージェントをパスとして実行できます。

继续阅读
同分类 / 同标签 2026/02/07

AOTの使用経験

プロジェクトの最初から、新しい機能が追加されたり、新しい構文が使用されたりするたびに、AOTリリーステストを行うという良い習慣を身につける必要があります。

继续阅读
友情链接
リンドヒ YouZack WTM NuGet Next 氷のないコーラ GARFYのブログ Furion 勤勉でない。 残留に執着する。 52ABP Dotnetフルスタック開発 プログラミング研究室。 江沢民の人物 King-AbpVnext-Pro