Edge のデフォルトの動作では、HTTP リクエスト / レスポンスのペイロードは、API プロキシ内の各ポリシーによって処理される前に、いったんメモリ内バッファに保存されます。
ストリーミングを有効にすると、リクエストとレスポンスのペイロードは無変更のままクライアント アプリ(レスポンスの場合)やターゲット エンドポイント(リクエストの場合)にストリーミングされます。アプリケーションで大きなペイロードをやり取りする場合や、長時間にわたってチャンク形式でデータを返すアプリケーションがある場合には、ストリーミング機能が特に便利です。
アンチパターン
ストリーミングを有効にした状態でリクエスト / レスポンス ペイロードにアクセスすると、Edge がデフォルトのバッファリング モードに戻ります。
上の図では、リクエスト ペイロードから変数を抽出し、JSONToXML ポリシーを使って JSON レスポンス ペイロードを XML に変換しようとしています。この結果、Edge のストリーミングが無効になります。
影響
- ストリーミングが無効になると、データ処理のレイテンシが増大する可能性があります。
- Message Processor でヒープメモリの使用率が上昇するか、OutOfMemory エラーが発生する可能性があります。この原因はメモリ内バッファの使用であり、特にリクエスト / レスポンス ペイロードが大きな場合は、このような状況に陥りやすくなります。
ベスト プラクティス
- ストリーミングを有効にしている場合は、リクエスト / レスポンス ペイロードにアクセスしないでください。