非同期処理(キュー・ジョブ)— 重い仕事は後回しにする

中級の解説は準備中のため、中級の内容を表示しています。

概要 — まず全体をつかむ

初級では非同期処理を「番号札」と捉えました。中級では、メッセージング(producer/broker/consumer)と配信保証を見ます。

詳細 — 1段階ずつ追う

これは何をする係?

非同期は「送る側・仲介・受ける側」の3者で成り立ちます。

  • プロデューサ — 仕事(メッセージ)を積む側
  • ブローカー — キューを預かる仲介(RabbitMQ・SQS・Kafka など)
  • コンシューマ(ワーカー) — 取り出して処理する側

登場人物メモ:

  • ※1 ack(確認応答) — 「処理し終えた」をブローカーに返す。ackするまで消えない
  • ※2 冪等性 — 同じメッセージを複数回処理しても結果が同じ

仕事の流れ

  1. プロデューサがメッセージを enqueue(積む)
  2. ブローカーがキューで保持
  3. ワーカーが dequeue して処理
  4. 成功したら ack。失敗なら再配信(リトライ)
  5. 何度も失敗するものは デッドレターキュー へ退避
アニメーション『メッセージキュー』を開く
メッセージキュー📤 送り手プロデューサ積むだけで即解放enqueue(積む)キュー(順に並ぶ箱の列)古い ←→ 新しいdequeue🛠 ワーカー1自分のペースで取り出す🛠 ワーカー2自分のペースで取り出す🛠 ワーカー3自分のペースで取り出す何度も失敗したものだけ⚠️ デッドレターキュー(DLQ)あとで調べるため退避(詰まりを防ぐ)送り手と受け手を切り離し、混んでも取りこぼさない

1件の仕事が「投入 → 取り出し → 実行 → 完了通知(ack)」をたどる流れは、次のアニメで1手ずつ追えます。

アニメーション『非同期処理(キュー→ワーカー)』を開く
プロデューサキューワーカー
  • プロデューサ仕事(メッセージ)を積む側。積んだら即解放され、処理の完了は待たない
  • キュー仕事を順に預かる箱の列。ackされるまでメッセージを消さずに保持する
  • ワーカー取り出して実処理する側。自分のペースで進め、混雑時は台数を増やせる
送る側と受ける側を切り離すのが要点です。仕事が混んできたらワーカーを増やせば、同じキューから並列で捌けます。「▶ 再生」か「次へ」でどうぞ。
0 / 4

設計の勘所

  • 配信保証 — at-least-once(重複しうる)/at-most-once(取りこぼしうる)。多くはat-least-once+冪等
  • 順序 — 厳密な順序保証はコストが高い。必要な範囲だけに絞る
  • スケール — ワーカーを増やして並列処理(水平スケール)
  • 優先度・遅延 — 緊急ジョブを先に、指定時刻に実行、なども
  • 可視性タイムアウト(visibility timeout) — 取り出したメッセージは一時的に他ワーカーから隠れ、ack前に時間切れになると再出現する(重複配信の実際の発生源)

⚠️ うまくいかないとき

  • 重複配信 — at-least-onceゆえ。冪等にして二重実行を無害化する
  • 順序の乱れ — 並列処理で前後する
  • バックプレッシャ(詰まり) — 積む速度>処理速度で溜まり続ける
  • ポイズンメッセージ — 壊れたジョブが無限リトライ。DLQで隔離する

理解度チェック

そのまま解けます(成績は保存されません)。無料アカウントを作ると、学習の記録と進捗の山登りが始まります。

1. 「メッセージは最低1回は届く(重複はありうる)」という配信保証はどれ?

2. 「処理し終えた」をブローカーに返す確認応答を、英字3文字で答えてください。

3. プロデューサがメッセージをキューに積む操作を、英語1語で何と言いますか。

4. 何度リトライしても失敗し続けるジョブを、隔離して溜めておく先を何と呼ぶ?

5. 取り出したメッセージが一時的に他ワーカーから隠れ、ack前に時間切れになると再び現れる仕組みは?

6. メッセージを積む速度が処理する速度を上回り、キューに溜まり続ける状態を何と呼ぶ?

7. at-least-onceによる重複配信に備えて、コンシューマ側に持たせるべき性質はどれ?

8. プロデューサ・ブローカー・コンシューマの役割分担として正しいのは?