バッチ処理を採用する際に考慮したことと実装の諸々

バッチ処理を採用する際に考慮したことと実装の諸々

2022-10-302 min read

目次

  1. はじめに
  2. バッチ処理を採用すべきか
  3. バッチ処理をどのように設計実装したか
  4. 参考にしたサイト

はじめに

バッチ処理を採用・実装する上で考えた事を思考の整理のため、つらつらと書き出しました。

バッチ処理を採用すべきか

バッチ処理を採用するかどうかの観点は、機能要件と非機能要件の2つの観点で考えました。 機能要件の場合、連携するサービスが特定の時間のみ稼働するなどの制約があるケースです。 非機能要件の場合は、処理がオンライン処理では収まりきらない程の時間がかかるケース(ファイル作成・大量データの集計)です。

なので基本的にはオンライン処理もしくはオンラインの非同期処理(イベントソーシング等)を採用して、 これを満たせないケースにバッチ処理を採用しました。

バッチ処理をどのように設計・実装したか

何を考慮するか

まず初めに以下の点を考慮すべき点として考えました。

  • 件数
    • 参照するレコード・データの量
  • 時間
    • 処理に必要な時間
    • 開始・終了時間の限度が存在するか
  • 回復
    • 再実行可能か
    • 再実行した結果、二重で処理されない
    • 失敗したデータの追跡や再処理が可能か
  • ステータス
    • バッチの開始・進行中・終了のステータスが確認できる
    • 処理の結果が正常か異常かを判断できる
  • その他非機能...

これらに対して以下のような設計・実装方法の検討を行いました。

管理単位

  • 名前で管理
  • IDで管理

トリガー

  • トリガーの決定
    • 定期実行かイベント駆動か
  • 入力値
    • 引数

エラーハンドリング

  • エラーハンドリングの方式検討
    • 1件でもエラーがあれば処理失敗
    • エラーがあれば該当レコードをスキップ

バックアップ

  • バックアップ方式の決定

リトライ

  • 冪等性の担保
  • 外部連携サービスの考慮

ロールバック

  • 同期
  • 非同期

直列・並列処理

  • 直列実行
  • 並列実行
    • マルチスレッド
    • JOBを実行するサーバのスケールアウト

ジョブ管理

  • ジョブ管理方法の定義
    • Cronの利用 or ジョブ管理ソフト・サービスの導入
  • 二重実行可能かどうか
    • 二重実行不可能な場合の制御方法

ログ

  • 計画的にログを吐くよう定義
  • 個人情報やメールアドレスなどのセキュリティの担保
    • 出力しない
    • マスク処理をする
  • 出力場所を定義する
  • ログレベルを定義する
  • フォーマットを定義する
    • 開始・終了時間
    • 処理機能・処理対象・対象件数...
    • 処理結果
  • 保存期間
  • ログローテーションの方式

監視

  • 実行結果(正常|終了)が確認できる
  • ステータスに基づいて通知する

通知

  • 確実に通知できる
  • 実行内容の詳細を確認できる

削除

  • 実行後の一時作業ディレクトリ削除
  • 古いログの削除
  • 古いバックアップの削除

参考にしたサイト

Tags
javascript(103)
linux(54)
amazon%20aws(47)
node.js(43)
%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0(36)
typescript(33)
%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86(30)
html5(29)
php(24)
centos(24)
python(22)
%E7%AB%B6%E6%8A%80%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9F%E3%83%B3%E3%82%B0(21)
mac(21)
mysql(19)
canvas(18)
opencv(17)
%E9%9B%91%E8%AB%87(16)
docker(16)
wordpress(15)
atcoder(14)
apache(12)
%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92(12)
%E3%83%87%E3%83%BC%E3%82%BF%E3%83%99%E3%83%BC%E3%82%B9(12)
amazon%20s3(12)
red%20hat(12)
ubuntu(11)
github(10)
git(10)
vue.js(10)
%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86100%E6%9C%AC%E3%83%8E%E3%83%83%E3%82%AF(10)
mariadb(10)
aws%20cdk(9)
css3(8)
%E5%8F%AF%E8%A6%96%E5%8C%96(8)
%E5%B0%8F%E3%83%8D%E3%82%BF(8)
amazon%20lightsail(7)
react(7)
%E3%83%96%E3%83%AD%E3%82%B0(6)
cms(6)
oracle(6)
perl(6)
gitlab(6)
next.js(6)
prisma(6)
iam(5)
amazon%20ec2(5)
%E8%B3%87%E6%A0%BC%E8%A9%A6%E9%A8%93(5)
aws%20amplify(5)
nestjs(5)
curl(4)
Author
githubzennqiita
ただの備忘録です。※このブログの内容は個人の見解であり、所属する組織等の見解ではないです。