データ連携・移行設計・パッケージ導入 重要度:★★★出題: AM2・PM1・PM2
ETL / ELT パイプライン設計
いーてぃーえるぱいぷらいんせっけい / ETL / ELT Data Pipeline
複数の業務システムからデータを抽出(Extract)し、コード変換・名寄せ・正規化などの加工(Transform)を行って、DWHや統合DBへ格納(Load)するデータ連携方式。
3行速習ポイント
- 複数の業務システムからデータを抽出(Extract)し、コード変換・名寄せ・正規化などの加工(Transform)を行って、DWHや統合DBへ格納(Load)するデータ連携方式。
- ステージング領域での変換エラー隔離、再実行時の洗い替え(Truncate & Insert)または差分更新(Upsert)、処理件数ログの記録を標準化します。
- 試験対策:午後I・午後IIのデータ分析基盤構築や複数システム統合において、各システムの独自フォーマットを標準データモデルへ揃える中...
図解
図ETL / ELT パイプライン設計 の設計・評価構造
Step 1
Extract(抽出)・Transform(変換)・Load(格納)
業務要件・システム制約の整理と構造化
↕
Step 2
コード体系の統一・フォーマット変換
ステージング領域での変換エラー隔離、再実行時の洗い替え(Truncate & Insert
↕
Step 3
差分抽出(増分ロード)
グループ5社の販売システムから日次ETLでコード変換・名寄せを行って統合DWHへ格納し、全
概要と本質
複数の業務システムからデータを抽出(Extract)し、コード変換・名寄せ・正規化などの加工(Transform)を行って、DWHや統合DBへ格納(Load)するデータ連携方式。ステージング領域での変換エラー隔離、再実行時の洗い替え(Truncate & Insert)または差分更新(Upsert)、処理件数ログの記録を標準化します。
重要ポイント・コア概念
- Extract(抽出)・Transform(変換)・Load(格納)とコード体系の統一・フォーマット変換の正確な定義と適用場面の理解
- 差分抽出(増分ロード)およびエラーレコードの隔離と再処理を踏まえたシステム方式・機能仕様の設計
- 定量的効果:グループ5社の販売システムから日次ETLでコード変換・名寄せを行って統合DWHへ格納し、全社経営ダッシュボードの集計リードタイムを5日から翌朝8時へ短縮
午後I記述・午後II小論文試験での攻略ポイント
午後I・午後IIのデータ分析基盤構築や複数システム統合において、各システムの独自フォーマットを標準データモデルへ揃える中核機構です。
小論文で使える実践フレーズ・キーワード(クリックでコピー)
この用語が出題された過去問を解く(1分演習)
即時アウトプットで定着システムアーキテクト 過去問演習で実践力を鍛える