DWHの案件一覧

【概要】
・通信会社内コンシューマ営業情報を、チームでTableau構築/運営を行う
・適正に応じて以下どちらかのポジションを担当

設計者】
・要件定義/設計
・投入データの設計/tableauでの可視化
・PMOとの相対、作業者との相対

【作業者】
・Snowflake/tableauでの加工編集、マート作成、ダッシュボード作成

Google Cloud / AWSを利用した商用稼働サービスのデータパイプラインの開発・保守運用
データ分析システム・サービスの監視設計・運用
日々の運用業務から発生する課題の解決・改善

技術要素(★が特に重要)
GoogleCloud
★Cloud Composer2（及びAirflow2）
★Cloud Dataproc（Apache Spark(scala)）
Cloud Build
Cloud Storage
BigQuery
Cloud Monitoring / Cloud Logging
AWS
★Kinesis firehose
★SQS / SNS
★ECS
★Lambda
ECR
S3
Cloud Watch
その他
GithubActions
Terraform

■背景
・募集部署はデータ基盤&AI・BI&運用を一気通貫で担っており、
　現在プリセールス中である。(DWH)
・ただ受注となった場合、プロパーを含めてリソース不足が目下課題となっている。
■クライアント支援範囲(該当部署)
・データ基盤構築、機械学習システム構築/精度向上、時系列データ予測/異常検知、自然言語(テキスト)解析、画像認識
■エンドクライアント
・建築・製造・医療など様々
■想定業務
・データ基盤を構築するプロジェクトを想定。
　蓄積したデータをBIやAIで活用するためのプラットフォームの設計・構築が主業務となる。
　要求開発フェーズからご参画いただくことを想定。
※下記スキルによって相談
・顧客案件におけるデータ基盤構築支援（要件定義・設計・構築・テスト・マニュアル作成など）
・要件定義 /基本設計/詳細設計
・ETLジョブ開発
・DWH構築
・ドキュメント作成

・官公庁向けのデータ分析基盤において、データレイク、データパイプライン、DWHの設計業務をご担当いただきます。
今回は3名の募集ですが、2名は設計業務、1名は運用設計をお任せいたします。
BIツールにはTableauを使用する予定でございます。
設計フェーズは現状3月までですが、
案件状況により構築フェーズも引き続きご担当いただきます。

【システム概要】
複数のビジネスチーム向けに必要なデータセットの要件を整理し、
Databricks上で分析用データセットを効率的に作成するETL、
ワークフローを開発します。

【業務内容】
各チームから挙げられる要件の整理や、ベストプラクティスを調査し、
購買情報、各種施策、会員情報やアクセスログなどを元に、効率的な
データセットを作成するためのETL、パイプラインの作成を行います。
データ分析基盤チームに参画しており、必要に応じてノウハウなどを
共有しながら作業を進めて頂きます。

【担当領域】
要件定義～実装

【開発方式】
お客様と都度調整しながら進めるアジャイル開発となります。

【システム構成】
サービス：AWS、Databricks、Redshift
利用ツール：Slack、Backlog、Git (GitHub)

内容：
物流マッチングプラットフォームを展開する企業にて、データエンジニアとしてご参画頂きます。
主に各事業のデータ分析基盤（DWHとデータパープライン）の設計・構築・運⽤を⾏っていただきます。
＜具体的な業務内容＞
既存のDWH（BigQuery）とデータパイプラインの拡充

• 利用可能なデータの拡充
• データのリアルタイム性の向上
  将来のデータ基盤戦略の策定とその推進
• 新たなDWHとデータパイプライン（ELT）の設計・構築・運用
  データ分析によるビジネス課題の発見の推進
• データによる課題の可視化
• BIなどを通したモニタリング環境の構築
  技術環境：
  ・言語：Ruby、Python
  ・バージョン管理：Git/GitHub
  ・データ基盤：BigQuery、AWS RDS
  ・BI： Redash、Google Spread Sheet、Google Data Studio
  ・コミュニケーション：Slack、Notion

■クライアント支援範囲
・データ基盤構築、機械学習システム構築/精度向上、時系列データ予測/異常検知、自然言語(テキスト)解析、画像認識
■概要
＜1月～3月にて、データ基盤構築（Power BIとTableau込み）の上流工程（基本設計）を予定＞
本プロジェクトは、現行のAWS（プロトタイプ環境）からAzureへの移行および拡張となります。
・Azure Synapse Analyticsへ外部データやユーザーが保有するデータを投入し、Power BIとTableauで分析。
TableauはTableau ServerからTableau Cloudへの移行を伴い、外部データの取り込みには、Synapse Analytics のパイプラインや、Azure FunctionsやAzure Logic Appsを利用。
■想定業務
※TableauとPower BIを中心としたDWH技術者
・ドキュメント作成(基本設計書/移行計画書)
・Tableau ServerからTableau Cloudへの移行設計
・DWH（SynapseやSnowflakeやRedshiftなど）のデータアーキ

▼関連ソリューション
・Azure Synapse Analytics
・Azure Functions
・Azure Logic Apps
・Tableau Cloud（またはTableau Server）
・Power BI Service
■体制
体制：
AIチームは全部で15名程度
6名~7名→AIエンジニア　　6~7名→BI・データ基盤
1クライアントに対して4~5名で体制を組んでいる
■環境
クライアント内ではデータ基盤設計~BI・内製化/運用支援まで行っている
データ基盤：Azure
(クライアント内で基盤設計・構築)
BI：PowerBI
(クライアント内でレポート作成・運用)

日系大手SIerにて、データプラットフォームのコンセプト設計を実施予定です。
プロマネの指示により、調査や分析、資料作成等をしていただきます。

※調査にはヒアリング調査（大部分は日本語、一部英語が入る予定）ですが、英語については他のプロジェクトメンバーにて対応可能なため、必須要件ではありません。

メンバー体制
・統括責任者1名
・プロジェクトマネージャー1名
・募集ポジション1名

■期間
2023年12月4日（月）～2024年2月13日（金）
※調整中のため変更の可能性あり
※2023年12月25日（月）～2024年1月8日（月）は非稼働
※継続可能性あり

某ユニコーン企業にてデータアーキテクトとして業務をお願いいたします。

【業務スコープ】
大きく下記2つのタスクをご依頼する予定です。
比重は新機能開発案件6割：データ基盤タスク4割
※100％稼働率の場合

・新機能開発に伴うデータアーキテクトタスク
　-ログ設計
　-データマート作成
　-LookML作業

・データ基盤タスク
　-ETL運用保守及び新規開発
　
【参考使用ツール】
BigQuery、Looker、Dataform、CloudCompaser

事業横断のデータ基盤（DWHとデータパイプライン）の設計・構築・運用
既存DWH（BigQuery）とデータパイプラインの拡充
将来のデータ基盤戦略の策定と推進
データ分析によるビジネス課題の発見と推進
・受注背景：既存事業の運用基盤を引き継ぎ、信頼性・利便性向上にコミットするため