分析基盤エンジニアの案件一覧

【業務内容】
大手広告代理店が展開しているインターネット広告代理店業における、膨大な広告データを収集・蓄積したデータレイクからデータを展開するためのデータ基盤（ETL処理、DWH、DM）の開発、運用、保守をお願いします。

【ポイント】

• データレイクが取り扱うデータ量は数十TB/月を誇り、毎日数10億単位のレコードを蓄積しているため、そんな大規模データと向き合った開発にチャレンジすることができます。
• 複数のプロダクトを管理しているチームのため、様々な技術を習得することができます。

【開発チームと配属先について】
当事業部には現状で約60名のエンジニアが在籍しており、複数のチームに分かれて開発を進めています。
今回お願いしたいポジションはサーバサイドエンジニアです。

チームには現在18名のエンジニアが在籍しています。
また、複数のプロダクトを管理しているチームのため、担当領域ごとにグループ分けをしています。

• Infeed領域の広告運用のためのプロダクトを開発するグループ
• インターネット広告関連データをデータレイクに蓄積するシステムを開発するグループ
• インターネット広告関連データが蓄積されたデータレイクを用いたデータ基盤を開発するグループ
• 機械学習を用いたプロダクトを開発するグループ
• 掲載情報や実績情報を出力・レポーティングするための分析用プロダクトを開発するグループ

【技術キーワード】

• ApacheSpark
• AWS Glue
• Snowflake
• データレイク/データウェアハウス/データマート

データ分析基盤の開発・構築を行なっていただきます。

データパイプラインの構築エンジニア
主業務：要件に合わせルールに則ったデータモデリングを行い、各基盤のツール群を使ってデータ加工するパイプラインバッチの構築を担当いただきます。

技術要素(★が特に重要)
GoogleCloud
★Cloud Composer2（及びAirflow2）
★Cloud Dataproc（Apache Spark(scala)）
Cloud Build
Cloud Storage
BigQuery
Cloud Monitoring / Cloud Logging
AWS
★Kinesis firehose
★SQS / SNS
★ECS
★Lambda
ECR
S3
Cloud Watch
その他
GithubActions
Terraform

旧環境システムにおけるETL処理の作成、バッチ、ストアド対応
●工程：改修～テスト

●案件：管理システム追加開発
●内容：
・管理システムのクラウド化に伴いオンプレ環境からクラウド環境にシフトします。
管理パッケージはOracle EMP Cloudです。
●工程：基本設計～総合テスト
●場所：フルリモート ※打合せで目黒駅にご出社頂く場合がございます。

データを用いた意思決定や課題解決に活用するため、各事業・プロダクト・サービスの全てのデータを一元的に収集・保存・管理するデータ基盤の構築を担うポジションです。

データ基盤の開発・改修・保守運用
・データ基盤の物理・論理データモデル設計・開発・保守運用
・データ基盤のシステムアーキテクチャの設計
・データパイプライン (ETL) の設計・開発・保守運用

[開発環境]
インフラ：GCP (データ基盤) / AWS (関連システム)
データパイプライン (ETL)：CloudComposer (Airflow)
DWH：BigQuery
その他インフラ管理：Docker、GKE / GAE / CloudRun
可視化ツール：Google Data Portal / Tableau
分析環境：Jupyter Notebook / Google Colab / Google Cloud ML
その他：GitHub / Slack / Notion

[チーム体制（業務委託の方含む）]
・統括ディレクター: 1名
・データエンジニア: 1名
・機械学習エンジニア: 1名 (兼務)
・データサイエンティスト: 3名
・技術顧問: 1名

某ベンチャー企業にて、在庫最適化システムを支えるデータ基盤の構築を行っていただきます。
自社サービスSaasの新バージョンをこの春リリースし、 エンタープライズとの契約が急激に増えている中で、 非常に多くの機能改善要望や機能追加要望が出てきています。
顧客からの数億レコードにもなる大量データの加工をSQLやPythonを用いて作成し、集計後、データストアに投入する機構の構築に携わっていただきます。
社員エンジニアとスクラムチームを形成し、スクラムイベントを通じて、 開発メンバー全員でスプリントを消化していく体制になります。

業務内容
顧客の持つ様々なビッグデータをクラウド環境で統合し、その分析/活用が出来る基盤の構築/運用します。

・新規データ取得のETL及びデータウェアハウスの実装
・データ基盤の運用及び保守開発
・データの可視化
・定例MTG対応
・仕様書等ドキュメント作成（一部）

技術環境
O S 　　 ：Linux, Windows
言 語 　　 ：Python, SQL
D B　　　 ：Redshift, Aurora(PostgreSQL互換)
Cloud　　 ：AWS（ECS, S3, StepFunctions, Lambda, Redshift, Aurora等）
DWH　　 ：BigQuery, TreasureData等
機械学習系：Kedro, MLflow
C I　　　 ：CircleCI
監視系　　：Sentry
その他　　： GitHub, Slack, CircleCI

【案件概要】

• データ分析基盤に関する業務支援。
  現状「販売に関わるシステム」「自社ブランドクレジットカードに関わるシステム」などが分散稼働しているが、これらの統合化が進められている。
  これら統合化作業の推進を行う人材が必要とされている。
• クライアント側プロパーメンバーには若手層も多いため、一緒にプロジェクトを進めながらの指導・育成的な面も期待されている。
• 販売・クレジットカード以外にもグループ内には機能子会社が存在する。それらの子会社(兄弟会社)に対する諸々の推進活動も期待されている。

【システム環境に関わる情報】

• GCP (BigQuery 他) ----> バックエンドシステムはGCPが主
• MA：SalesForce Marketing cloud
• DWH：Exadata
• AWS ----> EC等のフロントシステムはAWSが主
• Tableau (DeskTop & Server)
• 消えつつあるものの、まだ一部で SAP Business Object が使われている。

【クライアント側の体制・および関係者】

• 顧客企業のプロパーメンバーが分析・施策 等の上位レイヤーを担当している。
• 複数の外部パートナーメンバーが常駐参画して、分析・開発・運用を行っている。
• 「開発の一部」と「インフラ維持管理 ～ データ整備」は海外オフショアチームが 担当している。
• 顧客プロパーと一緒に動けるリーダー候補、およびメンバーのアサインが急務という状況。

【募集要員】

• リーダー 1名 100%稼働：
  ・データ分析基盤の構築/維持/管理 および データ分析 に対する長年の経験
  ・オフショアメンバーのコントロール
  ・グループ会社に対する技術的/営業的な支援活動
• サブリーダー 1名 80%稼働程度でも可：
  ・データ分析基盤の構築/維持/管理 および データ分析 に対する長年の経験
  ・BigQuery ML を用いた機械学習に対する経験。
  ・Tableau を用いた可視化。
  ・クライアント側プロパーメンバーの育成活動。
• メンバー 2名 100%稼働：
  ・データ分析基盤の構築/維持/管理 および データ分析 の経験２年以上

リードエンジニアとしてデータ分析基盤の設計・構築・運用をおまかせします。

・各種システムからのBigQueryへのデータパイプラインの設計・構築・運用
・BigQuery上のデータウェアハウス・データマートの加工処理の構築・運用
・Issue対応
・技術調査

開発環境
言語 : Python,
データベース : BigQuqery, Aurora MySQL 2.0, Aurora PostgreSQL
インフラ : AWS (ESC,EC2, S3, Lambda etc.) , GCP,Dagster,Airflow
バージョン管理 : git/Github
CI : CircleCI, Jenkins
コミュニケーション : Slack, JIRA, ClickUP, Notion

2023年6月～2024年5月（要件定義、設計～総合テスト・リリース後フォロー）にて対応を進めるにあたりMotionBoard画面担当を募集しています。

BIツールはMotionBoard Cloud for Salesforceを使用する予定

BIに関する設計～テストの経験者