データエンジニアの案件一覧

リアルタイムなデータパイプラインを構築するためのデータエンジニア業務と、
機械学習モデルをより素早く安定的にデプロイできるようなCI/CDパイプラインの構築、効率よくデータを捌くためのミドルウェア開発、インフラ構築などを行う、MLOpsエンジニア業務をおまかせします。
GCPデータ基盤とその活用案件、は既に多数存在するものの、さらなる拡充を狙った専門人材の募集となります。
IP(知的財産)ビジネスがドメインの事業会社において、全社へ大きな影響を与える分析部門にアサイン頂きます。

【業務スコープ】
分析官や機械学習エンジニアと連携しながら、速く安全に機械学習のサイクルを回せるML基盤の構築をお任せします。

[データエンジニア概要]
■データパイプライン(リアルタイム)の設計・実装

（具体的な職務）
・収集対象：ECサイト
・データ分析基盤の開発・運用
・データを収集するETL/ELTパイプラインの開発
・運用体制構築のためのルール・ドキュメント整備
・上記を継続的に利用するための、ソフトウェアのバージョンアップや周辺ツールの開発(運用)
・技術調査

[MLOpsエンジニア概要]
■ ビジネス課題と要求の整理（案件の要件定義をPMと行える=足りない情報が何かを定義し、自身で要求できる）
■ 機械学習ワークフローの設計/開発/運用
■ データ提供のためのAPI設計/開発/運用（アプリ開発側との連携）
■ 機械学習モデルをより素早く安定的にデプロイできるようなCI/CDパイプラインの構築
■効率よくデータを捌くためのミドルウェア開発、インフラ構築
■ ML基盤内へログデータを収集・蓄積・加工する、一連のデータパイプラインの設計/開発/運用

（具体的な職務）
■ ビジネス課題と要求の整理（案件の要件定義をPMと行える=足りない情報が何かを定義し、自身で要求できる）
■ 機械学習ワークフローの設計/開発/運用
■ データ提供のためのAPI設計/開発/運用（アプリ開発側との連携）
■ 機械学習モデルをより素早く安定的にデプロイできるようなCI/CDパイプラインの構築
■ 運用体制構築のためのルール・ドキュメント整備

2年ほど前にAWSをベースに分析基盤が構築されたものの、現状がわかりづらい状況となっています。
現状を調査し調査の後、必要に応じて「システムの再構築」
「一部破棄」または「システムの刷新」の方針決めを行います。
※詳細、募集背景は面談時にご説明いたします。

【ターゲットとなるシステム】
・In Data ： Salesforce 他
・Out Data ： Tableau 他

クライアントでは主にPower BIにて統合データプラットフォームに接続し、データ抽出からダッシュボードもしくはリスト化・資料化することを実施しております。
教宣活動により、業務部門からの引き合いが増えてきたため、効率よくプロトタイプ的な試作品を作成し、実務部門にてビジネス適用の判断を行っていく構想です。
上記運用について現状のメンバーでは対応が難しく、具現化するための要員を募集いたします。

内容：
・クライアント社員と共に施策を検討、要件をまとめBIツールにて静的データのプロトタイプのダッシュボードを構築。実務としてビジネス適用される場合は、クライアント側の担当者にて連携環境の構築を行う想定。ツールはPower BI（PowerBI・Tableauを利用中、エンタープライズBIはWeb-focusを導入済）
・セルフBIの位置づけとなるため、実務部門へのスキトラも実施予定。

・メーカーでの帳票ツールの開発

・ダッシュボードの設計、構築を担当
・営業DXに関わるデータの可視化がミッションで、どのようにデータを抽出、可視化すると効果がでるかなどを試行錯誤しながら開発をしていくスタイル
※体制：2名

資金繰りデータをtableauで可視化するとともに、担当者への教育（引継ぎ）を行う。
現状Excelベースで実装しており、tableauサーバは構築済みで環境は整っている状態。
データ加工処理とtableauダッシュボード可視化を一人称で行っていただく想定。

【概要】
・大手小売企業で現在利用しているデータ加工機能の再構築およびI/F連携の可視化を行うための構想策定フェーズ
・インプットの対象となるシステムは複数あるためヒアリングを行いas-is、to-be策定を実施（インバウンドのDMSは今回作り直さない想定）

【体制】
2名（PM1名、メンバー1名）
※今回はメンバーポジションが対象
※テクニカル面での支援を期待されている

【業務スコープ】
①データ加工機能の再構築
・適正な機能配置
・POSデータ加工処理の改善
・統一商品マスタの作成（すべての雑誌の属性も付与可能）
・レガシーな技術（COBOL）からの脱却、脱ホスト
・運用体制強化、運用の負荷削減

②IF連携の可視化（HULFTHUBの利用）
・データ加工サーバをクライアント情報基盤の週配信を中継するシステムに変更

【スケジュール（仮）】
・2月～5月：構想策定フェーズ
・6月～：設計、構築

・Lookerで作成されたダッシュボード・レポートの修正・管理
・新規機能がリリースされた際に、必要な修正を既存レポートに加える
・重要KPIレポートの品質管理
・不要なレポート・古い定義のレポートの棚卸し
・各部門向けKPIダッシュボードの作成

■背景
・募集部署はデータ基盤&AI・BI&運用を一気通貫で担っており、
　現在プリセールス中である。(DWH)
・ただ受注となった場合、プロパーを含めてリソース不足が目下課題となっている。
■クライアント支援範囲(該当部署)
・データ基盤構築、機械学習システム構築/精度向上、時系列データ予測/異常検知、自然言語(テキスト)解析、画像認識
■エンドクライアント
・建築・製造・医療など様々
■想定業務
・データ基盤を構築するプロジェクトを想定。
　蓄積したデータをBIやAIで活用するためのプラットフォームの設計・構築が主業務となる。
　要求開発フェーズからご参画いただくことを想定。
※下記スキルによって相談
・顧客案件におけるデータ基盤構築支援（要件定義・設計・構築・テスト・マニュアル作成など）
・要件定義 /基本設計/詳細設計
・ETLジョブ開発
・DWH構築
・ドキュメント作成

主に医療、製薬系のサービスを複数展開されているメガベンチャー企業にて、
電子カルテのデータプラットフォームを現在開発しております。
そのプラットフォームを開発するにあたり、データの品質を考慮しながら、
DWH、データ基盤の設計構築、dataformでのデータパイプライン構築や
バッチへの反映を主にご担当いただきます。
入力されたデータがテストデータではないかなどデータの品質を考慮いただけると嬉しいです。

【開発環境】
・DB：BigQuery
・言語：JavaScript
・SQLパイプラインツール：dataform
・BIツール：Looker