データエンジニアの案件一覧

現行水準のままでのHW,SWのリプレース
本番環境（東京）、災対環境（大阪）の2拠点の更改を行います。

工程
基盤　構築・単体テスト～システムテスト

・Linux(RedHat)、WAS、HULFT、JP1、Oracle、LifeKeeperの構築経験（一人称で対応可能な方）

以下現在進んでいるプロジェクトにおいてクライアントのリーダーと共に参画していただき環境の構築をお願いできればと思います。

【プロジェクト進捗】
・現在客先でもっているDBを収集、可視化、分析したい依頼を受けておりプラットフォームはすでにできている
状態
・DBは試行錯誤したなかでCassandraでのPOCをはじめており機械の製造に当たるデータが時系列で出てくる

・いままではファイルだったがリソースがいっぱいで動かなくなってきたのでスペックアップして仮想環境を作りアプリの分散化を図っている

※すべてを満たさなくても提案可能です。
・Linuxでの環境構築
・NoSQL　Cassandraまたは、DYNAMOの環境構築経験（複数ノードでの構築）
・CQL（Cassandra Query Language）の利用経験
・Bigdataに関する知見

・データユーザーからの要求をくみとり的確なデータとフローの設計を行い、パイプラインの構築や
　パイプラインを動かすデータ分析基盤の運用保守を行っていただきます。

・Google Cloud、AWSを利用した商用稼働サービスのデータパイプラインの開発・保守運用と
　日々の運用業務から発生する課題の解決・改善を行っていただきます。

・BigQuery、Cloud Composer(Airflow)、Pythonの実務利用経験
・Embulk、DigDagの利用経験
・Linuxサーバの運用保守経験
・AWS、GCPいずれかのクラウドサービスの開発及び運用経験

AWS Lambda(Python)でPostgreSQLのテーブルをSELECTする処理60本の量産・単体テスト
サンプルコードあり。抽出条件も更新日付のみのため比較的イージー。（★4月直近でやっていただきたい作業）
ETL処理の開発、単体テスト
結合テスト、システムテスト、運用テストの実施要員

・SQL開発経験
・Pythonの経験

■作業(概要）
・作業フェーズ
開発、単体テスト、結合テスト、システムテスト、UAT

パイプライン開発者
Azure Data FactoryおよびTransat-SQLにデータレイクからデータを加工してデータマートに格納する
DB：SQL Serverを使用

大規模言語モデル（LLM）を利用したセキュアなシステムの開発、社内データとの統合を含む。
LLMの開発における深い技術知識の活用、社内データソースとの接続を可能にするためのインフラ構築。
技術戦略および戦術の策定と実施、データの利活用を最大化するためのアプローチの開発。
開発に必要なリソースの設計と管理、データアクセスと分析のためのシステムの構築。

主な担当業務：現状分析、データ活用の施策決め、データの可視化、データオペレーション

業務例①：XplentyやSnowflake、Amazon Redsift、Amazon QuickSight等のツールを用いて、お客様のデータを可視化し、経営判断等に使用可能な有用なデータをマイニングできるようにする。

業務例②：生成AI用のデータの準備やデータフローの設計・実装を行う。

技術戦略の立案と実行経験、データ利活用に関する知識。

・分析基盤環境で使用しているDB：Verticaへのファイル取込バッチおよびファイル出力バッチの移行
・バッチからSQLを呼び出す方式となっている、Verticaは既存工場では未使用のため、チューニング作業などが必要
・新規工場では追加IFもあるため、バッチ（ShellまたはWindowsバッチ＋SQL）の追加作成対応

・DB開発経験
・バッチ開発経験

パートナー企業のリーダーとメンバーの方2人とともに、データ整備とPowerBIによるダッシュボード作成していただける方を探しています。

・Python, RDBの設計・利用経験（1年以上）
・進捗管理
・チーム内ルール策定
・必要に応じてタスク設計
・Python （Notebook）上での開発

パートナー企業のリーダーとメンバーの方2人とともに、データの整備とPowerBIによるダッシュボードの作成をしていただけるリーダーポジションの方を探しています。

・Python, RDBの設計・利用経験（1年以上）
・進捗管理
・チーム内ルール策定
・必要に応じてタスク設計
・Python （Notebook）上での開発
・PJ管理経験（2-3人以上）

■背景
・クライアント内の提案活動に於いてDWH案件が増えており、リソースが必要となった
■クライアント支援範囲
・データ基盤構築、機械学習システム構築/精度向上、時系列データ予測/異常検知、自然言語(テキスト)解析、画像認識
■エンドクライアント
・建築・製造・医療など
■想定業務
※クライアントの案件状況やスキルによってポジション・案件は検討
・データ基盤を構築するプロジェクト。蓄積したデータをBIやAIで活用するためのプラットフォームの設計・構築が主業務
要求開発フェーズからご参画いただくことを想定。
・顧客案件におけるデータ基盤構築支援（要件定義・設計・構築・テスト・マニュアル作成など）
・要件定義 /基本設計/詳細設計
・ETLジョブ開発
・DWH構築
・ドキュメンテーション(設計書・仕様書)

・DWHサービス知見
・基本設計～製造・テスト経験
・データフロー/マート設計
・ドキュメンテーション力

※全て満たしていない場合でも相談可
※DWHサービス活用は必須