Apache Airflowの案件一覧

過去に募集したエンジニア、データサイエンティスト、マーケターの案件を中心に掲載しています。
非公開案件を多数保有していますので、ご希望のイメージに近い案件をクリックして無料サポートにお申込みください。
専門コンサルタントがヒアリングを通じて最適な案件をご提案いたします。
単価や稼働日数などの条件面についてもお気軽にご相談ください。

該当件数:39件

Apache Airflowの案件を探す

案件内容

各種施策の起点となるデータ分析基盤の構築や、データを利活用した機能の開発、ならびにそれらの運用を担当します。
拡張余地のあるプラットフォームであり、柔軟な環境下での設計・構築が可能なため、スキルを発揮しながら十分な実績を積むことができます。
業務内容の一例
・データパイプラインの構築
主にDWHへデータを集約するデータパイプラインを構築します。

  • データパイプラインの一例
  • クラウドストレージ上のファイルをDWHに取り込む
  • 外部APIからデータを取得し、DWHに取り込む
  • DWHに取り込んだデータを基に、目的に応じたデータマートの作成を行う
  • システムのアクセスログをリアルタイムにDWHに取り込む
  • 使用しているサービス
  • パブリッククラウド(AWS/GCP/Azure等)のワークフロー管理、分散処理、サーバーレス実行基盤など
    ・データの活用
    DWHに集約したデータを基に、推薦機能などの開発や改善を行います。
  • 機能の一例
  • 取り扱いデータの推薦機能向けデータ作成
  • ランキングデータの集計・作成
  • 一覧画面等の表示順最適化
  • 作成したデータをアプリケーションへ連携する機能(バッチ処理・リアルタイム通信)
  • 使用しているサービス
  • パブリッククラウド(AWS/GCP/Azure等)の機械学習プラットフォーム、データ分散処理、コンテナ実行環境、NoSQLデータベースなど
    補足事項
    ・事業貢献の実感を持ちながら業務を進めたい方
    ・仮説検証を通じて改善を重ねるのが好きな方
    ・メリハリをつけて業務に取り組みたい方
    ・スピード感をもって業務を推進したい方
    ・自らの意思を持ち、妥当性のある業務に取り組みたい方
必須スキル

– クラウド環境(AWS/GCP/Azure等)でのDWH、データパイプライン、データ抽出・変換・ロード処理などの設計・開発および運用経験
– DWH製品およびワークフロー管理ツールの実務利用経験
– Pythonおよびデータベース言語(SQL等)の利用経験

案件内容

・ステークホルダーヒアリングを通じた課題理解・改善ソリューションの実施
・ディメンショナルモデリングを活用したデータモデル設計・データパイプラインの改善
・Airflow DAG,dbtなどによるSnowflake上でのデータパイプライン構築・実装
・データパイプラインの運用監視・障害対応などの運用
・技術的な提案・検証(メタデータ管理、データ品質管理など)

【開発環境】
開発言語: Python, SQL 等
開発/運用環境: Docker, VSCode, IntelliJ, GitLab, GitLab CI, Claude Code, GitHub Copilot, JetBrains AI Assistant
データ基盤: Snowflake
ワークフロー管理: Amazon Managed Workflows for Apache Airflow (MWAA)​
インフラ環境: AWS [AppFlow, MWAA, S3 等]​(※インフラの設計・構築・運用は別担当)
社内ツール: Confluence, JIRA, Redmine, Slack, Zoom, Google Meet
外部SaaS: Salesforce, Marketo, GA4, Datadog, Zendesk等

必須スキル
・ディメンショナルモデリング(Dimensional Modeling)の実務経験
・Snowflake, SnowSQLを用いたデータ変換の実務経験
・Apache Airflowやdbtなど用いたワークフロー構築の実務経験
案件内容

グローバル規模で展開する小売・消費財データを活用し、価格戦略・競合分析を支援するデータ活用プロジェクトに参画。
データサイエンティストと連携し、膨大な生データを経営判断に直結する分析データへと昇華させる役割を担う。
大規模データ基盤の設計・構築から、データ品質管理、運用・保守までを技術面の中核として推進する。

必須スキル
・データエンジニアリングまたは技術分析の実務経験(目安:4~6年)
・SQLおよびPythonを用いたデータ処理・自動化の実務経験
・データオーケストレーションツールの利用経験
・Airflow、dbt、Prefect 等
・クラウドプラットフォームの利用経験(GCP尚可)
・Gitを用いたバージョン管理の知識
コンテナ技術に関する基本的な理解・利用経験
・ビジネスレベル以上の英語力(グローバルチームとの連携必須)
案件内容

■具体的な業務内容
基盤の運用改善および次世代データ基盤の要件定義、設計、構築を担当して頂きます。

■具体的な業務内容

  • 現行基盤の課題整理および改善方針の策定
  • 次世代データ基盤の要望・要件整理・設計
  • 技術・ツール選定、比較検討
  • パフォーマンスチューニング
  • キャパシティプランニング
  • CI/CDパイプラインの改善
  • 新規パイプラインの構築、旧パイプラインの閉鎖
    ※社内のデータ基盤ユーザーとのコミュニケーションが発生。
    ※リーダー、メンバーおよび関係各所に対する実装方針・技術選定結果などの説明が発生。
    ※会議におけるファシリテーションなどが発生。

■求める人物像
・円滑なコミュニケーション能力を有している方
・抽象的な問題を整理し、具体的な課題解決へ落とし込む能力を有している方
・自立的に課題解決に取り組んで頂ける方

必須スキル
・クラウド環境(AWS/Google Cloud)を用いた5年以上のデータ基盤構築/運用経験(Lambda、Cloud Run Functions、Cloud Storage、 S3、Compute Engine、Cloud SQL, BigQuery、EMR、RDS、Redshift、 Athena、Airflow、Dataformなどを使用する開発経験)
・データベースの管理経験
・データモデリングの経験
・データベースの最適化、キャパシティプランニングの経験
・TableauやLooker StudioなどのBIツールの利用経験
・並列分散処理に関する基本的な知識
・Linux、Docker、ネットワークの基礎知識
・IaC(terraform)を利用したインフラリソースの管理経験
・Github,Gitを利用したコード管理・チーム開発経験
案件内容

大規模な生データを取り込み、クリーンアップするための堅牢でスケーラブルなデータパイプラインを構築・維持する、技術的デリバリーの要です。Python/SQL、GCP等のツールを用いてデータ品質を徹底的に保証し、データサイエンティストと連携して高品質なBIダッシュボードを本番環境に移行させます。

【役割/タスク】
・大規模データの取り込み・変換・クリーンアップを行うスケーラブルなパイプラインを構築
・高稼働率のBIダッシュボードを本番環境にデプロイし、技術的基盤を管理
・データ品質保証プロセスを主導し、納品前のデータ出力の厳密性を確保

必須スキル
・データエンジニアリング、データ品質、または技術分析の役割における経験
・データ処理と自動化のためのSQLとPythonの熟練度
・データオーケストレーションツール (例: Airflow、dbt、Prefect) の経験
・高稼働率の顧客向けアプリケーション、ダッシュボード、またはその他のツールをデプロイ・維持した経験
案件内容

顧客のとあるサービスにおいて、Tableauのレポート新規作成・保守を中心とした業務を行っていただきます。
アナリストとして、レポート等をよりよくしていくような提案を含めたアクション実施可能な方を希望します。

  • Tableauのレポート新規作成について
    →顧客からの依頼ベースでSQLを用いてデータを抽出し、Tableauでレポート(ダッシュボード)を作成
  • 保守について
    →定期的にデータ更新のバッチ処理ファイルを作成・更新
    ( Tableau prep, Airflowを利用 )
必須スキル

・Tableauのご経験
・SQL
・Python(Airflowメンテ含む)

案件内容

広告系システムの追加開発と保守支援
・広告配信プラットフォーム(Google/Meta等)と連携するシステムの開発および運用改善
・APIを活用した入稿自動化、データ取得、レポーティング機能の開発・保守
・既存構成をベースとした新機能の追加開発、運用効率化に向けた改修

必須スキル
・Pythonを用いたWeb API開発経験(FastAPI,Flask,Djangoなど)
・AWS、GCPなどを用いたシステムの設計・開発経験
・KubernetesやECSなどコンテナ化されたアプリケーションの開発・運用経験
・REST/JSONベースの外部APIとの連携実装経験
・チームでのGit運用(ブランチ、PR運用含む)経験
案件内容

グループ会社で既に導入済みのクラウドデータウェアハウス Snowflake を活用し、お客様が求めるアウトプットを効率的に導き出すためのデータ基盤を構築するプロジェクトです。

具体的には、Snowflake と Amazon S3 に格納された各種データを整理・統合し、ビジネスニーズに合致したデータマートの設計および構築を推進いただきます。これにより、お客様が迅速かつ正確にデータ分析を行い、意思決定に繋げられるよう、データ活用を強力に支援します。

必須スキル
・データウェアハウス設計の経験: Snowflake、または他の主要なDWH(Redshift, BigQueryなど)での設計・構築経験。
・SQL・データ操作: 大規模データに対する複雑なSQLを用いたデータ抽出、加工、変換の実務経験。
・データパイプライン構築経験: データフローの設計、ETL/ELTツールの選定・実装経験(例:dbt、Airflowなどの知識があれば尚可)。
・セキュリティ・ガバナンスに関する知見: データアクセス制御、プライバシー保護、監査ログなど、データセキュリティとガバナンスに関する知識と実践経験。
案件内容

オルタナティブデータ(今まで利活用の進んでいないビッグデータ)を用いた分析サービスを提供するプロダクトの募集になります。
オルタナティブデータを加工・分析し、SaaSプロダクトとして展開しています。
POSデータ、クレカデータ、ポイントカードデータ、位置情報データといった様々なオルタナティブデータから得られたインサイトを、海外の機関投資家から国内の官公庁、事業会社まで幅広い顧客に提供しています。
本ポジションは、大規模データ分析基盤の知見を活かし、顧客のデータ基盤の開発支援を行うポジションです。

・データ基盤開発案件の推進。主に設計や実装フェーズに参画していただきます

必須スキル

・Pythonを用いた開発・運用経験
・クラウドインフラ開発・運用経験
・データ分析基盤の構築・運用経験
・チームでのシステム開発・運用、3年以上(サブリード以上が望ましい)
・対面折衝(クライアントコミュニケーション)経験

案件内容

モビリティ事業を展開している企業にてデータアーキテクト業務をお願いいたします。

・データ整備業務
 プロダクトへの新規機能追加時のログ・テーブル設計
・データに不具合が発生した場合の調査・復旧
・新しいデータマートの設計・構築
 データ基盤の整備やETL/ELT開発等も
発生する可能性有

必須スキル

・SQL
・Python
・Dataform、Airflow
・Docker
・ログ、テーブル設計スキル
・ビジネス部門との要件調整スキル
・アナリストとの技術的対話力

検索結果39件中1-10件