効率的なデータ活用を実現!データマートの作り方を7ステップでご紹介!

エンジニアブログ

投稿日:2021/05/07 | 最終更新日:2021/09/04

現在、企業が保有するデータ量は年々増加しており、会社として正しい意思決定を行うためにはデータの活用が必要不可欠です。しかし、データ活用が思うように進んでいない企業も多いのではないでしょうか?

「データマート」を使用することで、効率的かつスムーズなデータ活用を実現することができます。本記事では、データマートの基礎的な内容から、具体的な「データマートの作り方」を7ステップで詳しくご説明します。

データマートとは?

はじめにデータマートの基本について、理解しておきましょう。

概要

データマートは、データウェアハウス( DWH )から特定の目的をもって、データを抽出・あるいは加工して保管するデータ保管システムです。データマートを活用することで、データの可視化、統計分析、機械学習(分類、予測)など、多様な目的に沿ってデータ分析を行うためのデータ分析基盤を構築することができます。

データマートの「マート」は英単語の「 mart (小売店)」が語源となっており、小型のデータウェアハウス( DWH )と考えると良いでしょう。データウェアハウス( DWH )とは、巨大なデータ群を保存・管理するためのシステムです。

データウェアハウス( DWH )との違いに関しては、以下の記事が参考になります。
データ分析の歴史から紐解く!データウェアハウスとデータマートの違いを徹底解説

形式

データマートは大きく3つの形式に分類されます。

以下、それぞれの特徴を表にまとめました。

データマートの形式 特徴
従属型データマート 既存のデータウェアハウス( DWH )からデータを抽出または加工し作成されるデータマート
独立型データマート データウェアハウス( DWH )とは別のソースからデータを得て加工されるデータマート
ハイブリッド型データマート 複数のソースからデータを抽出または加工して作成されるデータマート

データマートの形式によって特徴が異なるため、自社の状況に応じて、適切なデータマートを選択することが大切です。

メリット

データマートはデータウェアハウス( DWH )からデータを抽出・格納するだけで構築可能です。そのため、場合によっては数分~数十秒で構築することができ、スピーディーに利用開始できます。

また、データウェアハウス( DWH )の場合は、データ容量が数 TB に及ぶことがありますが、データマートでは大きくても100 GB 程度なので、データ量が小さい分高速にデータ分析をすることが可能です。

デメリット

データマートは、データウェアハウス( DWH )の一部のデータを抜き出して作成されるため、長期間にわたりデータを追記し続けることはできません。そのため、中長期的なデータ分析にはデータマートは不向きと言えます。

データマート設計のポイント

データマートを設計する上では、注意すべきポイントが存在します。効率的なデータマートを構築するために大切なポイントを理解しておきましょう。

容量の拡張姓

1つのデータマートであれば、容量のキャパシティプランニングは容易ですが、複数のデータマートを運用する場合は、キャパシティプランニングが難しくなり、ハードウェアの容量不足でデータマートが利用できないケースに陥ることがあります。

そのため、急な状況変化に対応できるように、容量追加を手間なく実施できる仕組みを整えておくことが大切です。

接続先の拡張性

データマートは様々なデータを抽出元として利用するため、様々なシステムとネットワークが繋がっている必要があります。また、場合によってはローカルに保存されているデータから直接アップロードが可能な仕組みが求められるケースもあります。

一方で、様々なデータのソースと接続を行うと、接続関係が複雑化して保守性が落ちることも考えられるため、接続関係のルールを定めておくなど、事前に全体設計を整理しておくことも必要です。

バックアップ環境

データマート内のデータが消えてしまうと、有効な分析ができなくなります。安全にデータマートの利用を続けるためには、バックアップの取得時間や、バックアップからのリストア(バックアップされたファイルやデータを使って元の状態に戻すこと)についても、事前に設計を行う必要があります。

監視の仕組み

利用するデータの中には、欠損したデータや意図しないデータが紛れ込むことがあります。そのため、分析をおこなう際には、分析中にエラーが出力されないか、ログを取得しておく必要があります。

また、ハードウェアの容量についても、データ容量の増加によってデータマートのディスクがパンクしないように、一定の閾値を設けて監視体制を整備しておくことが大切です。

データマートの作り方を7ステップで紹介

本章では、データマートの作り方を7ステップで順番にご説明します。

STEP1.要件定義

はじめにデータマートを構築するための要件定義を行います。

データマートを利用する目的を明確化し、そのデータが具体的にどのように使用されるのかを事前にイメージします。一般的には、これらを「ビジネス要件」と呼んでいます。次に、日常業務におけるデータの収集方法を明確化します。これは技術要件と呼ばれています。

データマートの構築は、最初の要件定義によって明暗が分かれるといっても過言ではありません。要件定義を誤った場合、データ活用が思うように進まないリスクも発生します。自社の状況やゴールを踏まえて、慎重に要件定義を進めていきましょう。

STEP2.データソース選定

要件定義が終わったら、データソースの選定です。データソースとは、使用するデータが格納されている場所です。このデータソースから必要なデータを抽出して、データマートに移すことになります。

データマートを有効活用するためには、データソースから効率的にデータを取得する必要があるため、データソースの選定は重要なポイントです。複数のデータソースを比較検討して、自社に最適なものを選択してください。

STEP3.サブセット選択

データソースが決定したら、データマートで使用するサブセットを選びます。サブセットとは「全体における一部分の限定的な機能」を意味する言葉です。「データマートでどのような機能を利用したいか?」を踏まえて、サブセットを選択してください。

ここまでご説明した「 STEP1〜STEP3 」で、データマートの全体設計は完了です。

STEP4.データベース構築

データマートの全体設計が終わったら、次は実務で利用するデータベースを構築します。効率的なデータマート運用を実現するためには、利用者が求めているデータに対して手間なくスピーディーにアクセスできる必要があります。

はじめに物理的なデータベースとストレージ構造を構築します。ここでのポイントは、データマートを使用する環境に最適化した形で構成することです。セキュリティ対策や他システムとの統合も視野に入れておきましょう。

また、データベースを構築する際は、物理環境だけではなく、データの論理構造(スキーマ・オブジェクト)も作成する必要があります。自社が定めた要件に沿って、構築作業を進めてください。

データベース構築まで終われば、データマートの基盤構築は完了です。

STEP5.データ移行

基盤構築が完了したら、利用するデータをデータマートへ移行します。はじめにデータソースにおけるマッピングを行います。マッピングとは、データを整理するためのルールを定めることであり、マッピングを実施することで、必要なデータを正確に取り出せる状態にしておきます。

次に、設定したマッピングに沿ってデータソースから生のデータを抽出しますが、この状態では形式もバラバラであり、使えるデータにはなっていません。そのため、まずは ETL などを活用して、生データのクレンジングや変換を行なった上で、得られたデータをデータマートに取り込みます。

データマートにデータを入れる際、メタデータ(特定のタグ付けをするなど、項目や意味が定義づけられたデータ)を作成しておけば、その後のデータ分析やデータ活用がスムーズに進みます。

ETL に関しては、以下の記事が参考になります。
データの活用で生産性向上!「BIツール」と「DWH」や「ETL」との違いとは?

STEP6.フロントエンド整備

会社としてデータマートを有効活用するためには、当然ながら利用者がデータマートを使用できる必要があります。

基本的にデータマートは、何も手を付けていない状態では利用者がスムーズに使うことはできません。

そこで、専門的なデータベース言語を使用しなくてもデータマートにアクセスでき、データ分析や結果レポートなどの機能を簡単に使えるように、フロントエンド(システムやサービスにおいて、直接ユーザーの目に触れる部分)を整備します。

フロントエンドを整備することで、利用者がデータマートを容易に利用できるようになり、結果として自社の生産性向上に直結します。

STEP7.運用管理

データマートの構築が完了したからと言って、それで終わりではありません。安全かつ効率的にデータマートを継続利用するためには、日々の運用管理が必要不可欠です。

例えば、サイバー攻撃を回避するためのセキュリティ対策はもちろん、急なデータ量の増加に対応するためのスケーラビリティ(リソースを柔軟に増減できること)の確保も求められます。また、障害が起きた時に事業停止に陥らないための BCP 対策なども重要です。

データは企業にとっての貴重な資産であるため、日々の業務の中で安心してデータマートを運用できるように、磐石な運用管理体制を整備しておきましょう。

データマートの構築はクラウド利用がオススメ

データマートには、高速なデータ処理やデータ分析が求められます。そのような機能をオンプレミスの環境に構築するには、高性能なストレージやコンピューティング環境を用意する必要があります。

ただし、オンプレミスで運用する場合は、物理サーバーやネットワークなどの設備を自社で揃える必要があり、莫大な初期費用が掛かります。さらに、物理設備の運用管理も全て自社で対応するため、この点においても大きなコストが発生します。いくらデータ活用が重要とは言え、これらは企業にとって大きなデメリットになります。

その点、クラウドであれば初期費用は必要ありませんし、サーバーの運用管理などもサービスの提供事業者が全て巻き取ってくれます。また、自社の状況が急に変わった場合でも、クラウドは柔軟にリソースを増減することができます。

これらの理由から、データマートを構築するのであれば、クラウドサービスの利用がオススメです。有名なものとしては Google が提供しているパブリッククラウドサービス「 Google Cloud 」が挙げられます。

Google Cloud には高性能かつ超高速なデータ分析サービス「 BigQuery 」が搭載されているため、データマートで整理したデータを効率よく分析し、企業の戦略策定に活用することができます。自社でデータ活用を考えている場合は、ぜひ Google Cloud を検討してみてください。

Google Cloud に関しては、以下の記事が参考になります。
クラウド市場が急成長中?数あるサービスの中でGCPが人気の理由5選!

BigQuery に関しては、以下の記事が参考になります。
超高速でデータ分析できる!専門知識なしで扱えるGoogle BigQueryがとにかくスゴイ!

データマート構築の相談はトップゲートがオススメ

前章では、データマート構築にクラウド利用がオススメであることをご説明しましたが、自社で全てを完結するのは難しいケースもあります。社内にデータベースやクラウドに精通している人材がいない場合は、細かい運用面までイメージすることができず、思うようにデータマートの構築・活用が進みません。

そのような場合は、外部企業へ相談するのがオススメです。データマートの構築作業を任せられるだけでなく、プロの目線から運用アドバイスを受けることができ、自社の生産性を高めるためのデータ活用を実現できます。弊社トップゲートは Google のパートナー企業に認定されており、 Google Cloud を活用したデータマートの構築やデータ活用の推進をサポートしています。

以下、トップゲートに依頼するメリットをご紹介します。

Google Cloudのパートナー制度でプレミア認定

トップゲートは Google Cloud パートナー制度で最高位の『プレミア認定』を取得しています。プレミア認定を受けるためには、豊富な実績と専門的な知識に加えて、 Google との年間取引額も大切な要素になります。

トップゲートは、自社でも積極的に Google Cloud を使っており、様々なシーンで Google のテクノロジーを活用しています。そのため、机上の空論ではなく、利用者だからこそわかる、現場目線での実践的な開発が可能になります。

Google Cloud のマネージドサービスプロバイダを認定されている

マネージドサービスプロバイダ(以下 MSP )とは、パートナー認定企業の中でも、クラウドソリューションの開発・提供に深い専門知識を持つことが認められているパートナーだけに与えられる称号です。

Google Cloud に関するスキルと知識を証明するため、詳細な項目にわたる認定を受けている他、第三者による正式検証を経て、トップゲートは Google Cloud の MSP 認定を取得しています。

そのため、トップゲートの開発は、単に指示を受けて開発をするだけには留まりません。自社が培ってきたノウハウを活かして積極的に提案し、コスト削減やシステム実装までの時間短縮を実現します。

MSPに関して理解を深めたい方は以下の記事がオススメです。

GCP認定パートナーの最上位?マネージドサービスプロバイダ(MSP)とは?

技術資格の認定保持者が多数在籍

データマートの構築を依頼する場合、技術力を持った人材が在籍していることは必須条件です。そうでなければ、実現したい内容にマッチした質の高いものを、短納期で完成させることはできません。

トップゲートでは、50名以上の技術資格認定保持者が在籍しています。平均1人2件以上の資格を保持しており、専門的かつ多角的な観点から構築作業を進めていきます。

スペシャライゼーションを多数取得

スペシャライゼーションとは、特定のソリューションやサービス分野において、技術的能力と実績を持つパートナーを Google が認定するプログラムです。

スペシャライゼーションの取得には、高いスキルと豊富な知識が必要不可欠です。有資格者の人数、過去実績、 Google 社の技術的評価、長期的なビジネスへの投資計画の提出、などの非常に高いハードルが設けられています。

スペシャライゼーションは、『アプリケーション開発』『インフラストラクチャ』『クラウド移行』『セキュリティ』『データ分析』『マーケティング分析』などの多数の専門領域が設定されています。

トップゲートは、お客様の持つ課題領域と自社が保有するスペシャライゼーションを融合させ、本質的な課題解決に取り組むことができます。

過去実績が多く開発経験が豊富

外部企業に構築作業を依頼する上で、過去実績や開発経験はとても大切なポイントです。どんなに技術力を持った会社でも、実績や経験がなければ、開発はうまく進まないでしょう。

トップゲートでは、ANA 様、テレビ朝日様を始めとした計7件の過去事例を公開しています。もちろん、これだけではなく、非常に多くの非公開事例も保有しています。

そのため、豊富な実績・経験から、適切なアドバイスを実施することができます。過去に培ったノウハウを活かし、お客様に寄り添った質の高い開発を実現します。

トップゲートの過去の開発実績は以下をご確認ください。
トップゲートの過去の開発/制作事例紹介

まとめ

本記事では、データマートの基礎的な内容から、具体的な「データマートの作り方」を7ステップで詳しくご説明しました。データ活用の重要性が高まっている現代において、データマートは欠かせない存在であると言えます。

企業の意思決定においては、データ分析に基づいた判断が必要となり、データマートを活用することで、データ分析を効率化することができます。そして、データマートの構築にはクラウドサービスの利用がオススメであり、中でも Google Cloud を使うことで、様々なメリットを享受することができます。

なお、本記事ではデータマートの作り方をご紹介しましたが、企業の中には自社で全てを完結するのが難しいケースもあります。そのような場合は、外部企業へ相談するのも一つの選択肢です。構築作業を任せられるだけでなく、プロの目線から様々な運用アドバイスを受けることができます。

弊社トップゲートは Google Cloud パートナー制度でプレミア認定や MSP 認定を取得しており、技術力や専門知識を持ち合わせた人材が多数在籍しています。過去の開発実績も豊富なため、安心して構築作業を委託することができます。

さらに、トップゲート経由で Google Cloud を契約することで

  • Google Cloud の利用料金が3% OFF
  • クレジットカード不要で請求書払いが可能
  • 導入後サポートが充実

など、様々なメリットを享受することができます。

本記事を参考にして、データマートの構築および Google Cloud の導入を検討してみてはいかがでしょうか。



弊社トップゲートでは、 Google Cloud 、または 20ID以上のGoogle Workspace(旧G Suite) 導入をご検討をされているお客様へ「Google Meet で無料個別相談会」を実施いたします。導入前に懸念点を解決したい方、そもそも導入した方がいいのかをお聞きしたい方はお気軽にお申し込みください!

トップゲート経由で Google Cloud をご契約いただけると Google Cloud の利用料金はずっと3%オフとお得になります!

お申込みはこちら

データ活用にご興味がある方におすすめの記事をご紹介!

最後までご覧いただきありがとうございます。以下では、データ分析に関する記事をピックアップしております。データ分析基盤やGoogle CloudのBigQueryに関して理解を深めたい方は以下の記事がオススメです。

データ分析基盤間の違いを理解したい方にオススメの記事
データ分析の歴史から紐解く!データウェアハウスとデータマートの違いを徹底解説

データ分析基盤の一つであるデータマート概要と設計ポイントをご紹介!

データウェアハウス(DWH)とは?メリットや活用例まで一挙に紹介

データの定義からデータレイクとデータウェアハウス(DWH)の違いをわかりやすく解説!

クラウドベンダー間のデータウェアハウス(DWH)を比較したい方にオススメの記事
クラウドDWH(データウェアハウス)って何?AWS,Azure,GCPを比較しながら分析の手順も解説!



弊社トップゲートでは、Google 技術を利用したアプリケーション開発や、DWH、BigQuery活用、機械学習に関するコンサルティングサービスを行っております。ぜひ詳細はリンク先にてご確認ください!
コンサルティングの詳細はこちら

メール登録者数3万件!TOPGATE MAGAZINE大好評配信中!
Google Cloud(GCP)、Google Workspace(旧G Suite) 、TOPGATEの最新情報が満載!

メルマガ登録はこちら

記事を探す

GCP のメリットを最大限に活用しよう!

Google Cloud・Google Workspace のご相談・
お見積り依頼はお気軽に
お問合せフォーム