Sparkとは?
Sparkとは、分散した不変のデータ集合(RDD)に対する変換を積み重ねる形で処理を記述し、可能な限り主記憶上で実行する分散処理基盤。
データベーススペシャリスト試験の過去問では1回出題されています。
スパーク
Sparkの意味
分散した不変のデータ集合(RDD)に対する変換を積み重ねる形で処理を記述し、可能な限り主記憶上で実行する分散処理基盤。
Sparkの具体例
機械学習のように同じデータへ何度も繰り返しアクセスする処理で効果が大きい。
Sparkは試験でどう引っ掛けられる?
MapReduceとの違いは中間結果をどこに置くか。工程ごとにディスクへ書くのがMapReduce、主記憶に保持して次の変換へ渡すのがSpark——だから反復処理で差が付く。またSparkはHadoopの置き換えではなく、HDFSやYARNの上でも動く(分散ファイルシステムまで自前で持つわけではない)。
Sparkと関連する用語
Sparkが出た過去問
ビッグデータ処理基盤に利用され、オープンソースソフトウェアの一つであるApache Sparkの特徴はどれか。
正解:RDD(Resilient Distributed Dataset)と呼ばれるデータ集合に対して変換を行う。
要点:SparkはRDDへの変換を重ねて分散処理を記述する
Apache Sparkは、RDDと呼ばれる分散された不変のデータ集合を単位とし、それに変換を重ねて処理を組み立てる。中間結果をメモリ上に保持できるため、ディスク経由の反復処理より高速に扱えるのが特徴である。よってイが正しい。
出典:令和3年度 秋期 データベーススペシャリスト試験 am2 問18(IPA)
最終更新:2026-08-25/解説は資格暗記が独自に作成しています。 過去問の出典は各問題に記載のとおりです。