データ構造とアルゴリズム

第六回 (2013年11月 8日)

分割統治法、マージソート

http://www.sw.it.aoyama.ac.jp/2013/DA/lecture6.html

Martin J. Dürst

© 2009-13 Martin J. Dürst 青山学院大学

目次

• 前回のまとめ・前回の残り・演習
• 整列の重要性
• 単純な整列法: バブル整列法、選択整列法、挿入整列法
• Ruby の繰返し
• 分割統治法
• マージソート
• まとめ

前回のまとめ

• 順位キューは大事な抽象データ型
• 配列や連結リストによる実装は非効率的
• ヒープでは最優先の項目が完全二分木の根に出現
• ヒープの普遍条件は heapify_up と heapify_down で保持
• ヒープソートによって整列が可能
• 完全二分木とヒープソートは配列で実装可能

前回からの宿題

• ヒープの合併を実装しなさい
  • 小さい方のヒープの項目を大きい方に追加 (6heapmerge.rb)
  • 二項ヒープ (binomial heap)
• 情報テクノロジーでの整列 (sort) の応用を五つ考えなさい

整列の重要性

• 出力の様々な整理
• 検索 (例: 二分探索) の前提
• アルゴリズムの部品

単純な整列方法

• バブル整列法 (bubble sort)
• 選択整列法 (selection sort)
• 挿入整列法 (insertion sort)

Ruby の様々な繰返し

• 一定回数の繰返し
• 指数を使った繰返し

一定回数の繰返し

構文:

回数.times do
  # 何かの作業
end

応用例:

(length-1).times do
  # bubble
end

指数を使った繰返し

構文:

出発値.upto 目的値 do |指数変数|
  # 指数変数を使った作業
end

応用例:

0.upto(length-2) do |i|
  # select
end

バブル整列法

(bubble sort)

• 隣接の項目を比較、交換
• 配列の先頭から最後までで一つのパス
• 必要なパスの数が O(n)
• 一つのパスで比較の回数が O(n)
• 計算量は O(n²)

改良:

• 交替で両方向にバブル
• 最後の交換点を記憶、交換のチェックの範囲を限定

実装の例: 6sort.rb (下記の整列法も同様)

選択整列法

(selection sort)

• 配列の先頭に整列済みの部分を徐々に拡大
• 整列済みでない最小の項目を繰返し検索、選択
• 整列済みの部分の直後の項目と最小の項目を交換
• 交換の回数は O(n)
• 最小の項目の割り出しは O(n)
• 比較の回数と全体の計算量は O(n²)

選択整列の計算量の詳細

• n 項目の中から最小のものを見つけるための比較回数は n-1
• 未整列の領域の大きさは最初の n 項目から最後に 2項目
• ∑_i=2ⁿ i-1 = 1 + 2 + ... + n-2 + n-1 = n · (n-1) / 2

挿入整列法

(insertion sort)

• 配列の先頭に整列済みの部分を徐々に拡大
• 整列済みの部分の直後の項目を整列済みの部分に挿入
• 場所を空けるために整列済みの項目の一部をずらす
• 計算量は (最悪で) O(n²)
• 既に殆ど整列されたデータの場合に有利

改良: 番兵 (sentinel) の使用: 最初の項目の前に全ての項目より小さいものを設置

分割統治法

(divide and conquer, ラテン語: divide et impera)

• 軍事戦略や戦術の用語
• 一つの大問題を複数の小問題に分割
• プログラミング一般の大事な原則
• アルゴリズムやデータ構造の一つの設計方針

マージソート (再帰無し)

(merge sort)

• 整列対処項目を二分割
• 両部分を別々に整列
• 両部分を併合 (merge) で統合

併合

(merge)

• 2 ウェイ併合 (two-way merge) とマルチウェイ併合 (multi-way merge)
• 二以上の整列済みの列から一つの整列済みの列を作成
• 入力の列のどちらか小さい方の項目を次々と選択
• 最後に、残った列の残った項目を複写

マージソート

(merge sort)

• 整列対処項目を再帰的に二分割
• 項目数が 1 の場合、整列済み
• 分割した両部分を整列後に併合 (merge) で統合

マージソートの計算量

• 分割が O(1) (配列の指数の演算のみ)
• n 項目の併合は O(n)
• 漸化式:
  M(n) = 1 + 2 M(n/2) + n (正確には 2 M(n/2) の代わり、M(⌈n/2⌉) + M(⌊n/2⌋))
  M(1) = 0
• 繰り返しの置き換えでパターンの発見:
  M(n) = 1 + 2 M(n/2) + n =
  = 1 + 2 (1+ 2 M(n/2/2) + n/2) + n =
  = 1 + 2 + 4 M(n/4) + n + n =
  = 1 + 2 + 4 (1 + 2 M(n/4/2) + n/4) + n + n =
  = 1 + 2 + 4 + 8 M(n/8) + n + n + n =
  = 2^k - 1 + 2^k M(n/2^k) + kn
• M(1) = 0 を利用: n/2^k = 1 ⇒ k = log₂ n
• M(n) = n - 1 + n log₂ n
• 漸近的計算量: O(n log n)

整列の計算量

• 単純な整列法以外、整列の計算量は O(n log n) が多い
• 整列では比較と移動が基本操作
• n 個のデータの場合、異なる順番は n!
• 一つの比較では異なる順番の数が最大で半減
• 最低の比較の数が log (n!) ≈ O(n log n)

マージソートの特長

• 併合は複写して行うため、メモリの二倍が必要
• 内部メモリより外部メモリに最適
• 外部メモリ:
  • パンチカード (punchcard)
  • 磁気テープ (magnetic tape)
  • ハードディスク (hard disk)

まとめ

• 単純な整列法:
  • バブル整列法
  • 選択整列法
  • 挿入整列法

  全て O(n²)

• マージソートは分割統治法に基づく
• マージソートは O(n log n)

レポート: 手作業によるソート

提出: 再来週の木曜日 (11月2021日) 19時00分締切; O 棟 529号室の前の箱に提出; 手書き A4 紙二枚まで (表裏で合計4ページまで) 厳守

(資料を参考にしなくて解けた方がいいですが、ウェブページも含め必ず使った資料全ての詳細を列挙すること。Wikipedia 等への参照の場合、URI のではなく IRI を使用のこと (例: http://ja.wikipedia.org/wiki/%E6%83%85%E5%A0%B1 のではなく http://ja.wikipedia.org/wiki/情報))。

採点はアルゴリズムの速さにかかわらず満点、特に早いアルゴリズムを考えた場合に追加点。

名前、ふりがな、学生番号だけではなく、授業名と課題名も明記のこと。

手作業の場合に効率的な順列アルゴリズムを考えて提案して分析しなさい。

条件は次の通り: 資料がそれぞれ A4 の紙一枚。見やすい位置に10桁の番号が書かれている。その番号の昇順にソートする。番号の分布については一切不明。二つのケースを想定:

1. 一人で資料5000枚をソート
2. 20人で資料50000枚をソート

共通のアルゴリズムでも別々のアルゴリズムでもよい。分析では O() での計算量 (理由つき) と実際に想定される時間。今まで習ったアルゴリズムとの類似点や相違点、手作業の特徴に考量した点などについても論じる。

次回のための準備

• Sorting Cards を切り取り、授業で習ったアルゴリズムを実演
• 「手作業によるソート」の検討、必要に応じて次回に質問考察