言語理論とコンパイラ

第四回: 正規表現と字句解析

2011 年 5 月 11 日

http://www.sw.it.aoyama.ac.jp/2012/Compiler/lecture4.html

Martin J. Dürst

AGU

© 2005-12 Martin J. Dürst 青山学院大学

今日の内容

前回の宿題

[都合により削除]

今週の展望

これらは全て同じ力を持って、正規言語を定義・受理する

これらを表現する「正規表現」(regular expression) という協力な表現方法が存在

正規表現の例

計算機実習 I の演習問題: ある文章中に &amp;, &quot;, &apos;, &lt;, &gt; を見つけて、それぞれを &, ", ', <, > に変換せよ。

Ruby で書くと次のようになる:

gsub /&quot;/, '"'
gsub /&apos;/, "'"
gsub /&lt;/,   '<'
gsub /&gt;/,   '>'
gsub /&amp;/,  '&'

正規表現の原則

正規表現の形式定義

アルファベットΣ 上の正規表現と表す言語
優先度 正規表現 条件 言語 備考
ε, a a ∈ Σ {ε} 又は {a}
低い r|s r, s が正規表現 L(r|s) = L(r) ∪ L(s) 集合和
低め rs r, s が正規表現 L(rs) = L(r)L(s) 連結
高め r* r が正規表現 L(r*) = (L(r))* 閉含
高い (r) r が正規表現 L((r)) = L(r)

L(r) は r によって定義される言語

正規表現の意義

正規表現自体の文法

優先度に要注意

正規表現の例

正規表現から NFA へ (文字、選択肢)

正規表現に対応する NFA は正規表現の部分表現から再帰的に作成可能

ε と a に対応する NFA は初期状態一つと受理状態一つとそれを結ぶ ε 又は a と書かれた矢印

r|s の NFA は r の NFA と s の NFA から次のように作成:

全体の初期状態から r と s の初期状態へと、r と s の受理状態から全体の受理状態へ ε で結ぶ

正規表現から NFA へ (連結、繰返し)

rs の NFA は r の受理状態と s の初期状態を ε で結んで、r の初期状態は rs の初期状態、s の受理状態は rsの受理状態。

r* の NFA は次のように作成:

全体の初期状態と r の初期状態、r の受理状態と全体の受理状態、全体の初期状態と全体の受理状態、そして r の受理状態と初期状態 (逆!) を ε で結ぶ。

有限オートマトンから正規表現へ

変換は可能が、複雑

変換の原理:

  1. 状態 A から状態 B へ直接遷移できる正規表現を全ての状態の組み合わせのために作成
  2. 一個の状態だけを選んで、その状態の経由を含める正規表現を作成
  3. 2. のステップを繰り返して、経由できる状態を増加
  4. 途中で正規表現がどんどん複雑になるので、できる限り簡単化

正規表現の応用

実用化された正規表現: 記述上の違い

正規表現の便利な追加機能 (括弧内は相当する理論的な正規表現)

 

実用化された正規表現: 使い方の違い

実用化された正規表現の応用

実用化された正規表現の注意点

今週のまとめ

演習問題

(提出不要)

  1. 次の正規表現を NFA に変換し、NFA から DFA を作る: (a|c*)a|b
  2. 1. の言語を定義する右線形文法を作る。
  3. Σ = {0, 1} の 0 が偶数 (1 は何個でもよい) 語を受理する DFA を作る。
  4. (発展問題) 3. の言語の正規表現を作る。(ヒント: 変換するより正規表現を新たに作る方がいい)

次回の予定と準備

予定:

準備: