言語理論とコンパイラ

第四回: 正規表現と字句解析

2011 年 5 月 11 日

http://www.sw.it.aoyama.ac.jp/2012/Compiler/lecture4.html

Martin J. Dürst

AGU

© 2005-12 Martin J. Dürst 青山学院大学

今日の内容

前回の宿題

[都合により削除]

今週の展望

これらは全て同じ力を持って、正規言語を定義・受理する

これらを表現する「正規表現」(regular expression) という協力な表現方法が存在

正規表現の例

計算機実習 I の演習問題: ある文章中に &amp;, &quot;, &apos;, &lt;, &gt; を見つけて、それぞれを &, ", ', <, > に変換せよ。

Ruby で書くと次のようになる:

gsub /&quot;/, '"'
gsub /&apos;/, "'"
gsub /&lt;/,   '<'
gsub /&gt;/,   '>'
gsub /&amp;/,  '&'

正規表現の原則

正規表現の形式定義

アルファベットΣ 上の正規表現と表す言語
優先度 正規表現 条件 言語 備考
ε, a a ∈ Σ {ε} 又は {a}
低い r|s r, s が正規表現 L(r|s) = L(r) ∪ L(s) 集合和
低め rs r, s が正規表現 L(rs) = L(r)L(s) 連結
高め r* r が正規表現 L(r*) = (L(r))* 閉含
高い (r) r が正規表現 L((r)) = L(r)

L(r) は r によって定義される言語

正規表現の意義

正規表現自体の文法

優先度に要注意

正規表現の例

正規表現から NFA へ (文字、選択肢)

正規表現に対応する NFA は正規表現の部分表現から再帰的に作成可能

ε と a に対応する NFA は初期状態一つと受理状態一つとそれを結ぶ ε 又は a と書かれた矢印

r|s の NFA は r の NFA と s の NFA から次のように作成:

全体の初期状態から r と s の初期状態へと、r と s の受理状態から全体の受理状態へ ε で結ぶ

正規表現から NFA へ (連結、繰返し)

rs の NFA は r の受理状態と s の初期状態を ε で結んで、r の初期状態は rs の初期状態、s の受理状態は rsの受理状態。

r* の NFA は次のように作成:

全体の初期状態と r の初期状態、r の受理状態と全体の受理状態、全体の初期状態と全体の受理状態、そして r の受理状態と初期状態 (逆!) を ε で結ぶ。

有限オートマトンから正規表現へ

変換は可能が、複雑

変換の原理:

  1. 状態 A から状態 B直接遷移できる正規表現を全ての状態の組み合わせのために作成
  2. 一個の状態だけを選んで、その状態の経由を含める正規表現を作成
  3. 2. のステップを繰り返して、経由できる状態を増加
  4. 途中で正規表現がどんどん複雑になるので、できる限り簡単化

正規表現の応用

実用化された正規表現: 記述上の違い

正規表現の便利な追加機能 (括弧内は相当する理論的な正規表現)

 

実用化された正規表現: 使い方の違い

実用化された正規表現の応用

実用化された正規表現の注意点

今週のまとめ

演習問題

(提出不要)

  1. 次の正規表現を NFA に変換し、NFA から DFA を作る: (a|c*)a|b
  2. 1. の言語を定義する右線形文法を作る。
  3. Σ = {0, 1} の 0 が偶数 (1 は何個でもよい) 語を受理する DFA を作る。
  4. (発展問題) 3. の言語の正規表現を作る。(ヒント: 変換するより正規表現を新たに作る方がいい)

次回の予定と準備

予定:

準備: