lexical analyzer

/ˈlɛksɪkəl ˈænəlaɪzər/ レキシカルアナライザー

1. ソースコードを最小単位の「トークン」に分解するコンパイラの構成要素。

プログラミング言語で書かれたソースコードを読み込み、意味を持つ最小単位の要素(キーワード、識別子、演算子など)であるトークンに分解する役割を果たすコンパイラの主要部分です。これにより、次の段階である構文解析(パーシング)が可能になります。
The lexical analyzer is the first phase of a compiler. (字句解析器はコンパイラの最初の段階です。)
関連
syntax analyzer
semantic analyzer
front end