基本行列
    接線電界および接線磁界の振幅
     \(xy\)面(境界面)上の接線電界および接線磁界は,TE波およびTM波の入射波(あるいは透過波)と反射波の和によって表され次のようになる.
    \begin{eqnarray}
    \boldsymbol{E}_{\tan} &=& \Big\{ V_{_{\mathrm{TE}}} (z) (\boldsymbol{u}_t \times \boldsymbol{u}_z ) + V_{_{\mathrm{TM}}} (z) \boldsymbol{u}_t \Big\}
    e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}} \\
    \boldsymbol{H}_{\tan} &=& \Big\{ I_{_{\mathrm{TE}}} (z) \boldsymbol{u}_t - I_{_{\mathrm{TM}}} (z) (\boldsymbol{u}_t \times \boldsymbol{u}_z ) \Big\}
    e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}}
    \end{eqnarray}
    ここで,
    \begin{eqnarray}
    V_{_{\mathrm{TE}}}(z) &=& V_{_{\mathrm{TE}}}^+ e^{-jk_z z} + V_{_{\mathrm{TE}}}^- e^{jk_z z} \\
    I_{_{\mathrm{TE}}}(z) &=& Y_{_{\mathrm{TE}}} \Big( V_{_{\mathrm{TE}}}^+ e^{-jk_z z} - V_{_{\mathrm{TE}}}^- e^{jk_z z} \Big) \\
    V_{_{\mathrm{TM}}}(z) &=& V_{_{\mathrm{TM}}}^+ e^{-jk_z z} + V_{_{\mathrm{TM}}}^- e^{jk_z z} \\
    I_{_{\mathrm{TM}}}(z) &=& Y_{_{\mathrm{TM}}} \Big( V_{_{\mathrm{TM}}}^+ e^{-jk_z z} - V_{_{\mathrm{TM}}}^- e^{jk_z z} \Big) 
    \end{eqnarray}
    上式より,\(z=z_1\),\(z_2\)に対するTE波の基本行列\([\boldsymbol{F}_{_{\mathrm{TE}}}]\),
    ならびにはTM波の基本行列\([\boldsymbol{F}_{_{\mathrm{TM}}}]\)は次のようになる.
    \begin{gather}
    \begin{pmatrix}
    V_{_{\mathrm{TE}}}(z_1) \\ I_{_{\mathrm{TE}}}(z_1)
    \end{pmatrix}
    = [\boldsymbol{F}_{_{\mathrm{TE}}}]
    \begin{pmatrix}
    V_{_{\mathrm{TE}}}(z_2) \\ I_{_{\mathrm{TE}}}(z_2)
    \end{pmatrix}
    \\
    \begin{pmatrix}
    V_{_{\mathrm{TM}}}(z_1) \\ I_{_{\mathrm{TM}}}(z_1)
    \end{pmatrix}
    = [\boldsymbol{F}_{_{\mathrm{TM}}}]
    \begin{pmatrix}
    V_{_{\mathrm{TM}}}(z_2) \\ I_{_{\mathrm{TM}}}(z_2)
    \end{pmatrix}
    \end{gather}
    ここで,
    \begin{gather}
    [\boldsymbol{F}_{\mathrm{TE} \choose \mathrm{TM}}] = 
    \begin{pmatrix}
    \cos k_z (z_2 -z_1) & j Z_{\mathrm{TE} \choose \mathrm{TM}} \sin k_z (z_2-z_1) \\
    j Y_{\mathrm{TE} \choose \mathrm{TM}} \sin k_z (z_2-z_1)  & \cos k_z (z_2 -z_1) \\
    \end{pmatrix}
    \end{gather}
    あるいは,\(z_2 = z_1 + d\) のとき,
    \begin{gather}
    [\boldsymbol{F}_{\mathrm{TE} \choose \mathrm{TM}}] = 
    \begin{pmatrix}
    \cos k_z d & j Z_{\mathrm{TE} \choose \mathrm{TM}} \sin k_z d \\
    j Y_{\mathrm{TE} \choose \mathrm{TM}} \sin k_z d & \cos k_z d \\
    \end{pmatrix}
    \end{gather}
    
    接線成分に対する規格化
     係数を次のように規格化し,
    \begin{gather}
    \overline{V}_{_{\mathrm{TE}}}^{\pm} \equiv \sqrt{Y_{_{\mathrm{TE}}}} V_{_{\mathrm{TE}}}^{\pm}, \ \ \ \ \
    \overline{I}_{_{\mathrm{TE}}}^{\pm} \equiv \sqrt{Z_{_{\mathrm{TE}}}} I_{_{\mathrm{TE}}}^{\pm}, \\ 
    \overline{V}_{_{\mathrm{TM}}}^{\pm} \equiv \sqrt{Y_{_{\mathrm{TM}}}} V_{_{\mathrm{TM}}}^{\pm}, \ \ \ \ \
    \overline{I}_{_{\mathrm{TM}}}^{\pm} \equiv \sqrt{Z_{_{\mathrm{TM}}}} I_{_{\mathrm{TM}}}^{\pm}
    \end{gather}
    さらに次のようにおく.
    \begin{eqnarray}
    V_{_{\mathrm{TE}}} (z) 
    &=& \sqrt{Z_{_{\mathrm{TE}}}} \Big( \overline{V}_{_{\mathrm{TE}}}^+ e^{-jk_z z} + \overline{V}_{_{\mathrm{TE}}}^- e^{jk_z z} \Big) 
    \equiv \sqrt{Z_{_{\mathrm{TE}}}} \ \overline{V}_{_{\mathrm{TE}}} (z)  \\
    V_{_{\mathrm{TM}}} (z) 
    &=& \sqrt{Z_{_{\mathrm{TM}}}} \Big( \overline{V}_{_{\mathrm{TM}}}^+ e^{-jk_z z} + \overline{V}_{_{\mathrm{TM}}}^- e^{jk_z z} \Big) 
    \equiv \sqrt{Z_{_{\mathrm{TM}}}} \ \overline{V}_{_{\mathrm{TM}}} (z)  \\
    I_{_{\mathrm{TE}}} (z) 
    &=& \sqrt{Y_{_{\mathrm{TE}}}} \Big( \overline{I}_{_{\mathrm{TE}}}^+ e^{-jk_z z} - \overline{I}_{_{\mathrm{TE}}}^- e^{jk_z z} \Big) 
    \equiv \sqrt{Y_{_{\mathrm{TE}}}} \ \overline{I}_{_{\mathrm{TE}}} (z)  \\
    I_{_{\mathrm{TM}}} (z) 
    &=& \sqrt{Y_{_{\mathrm{TM}}}} \Big( \overline{I}_{_{\mathrm{TM}}}^+ e^{-jk_z z} - \overline{I}_{_{\mathrm{TM}}}^- e^{jk_z z} \Big) 
    \equiv \sqrt{Y_{_{\mathrm{TM}}}} \ \overline{I}_{_{\mathrm{TM}}} (z) 
    \end{eqnarray}
    これより,接線電磁界は,
    \begin{eqnarray}
    \boldsymbol{E}_{\tan} &=& \Big\{ \overline{V}_{_{\mathrm{TE}}} (z) \sqrt{Z_{_{\mathrm{TE}}}} ( \boldsymbol{u}_t \times \boldsymbol{u}_z ) 
    + \overline{V}_{_{\mathrm{TM}}} (z) \sqrt{Z_{_{\mathrm{TM}}}} \boldsymbol{u}_t \Big\}
    e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}}
    \\
    \boldsymbol{H}_{\tan} &=& \Big\{ \overline{I}_{_{\mathrm{TE}}} (z) \sqrt{Y_{_{\mathrm{TE}}}} \boldsymbol{u}_t 
    - \overline{I}_{_{\mathrm{TM}}} (z) \sqrt{Y_{_{\mathrm{TM}}}} (\boldsymbol{u}_t \times \boldsymbol{u}_z ) \Big\}
    e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}}
    \end{eqnarray}
    ただし,TE波,TM波ともに次のような関係がある(TE,TMの添字省略).
    \begin{eqnarray}
    \overline{V} 
    &=& \overline{V}^+ e^{-jk_z z} + \overline{V}^- e^{jk_z z}
    \\
    \overline{I} 
    &=& \overline{I}^+ e^{-jk_z z} - \overline{I}^- e^{jk_z z}
    \nonumber \\
    &=& \sqrt{Z} \big( I^+ e^{-jk_z z} - I^- e^{jk_z z} \big)
    \nonumber \\
    &=& \sqrt{Z} Y \big( V^+ e^{-jk_z z} - V^- e^{jk_z z} \big)
    \nonumber \\
    &=& \sqrt{Z} Y \sqrt{Z} \big( \overline{V}^+ e^{-jk_z z} - \overline{V}^- e^{jk_z z} \big)
    \nonumber \\
    &=& \overline{V}^+ e^{-jk_z z} - \overline{V}^- e^{jk_z z}
    \end{eqnarray}
    そして,電磁界の接線成分からなるモード関数を次式で定義する.
    \begin{align}
    &\bar{\boldsymbol{e}}_{_{\mathrm{TE}}} (\boldsymbol{\rho})
    = \sqrt{Z_{_{\mathrm{TE}}}} (\boldsymbol{u}_t \times \boldsymbol{u}_z ) e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}}
    \\
    &\bar{\boldsymbol{h}}_{_{\mathrm{TE}}} (\boldsymbol{\rho})
    = \sqrt{Y_{_{\mathrm{TE}}}} \boldsymbol{u}_t e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}}
    \\
    &\bar{\boldsymbol{e}}_{_{\mathrm{TM}}} (\boldsymbol{\rho})
    = \sqrt{Z_{_{\mathrm{TM}}}} \boldsymbol{u}_t e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}}
    \\
    &\bar{\boldsymbol{h}}_{_{\mathrm{TM}}} (\boldsymbol{\rho})
    = -\sqrt{Y_{_{\mathrm{TM}}}} (\boldsymbol{u}_t \times \boldsymbol{u}_z ) e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}}
    \end{align}
    ここで,
    \begin{align}
    &\bar{\boldsymbol{e}}_{_{\mathrm{TE}}} \times \bar{\boldsymbol{h}}_{_{\mathrm{TE}}}^*
    \nonumber \\
    &= \left\{ \sqrt{Z_{_{\mathrm{TE}}}} (\boldsymbol{u}_t \times \boldsymbol{u}_z ) e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}} \right\} 
    \times \left\{ \left( \sqrt{Y_{_{\mathrm{TE}}}} \right)^* \boldsymbol{u}_t e^{\pm j\boldsymbol{k}_t \cdot \boldsymbol{\rho}} \right\}
    \nonumber \\
    &= \sqrt{Z_{_{\mathrm{TE}}}} \left( \sqrt{Y_{_{\mathrm{TE}}}} \right)^* \boldsymbol{u}_z
    \\
    &\bar{\boldsymbol{e}}_{_{\mathrm{TM}}} \times \bar{\boldsymbol{h}}_{_{\mathrm{TM}}}^*
    \nonumber \\
    &= \left\{ \sqrt{Z_{_{\mathrm{TM}}}} \boldsymbol{u}_t e^{\mp j\boldsymbol{k}_t \cdot \boldsymbol{\rho}} \right\}
    \times \left\{ -\left( \sqrt{Y_{_{\mathrm{TM}}}} \right)^* (\boldsymbol{u}_t \times \boldsymbol{u}_z ) e^{\pm j\boldsymbol{k}_t \cdot \boldsymbol{\rho}} \right\}
    \nonumber \\
    &= \sqrt{Z_{_{\mathrm{TM}}}} \left( \sqrt{Y_{_{\mathrm{TM}}}} \right)^* \boldsymbol{u}_z
    \end{align}
    ただし,\(*\)は複素共役を示す.このように,TE波,TM波ともに同様の形の式となるので,添字を省略して,
    \begin{gather}
    \bar{\boldsymbol{e}} \times \bar{\boldsymbol{h}}^* = \sqrt{Z} \left( \sqrt{Y} \right)^* \boldsymbol{u}_z
    \end{gather}
    いま,\(Z \equiv |Z| e^{j\varphi}\)とおくと,\(Y = 1/Z = 1/|Z| e^{-j\varphi}\).これより,
    \begin{eqnarray}
    \bar{\boldsymbol{e}} \times \bar{\boldsymbol{h}}^* 
    &=& \sqrt{Z} \left( \sqrt{Y} \right)^* \boldsymbol{u}_z
    \nonumber \\
    &=& \left( |Z| e^{j\varphi} \right) ^{\frac{1}{2}} \left( \frac{1}{|Z|} e^{-j\varphi} \right) ^{\frac{1}{2}*} \boldsymbol{u}_z
    \nonumber \\
    &=& e^{j\varphi} \boldsymbol{u}_z
    \end{eqnarray}
    なお,\(Z\)が実数のとき,
    \begin{gather}
    \bar{\boldsymbol{e}}_{_{\mathrm{TE}}} \times \bar{\boldsymbol{h}}_{_{\mathrm{TE}}}^* 
    = \bar{\boldsymbol{e}}_{_{\mathrm{TM}}} \times \bar{\boldsymbol{h}}_{_{\mathrm{TM}}}^* = \boldsymbol{u}_z
    \end{gather}
    これより,
    \begin{eqnarray}
    \boldsymbol{E}_{\tan} &=& \ \overline{V}_{_{\mathrm{TE}}} (z) \bar{\boldsymbol{e}}_{_{\mathrm{TE}}} (\boldsymbol{\rho})
    + \ \overline{V}_{_{\mathrm{TM}}} (z) \bar{\boldsymbol{e}}_{_{\mathrm{TM}}} (\boldsymbol{\rho}) \\
    \boldsymbol{H}_{\tan} &=& \ \overline{I}_{_{\mathrm{TE}}} (z) \bar{\boldsymbol{h}}_{_{\mathrm{TE}}} (\boldsymbol{\rho})
    + \ \overline{I}_{_{\mathrm{TM}}} (z) \bar{\boldsymbol{h}}_{_{\mathrm{TM}}} (\boldsymbol{\rho})
    \end{eqnarray}
    ここで,
    \begin{gather}
    \overline{V}_{_{\mathrm{TE}}} (z)
    = \overline{V}_{_{\mathrm{TE}}}^+ e^{-jk_z z} + \overline{V}_{_{\mathrm{TE}}}^- e^{jk_z z}
    \\
    \overline{V}_{_{\mathrm{TM}}} (z)
    = \overline{V}_{_{\mathrm{TM}}}^+ e^{-jk_z z} + \overline{V}_{_{\mathrm{TM}}}^- e^{jk_z z}
    \\
    \overline{I}_{_{\mathrm{TE}}} (z)
    = \overline{V}_{_{\mathrm{TE}}}^+ e^{-jk_z z} - \overline{V}_{_{\mathrm{TE}}}^- e^{jk_z z}
    \\
    \overline{I}_{_{\mathrm{TM}}} (z) 
    = \overline{V}_{_{\mathrm{TM}}}^+ e^{-jk_z z} - \overline{V}_{_{\mathrm{TM}}}^- e^{jk_z z}
    \end{gather}
    伝送線路と同様の考え方で,\(\overline{V}_{_{\mathrm{TE}}}^+\),\(\overline{V}_{_{\mathrm{TE}}}^-\)を用いてTE波に対する散乱行列,
    また,\(\overline{V}_{_{\mathrm{TM}}}^+\),\(\overline{V}_{_{\mathrm{TM}}}^-\)を用いてTM波に対する散乱行列を各々定義することができる.