TMモードの場合，管壁\(C\)での境界条件 \begin{gather} \Psi^{\mathrm{TM}}=0 \ \ \ (\mbox{on} \ C) \end{gather} より，\(h (k_x x)\)，\(h(k_y y)\)は次のようになる． \begin{align} &h(k_x x) = \sin k_x x, \hspace{5mm} k_x = \frac{m\pi}{a} \ \ \ (m=1, 2, 3, \cdots) \\ &h(k_y y) = \sin k_y y, \hspace{5.2mm} k_y = \frac{n\pi}{b} \ \ \ (n=1, 2, 3, \cdots) \end{align} よって， \begin{gather} \psi ^{\mathrm{TM}} = \Psi ^{\mathrm{TM}} (x,y) \mathcal{Z}^{\mathrm{TM}} (z) \end{gather} ここで， \begin{align} &\Psi ^{\mathrm{TM}} = A_{(mn)} \sin \left( \frac{m\pi x}{a} \right) \sin \left( \frac{n\pi y}{b} \right) \\ &\mathcal{Z}^{\mathrm{TM}} = e^{-jk_{z,(mn)} z} \end{align} ただし，\(m\neq 0\)，\(n \neq 0\)．TEモードと同様にして， \begin{eqnarray} k^2 &=& \left( \frac{m\pi}{a} \right)^2 + \left( \frac{n\pi}{b} \right)^2 + k_{z,(mn)}^2 \nonumber \\ &=& k_{c,(mn)} ^2 + k_{z,(mn)}^2 \end{eqnarray} \begin{gather} k_{c,(mn)} = \sqrt{\left( \frac{m\pi}{a} \right)^2 + \left( \frac{n\pi}{b} \right)^2} \end{gather}
これより，TM\(_{mn}\)モード関数は， \begin{eqnarray} \boldsymbol{e}_{(mn)} &=& - \nabla _t \Psi ^{\mathrm{TM}} \nonumber \\ &=& -A_{(mn)} \nabla _t \left( \sin \left( \frac{m\pi x}{a} \right) \sin \left( \frac{n\pi y}{b} \right) \right) \nonumber \\ &=& -A_{(mn)} \left[ \frac{m\pi}{a} \cos \left( \frac{m\pi x}{a} \right) \sin \left( \frac{n\pi y}{b} \right) \boldsymbol{a}_x + \frac{n\pi}{b} \sin \left( \frac{m\pi x}{a} \right) \cos \left( \frac{n\pi y}{b} \right) \boldsymbol{a}_y \right] \\ \boldsymbol{h}_{(mn)} &=& \boldsymbol{a}_z \times \boldsymbol{e}_{(mn)} \nonumber \\ &=& A_{(mn)} \left[ -\frac{m\pi}{a} \cos \left( \frac{m\pi x}{a} \right) \sin \left( \frac{n\pi y}{b} \right) \boldsymbol{a}_y + \frac{n\pi}{b} \sin \left( \frac{m\pi x}{a} \right) \cos \left( \frac{n\pi y}{b} \right) \boldsymbol{a}_x \right] \nonumber \\ &=& A_{(mn)} \left[ \frac{n\pi}{b} \sin \left( \frac{m\pi x}{a} \right) \cos \left( \frac{n\pi y}{b} \right) \boldsymbol{a}_x -\frac{m\pi}{a} \cos \left( \frac{m\pi x}{a} \right) \sin \left( \frac{n\pi y}{b} \right) \boldsymbol{a}_y \right] \end{eqnarray} 正規化条件より，係数\(A_{(mn)}\)を求めると， \begin{eqnarray} &&\iint _{S} \big| \boldsymbol{e}_{(mn)} \big|^2 dS \nonumber \\ &=& A_{(mn)}^2 \iint _{(a \times b)} \left[ \left\{ \frac{m\pi}{a} \cos \left( \frac{m\pi x}{a} \right) \sin \left( \frac{n\pi y}{b} \right) \right\}^2 \right. \nonumber \\ && \left. + \left\{ \frac{n\pi}{b} \sin \left( \frac{m\pi x}{a} \right) \cos \left( \frac{n\pi y}{b} \right) \right\}^2 \right] dS =1 \end{eqnarray} 整理して， \begin{eqnarray} && A_{(mn)}^2 \left[ \left( \frac{m\pi}{a} \right)^2 \int _0^a \cos ^2 \left( \frac{m\pi x}{a} \right) dx \int _0^b \sin ^2 \left( \frac{n\pi y}{b} \right) dy \right. \nonumber \\ && \left. + \left( \frac{n\pi}{b} \right)^2 \int _0^a \sin ^2 \left( \frac{m\pi x}{a} \right) dx \int _0^b \cos ^2 \left( \frac{n\pi y}{b} \right) dy \right] \nonumber \\ &=& A_{(mn)}^2 \left[ \left( \frac{m\pi}{a} \right)^2 \frac{a}{2} \cdot \frac{b}{2} + \left( \frac{n\pi}{b} \right)^2 \frac{a}{2} \cdot \frac{b}{2} \right] \nonumber \\ &=& A_{(mn)}^2 \pi ^2 \frac{(mb)^2+ (nb)^2}{4ab} = 1 \end{eqnarray} よって，正規化係数\(A_{(mn)}\)は， \begin{eqnarray} A_{(mn)} &=& \frac{2}{\pi} \sqrt{\frac{ab}{(mb)^2+(na)^2}} \nonumber \\ &=& \frac{2}{\sqrt{ab}} \frac{1}{k_{c,(mn)}} \end{eqnarray} TE\(_{mn}\)モードとTM\(_{mn}\)モードをまとめて， \begin{gather} A_{mn} = \sqrt{\frac{\epsilon _m \epsilon _n}{ab}} \frac{1}{k_{c,mn}} \end{gather} ここでは省略するが，スカラ関数による面積分によっても求めることができる．