TMモードの場合,管壁Cでの境界条件 (1)ΨTM=0 (on C) より,h(kxx),h(kyy)は次のようになる. (2)h(kxx)=sinkxx,kx=mπa (m=1,2,3,⋯)(3)h(kyy)=sinkyy,ky=nπb (n=1,2,3,⋯) よって, (4)ψTM=ΨTM(x,y)ZTM(z) ここで, (5)ΨTM=A(mn)sin(mπxa)sin(nπyb)(6)ZTM=e−jkz,(mn)z ただし,m≠0,n≠0.TEモードと同様にして, k2=(mπa)2+(nπb)2+kz,(mn)2(7)=kc,(mn)2+kz,(mn)2 (8)kc,(mn)=(mπa)2+(nπb)2
これより,TMmnモード関数は, e(mn)=−∇tΨTM=−A(mn)∇t(sin(mπxa)sin(nπyb))(9)=−A(mn)[mπacos(mπxa)sin(nπyb)ax+nπbsin(mπxa)cos(nπyb)ay]h(mn)=az×e(mn)=A(mn)[−mπacos(mπxa)sin(nπyb)ay+nπbsin(mπxa)cos(nπyb)ax](10)=A(mn)[nπbsin(mπxa)cos(nπyb)ax−mπacos(mπxa)sin(nπyb)ay] 正規化条件より,係数A(mn)を求めると, ∬S|e(mn)|2dS=A(mn)2∬(a×b)[{mπacos(mπxa)sin(nπyb)}2(11)+{nπbsin(mπxa)cos(nπyb)}2]dS=1 整理して, A(mn)2[(mπa)2∫0acos2(mπxa)dx∫0bsin2(nπyb)dy+(nπb)2∫0asin2(mπxa)dx∫0bcos2(nπyb)dy]=A(mn)2[(mπa)2a2⋅b2+(nπb)2a2⋅b2](12)=A(mn)2π2(mb)2+(nb)24ab=1 よって,正規化係数A(mn)は, A(mn)=2πab(mb)2+(na)2(13)=2ab1kc,(mn) TEmnモードとTMmnモードをまとめて, (14)Amn=ϵmϵnab1kc,mn ここでは省略するが,スカラ関数による面積分によっても求めることができる.