菲涅耳方程中所用的变量在右图中，入射光线PO到达两种介质交界面上的点O时，部分光线被反射，反射光为OQ，而另一部分被折射，折射光为OS。定义入射光线、反射光线和折射光线各自与法线形成的夹角分别为
θ
i
{\displaystyle \theta _{i}\,}
、
θ
r
{\displaystyle \theta _{r}\,}
和
θ
t
{\displaystyle \theta _{t}\,}
。
入射角与反射角之间的关系由反射定律给出：
θ
i
=
θ
r
{\displaystyle \theta _{\mathrm {i} }=\theta _{\mathrm {r} }}
入射角与折射角之间的关系由折射定律给出。 普适的折射定律是:[1]
n
1
2
+
κ
1
2
sin
θ
i
=
n
2
2
+
κ
2
2
sin
θ
t
{\displaystyle {\sqrt {n_{1}^{2}+\kappa _{1}^{2}}}\sin \theta _{\mathrm {i} }={\sqrt {n_{2}^{2}+\kappa _{2}^{2}}}\sin \theta _{\mathrm {t} }}
其中n是折射率，
κ
{\displaystyle \kappa }
是消光系数。对于无吸收损耗介质，
κ
1
=
κ
2
=
0
{\displaystyle \kappa _{1}=\kappa _{2}=0}
，折射定律在此特殊情况下就是斯涅尔定律：
sin
θ
i
sin
θ
t
=
n
2
n
1
{\displaystyle {\frac {\sin \theta _{\mathrm {i} }}{\sin \theta _{\mathrm {t} }}}={\frac {n_{2}}{n_{1}}}}
虽然目前教科书还用复数斯涅尔定律来描述损耗介质中的折射，但最近的理论和实验已经验证它是无效的，不能正确描述和模拟电磁波在有吸收损耗介质参与的界面的反射和折射[1]。
一定功率的入射光被界面反射的功率比例称为反射率（反射比）
R
{\displaystyle R\,}
；折射的功率比例称为透射率（透射比）
T
{\displaystyle T\,}
[2]。对反射比和透射比的计算需要用到电动力学中的电磁波传播理论，具体方法可参考玻恩的《光学原理：光的传播、干涉和衍射的电磁理论》[3]以及杰克逊的《经典电动力学》[4]。
反射比和透射比的具体形式还与入射光的偏振有关。如果入射光的电矢量垂直於右图所在平面（即s偏振），反射比为
R
s
=
(
n
1
cos
θ
i
−
n
2
cos
θ
t
n
1
cos
θ
i
+
n
2
cos
θ
t
)
2
{\displaystyle R_{s}=\left({\frac {n_{1}\cos \theta _{i}-n_{2}\cos \theta _{t}}{n_{1}\cos \theta _{i}+n_{2}\cos \theta _{t}}}\right)^{2}}
其中
θ
t
{\displaystyle \theta _{t}\,}
是由折射定律从
θ
i
{\displaystyle \theta _{i}\,}
导出的。如果是无吸收损耗，还可用三角恒等式化简。
如果入射光的电矢量位于右图所在平面内（即p偏振），反射比为
R
p
=
(
n
1
cos
θ
t
−
n
2
cos
θ
i
n
1
cos
θ
t
+
n
2
cos
θ
i
)
2
{\displaystyle R_{p}=\left({\frac {n_{1}\cos \theta _{t}-n_{2}\cos \theta _{i}}{n_{1}\cos \theta _{t}+n_{2}\cos \theta _{i}}}\right)^{2}}
透射比无论在哪种情况下，都有
T
=
1
−
R
{\displaystyle T=1-R\,}
。
如果入射光是无偏振的（含有等量的s偏振和p偏振），反射比是两者的算数平均值：
R
=
R
s
+
R
p
2
{\displaystyle R={\frac {R_{s}+R_{p}}{2}}\,}
。
反射和折射光波的振幅与入射光波振幅的比值（通常称为反射系数和透射系数）也可用类似的方程给出，这些方程也称作菲涅耳方程:
r
s
=
n
1
cos
θ
i
−
n
2
cos
θ
t
n
1
cos
θ
i
+
n
2
cos
θ
t
{\displaystyle r_{\text{s}}={\frac {n_{1}\cos \theta _{\text{i}}-n_{2}\cos \theta _{\text{t}}}{n_{1}\cos \theta _{\text{i}}+n_{2}\cos \theta _{\text{t}}}}}
,
t
s
=
2
n
1
cos
θ
i
n
1
cos
θ
i
+
n
2
cos
θ
t
{\displaystyle t_{\text{s}}={\frac {2n_{1}\cos \theta _{\text{i}}}{n_{1}\cos \theta _{\text{i}}+n_{2}\cos \theta _{\text{t}}}}\,}
,
r
p
=
n
2
cos
θ
i
−
n
1
cos
θ
t
n
2
cos
θ
i
+
n
1
cos
θ
t
{\displaystyle r_{\text{p}}={\frac {n_{2}\cos \theta _{\text{i}}-n_{1}\cos \theta _{\text{t}}}{n_{2}\cos \theta _{\text{i}}+n_{1}\cos \theta _{\text{t}}}}}
,
t
p
=
2
n
1
cos
θ
i
n
2
cos
θ
i
+
n
1
cos
θ
t
.
{\displaystyle t_{\text{p}}={\frac {2n_{1}\cos \theta _{\text{i}}}{n_{2}\cos \theta _{\text{i}}+n_{1}\cos \theta _{\text{t}}}}\,.}
根据不同的体系和符号习惯，它们可以有不同形式。反射系数和透射系数通常用小写的
r
{\displaystyle r\,}
和
t
{\displaystyle t\,}
表示。在某些体系中，它们满足条件：
R
=
|
r
|
2
,
{\displaystyle R=|r|^{2},}
T
=
n
2
cos
θ
t
n
1
cos
θ
i
|
t
|
2
{\displaystyle T={\frac {n_{2}\cos \theta _{t}}{n_{1}\cos \theta _{i}}}|t|^{2}}
[5]
对於给定的折射率
n
1
{\displaystyle n_{1}\,}
和
n
2
{\displaystyle n_{2}\,}
且入射光为p偏振光时，当入射角为某一定值时
R
p
{\displaystyle R_{p}\,}
为零（无吸收损耗的情况），此时p偏振光被完全透射而无反射光出射。这个角度被称作布儒斯特角，对於空气或真空中的玻璃介质约为56°。注意
R
p
{\displaystyle R_{p}\,}
为零只是对於两种折射率都为实数的介质才有可能，对於会吸光的物质，例如金属和半导体，折射率是一个复数，从而
R
p
{\displaystyle R_{p}\,}
的最小值一般不为零。
当光从光密介质向光疏介质传播时（即
n
1
>
n
2
{\displaystyle n_{1}\ >n_{2}\,}
时），存在一个临界的入射角，对於大于此入射角的入射光
R
s
=
R
p
=
1
{\displaystyle R_{s}=R_{p}=1\,}
，此时入射光完全被界面反射。这种现象称作全内反射，临界角被称作全反射临界角，对於空气中的玻璃约为41°。
当光线以近法线入射（
θ
i
≈
θ
t
≈
0
{\displaystyle \theta _{i}\approx \theta _{t}\approx 0\,}
）时，反射比和透射比分别为：
R
=
R
s
=
R
p
=
(
n
1
−
n
2
n
1
+
n
2
)
2
{\displaystyle R=R_{s}=R_{p}=\left({\frac {n_{1}-n_{2}}{n_{1}+n_{2}}}\right)^{2}}
T
=
T
s
=
T
p
=
1
−
R
=
4
n
1
n
2
(
n
1
+
n
2
)
2
{\displaystyle T=T_{s}=T_{p}=1-R={\frac {4n_{1}n_{2}}{\left(n_{1}+n_{2}\right)^{2}}}}
对於普通的玻璃，反射比大约为4%。注意窗户对光波的反射包括前面一层以及后面一层，因而少量光波会在两层之间来回振荡形成干涉。如忽略这种干涉效应，这两层合并后的反射比为
2
R
1
+
R
{\displaystyle {\frac {2R}{1+R}}\,}
（见下）。
需要指出的是这里所有的讨论都假设介质的磁导率
μ
{\displaystyle \mu \,}
都等于真空磁导率
μ
0
{\displaystyle \mu _{0}\,}
。对於大多数电介质而言这是近似正确的，但对其他类型的物质来说不正确，因而若考虑这一点则菲涅耳方程的形式会更加复杂。