∴二面角A-EF-D的平面角的余弦值为. ……14分
而与所成角的大小等于二面角A-EF-D的平面角的大小.
∴,
……13分
∵平面DEF的一个法向量为,
∴为平面AEF的一个法向量. ……11分
即,令,则,z=-1,
则,
设为平面AEF的法向量,
F(0,,1). ∴. ……9分
解法2:分别以AB、AC、AP所在直线为x轴,y轴,z轴,建立如图的空间直角坐标系A-xyz,则A(0,0,0),D(0,0,1),E(,0,1),