Gọi cạnh hình vuông là x 

Ta có \(\dfrac{\left(x-DF\right)\left(x-BE\right)}{2}=5\)

\(\Leftrightarrow\dfrac{x^2-x\times BE-x\times DF+DF\times BE}{2}=5\)

\(\Leftrightarrow\dfrac{x^2+DF\times BE}{2}-\dfrac{x\times BE}{2}-\dfrac{x\times DF}{2}=5\)

\(\Leftrightarrow\dfrac{x^2+DF\times BE}{2}-3-4=5\)

\(\Leftrightarrow\dfrac{x^2+DF\times BE}{2}=12\)   

\(\Leftrightarrow x^2+DF\times BE=24\)   (1)

Lại có \(\dfrac{x\times DF\times x\times BE}{4}=12\)

\(\Leftrightarrow x^2\times DF\times BE=48\)

\(\Leftrightarrow DF\times BE=\dfrac{48}{x^2}\) (2) 

Thay (2) vào (1) ta có

\(x^2+\dfrac{48}{x^2}=24\)

Giải pt => \(x=\sqrt{12+4\sqrt{6}}\)

=> Diện tích hình vuông là \(\left(\sqrt{12+4\sqrt{6}}\right)^2=12+4\sqrt{6}\) (đơn vị đo diện tích)

=> Diện tích tam giác AEF = \(12+4\sqrt{6}-3-4-5=4\sqrt{6}\) (đơn vị đo diện tích)