Các bài phương trình-hệ phương trình-bất phương trình thông thường không phải thuộc lớp các bài khó hay là đẹp ở các cuộc thi hsg Toán, vì đa số các kỹ năng sử dụng để giải thường là xù xì trâu bò. Bài toán hệ phương trình ở dưới đây, cũng không là ngoại lệ nếu chỉ dùng biến đổi đại số. Tuy nhiên nếu để ý kỹ kết cấu, thì dùng hình học vào cũng tạo cảm giác đẹp đẽ.

Bài toán. Tìm các cặp nghiệm thực của hệ phương trình sau$$\begin{cases}
x+y+\sqrt{xy}&=2,\\
y+z+\sqrt{yz}&=3,\\
z+x+\sqrt{zx}&=5.
\end{cases}$$ Lời giải. Giả sử $(x,\,y,\,z)$ là bộ nghiệm thực của hệ, rõ ràng là các số $x,\,y,\,z$ không trái dấu. Nếu $x\le 0$, thì có luôn $y\le 0$ và khi đó có mâu thuẫn là $$2=x+y+\sqrt{xy}=-\frac{1}{2}\left(\sqrt{-x}-\sqrt{-y}\right)^2+\frac{x+y}{2}\le 0.$$Vậy, $x,\,y,\,z$ là các số thực dương. Dựng điểm $P$ và các điểm $A,\,B,\,C$ sao cho\[PA = \sqrt x ,{\mkern 1mu} {\kern 1pt} PB = \sqrt y ,PC = \sqrt z ,{\mkern 1mu} {\kern 1pt} \angle APB = \angle BPC = \angle CPA = \frac{{2\pi }}{3}.\]

Theo định lý hàm số Cosin ta có $AB=\sqrt 5,\,BC=\sqrt 3,\,CA=\sqrt 2$ và $$\sqrt 6=2S_{\Delta ABC}=\left(\sqrt{xy}+\sqrt{yz}+\sqrt{zx}\right)\sin\frac{{2\pi }}{3}.$$Vậy, $\sqrt{xy}+\sqrt{yz}+\sqrt{zx}=2\sqrt 2$, và cộng các vế của hệ lại ta có $$x+y+z=5-\sqrt 2.$$Như vậy là có được $\sqrt x+\sqrt y+\sqrt z=\sqrt{5+3\sqrt 2}$, và\[4 = x + y + {\left( {\sqrt x + \sqrt y } \right)^2} = 5 – \sqrt 2 – z + {\left( {\sqrt {5 + 3\sqrt 2 } – \sqrt z } \right)^2} .\]Từ đó có $\sqrt z = \dfrac{{3 + \sqrt 2 }}{{\sqrt {5 + 3\sqrt 2 } }}$, cho ta $z = \dfrac{{19 – 3\sqrt 2 }}{7}$, cũng lại có\[6 = y + z + {\left( {\sqrt y + \sqrt z } \right)^2} = 5 – \sqrt 2 – x + {\left( {\sqrt {5 + 3\sqrt 2 } – \sqrt x } \right)^2}.\]Nên lại có $\sqrt x = \dfrac{{2 + \sqrt 2 }}{{\sqrt {5 + 3\sqrt 2 } }}$, cho ta $x = \dfrac{{6+2\sqrt 2 }}{7}$, và có nốt $y = \dfrac{{10-6\sqrt 2 }}{7}$. Thử lại, để thấy rằng hệ đã cho có bộ nghiệm thực duy nhất là\[\left( {x,{\mkern 1mu} {\kern 1pt} y,{\mkern 1mu} {\kern 1pt} z} \right) = \left( {\frac{{6 + 2\sqrt 2 }}{7},{\mkern 1mu} {\kern 1pt} \frac{{10 – 6\sqrt 2 }}{7},{\mkern 1mu} {\kern 1pt} \frac{{19 – 3\sqrt 2 }}{7}} \right).\]

$\square$