Có bạn hỏi mình bài toán này lúc đang đi chơi, nhìn cực kỳ rối ren, như sau

Bài toán. Tìm $f:\,\mathbb R\to\mathbb R$ giảm ngặt và thỏa mãn\[f(x + y) + f\left( {f(x) + f(y)} \right) = f\left( {f(x + f(y)) + f(y + f(x))} \right),\forall x,{\mkern 1mu} y \in\mathbb R. \]

Đêm qua xỉn, bài thì lại nhìn hình thức xấu như cave U50 nên chán chả nghĩ ra cái gì. Hôm nay đọc lại thấy chữ “giảm ngặt”, bông nghĩ đến một mẹo vặt hồi còn kiếm cơm bằng ôn thi Đại Học. Đó là lượng tương đương về dấu với hàm đơn điệu, thế là có lời giải như sau hé hé 😀 😀

Lời giải. Lần lượt thế $y=x$ và $x,\,y$ bởi $f(x),\,f(y)$, ta có được\[\begin{array}{l}
f\left( {2x} \right) + f\left( {2f\left( x \right)} \right) &= f\left( {2f\left( {x + f\left( x \right)} \right)} \right),\\
f\left( {2f\left( x \right)} \right) + f\left( {2f\left( {f\left( x \right)} \right)} \right) &= f\left( {2f\left( {f\left( x \right) + f\left( {f\left( x \right)} \right)} \right)} \right).
\end{array}\]Trừ vế cho vế ta được\[f\left( {2f\left( {f\left( x \right)} \right)} \right) – f\left( {2x} \right) = f\left( {2f\left( {f\left( x \right) + f\left( {f\left( x \right)} \right)} \right)} \right) – f\left( {2f\left( {x + f\left( x \right)} \right)} \right);\;(*).\]Do $f$ giảm, nên với các số thực $a$ và $b$ ta có $f(a)-f(b)$ tương đương về dấu với $b-a$. Ký hiệu $A\sim B$ nếu $A$ tương đương về dấu với $B$, vế trái $(*)$ là $L$ còn vế phải $(*)$ là $R$, để có $L \sim 2\left( {x – f\left( {f\left( x \right)} \right)} \right)$ và\[R\sim 2\left( {f\left( {x + f\left( x \right)} \right) – f\left( {f\left( x \right) + f\left( {f\left( x \right)} \right)} \right)} \right)\sim 2\left( {f\left( {f\left( x \right)} \right) – x} \right).\]Vậy là có đẳng thức sau với mỗi số thực $x$\[f\left( {f\left( x \right)} \right) = x;\;(2*).\] Đặt $f(0)=a$ ta có ngay $f(a)=0$, thay $x=a,\,y=0$ vào ràng buộc ban đầu do tính giảm ngặt nên $a=0$. Bây giờ thay $y=0$ vào ràng buộc ban đầu, kết hợp thêm $(2*)$ ta có\[x + f\left( x \right) = f\left( x \right) + f\left( {f\left( x \right)} \right) = f\left( {f\left( x \right) + f\left( {f\left( x \right)} \right)} \right) = f\left( {f\left( x \right) + x} \right).\]Xét $D=\left\{x+f(x):\;x\in\mathbb R.\right\}$, ta có $f(d)=d$ với mọi $d\in D$, kết hợp tính giảm ngặt ta có $D$ là đơn tập, nghĩa là tồn tại hằng số $d$ sao cho với mọi $x$ ta có $$x+f(x)=d.$$Đến đây, bằng việc rút $f(x)=-x+d$ đem lên thử lai vào ràng buộc đề ra sẽ có được $d=0$, như vậy là có nghiệm hàm \[f(x)=-x,\,\quad\forall\,x\in\mathbb R.\]