Do cần tìm một phản ví dụ cho một phát biểu của một bạn giáo viên về tính đơn điệu của hàm khả vi, tôi đã tự đặt ra bài toán sau

Bài toán. Tồn tại hay không hàm số $f:\,\mathbb R\to\mathbb R$ có đạo hàm trên $\mathbb R$, thỏa mãn\[\left\{ {f’\left( x \right):\:x \in \mathbb R \setminus \mathbb Q} \right\} = \left\{ 0 \right\},\;\;\,\left\{ {f’\left( x \right):\:x \in \mathbb Q} \right\} \subset {\left(0;\,+\infty\right) }?\]

Nếu ta chọn hàm Dirichlet là hàm đặc trưng của $\mathbb Q$ trên $\mathbb R$ \[{\chi _{\mathbb Q}}\left( x \right) = \left\{ \begin{array}{l}
0,\;\text{nếu}\;x\in\mathbb R\setminus\mathbb Q,\\
1,\;\text{nếu}\;x\in\mathbb Q,
\end{array} \right.\]rồi tìm cách lấy nguyên hàm thì thất bại, vì ${\chi _{\mathbb Q}}\left( x \right)$ không khả tích theo nghĩa Riemann. Vì thế, tôi bị bế tắc khá lâu. Cuối cùng, do nóng ruột nên tôi tìm kiếm sự trợ giúp của các đồng nghiệp và nhận được vài lời khuyên hữu ích từ họ.

Dưới đây là câu trả lời cho bài toán trên, mấu chốt lời giải là định lý nêu sau

Định lý Darboux. Cho $\mathbb I$ là một đoạn đóng trên đường thẳng thực, $f:\,\mathbb I\to\mathbb R$ là một hàm thực khả vi trên $\mathbb I$. Khi đó, nếu như ta lấy ra $a,\,b\in\mathbb I$ thỏa mãn $a<b$ và $f'(a)\ne f'(b)$, thế thì với mỗi giá trị $m$ nằm giữa $f'(a)$ và $f'(b)$ sẽ phải tồn tại một số $c$ ở trong khoảng mở $\left(a;\,b\right)$ để sao cho $m=f'(c)$.

Chứng minh định lý Darboux. Không mất tính tổng quát, ta có thể đi giả sử $f'(a)<f'(b)$, khi đó xét hàm số $g(x)=f(x)-mx$. Rõ ràng, $g:\,\mathbb I\to\mathbb R$ cũng là một hàm thực khả vi trên $\mathbb I$ và thỏa mãn $g'(a)<0<g'(b)$. Do $g(x)$ liên tục trên $[a;\,b]$ nên nó đạt giá trị nhỏ nhất tại $c\in [a;\,b]$, giờ ta xét ba trường hợp

1. Nếu $c=a$, vì $f(x)\ge f(a)$ với $x$ đủ gần $a$ ở bên phải, nên có  mâu thuẫn là\[0 \le \mathop {\lim }\limits_{x \to {a^ + }} \frac{{g\left( x \right) – g\left( a \right)}}{{x – a}} = g’\left( a \right) < 0.\]
2. Nếu $c=b$, vì $f(x)\ge f(b)$ với $x$ đủ gần $b$ ở bên trái, nên có  mâu thuẫn là\[0 \ge \mathop {\lim }\limits_{x \to {b^ – }} \frac{{g\left( x \right) – g\left( b \right)}}{{x – b}} = g’\left( b \right) > 0.\]
3. Nếu $c\in (a;\,b)$ thì theo bổ đề Fermat, ta có $g'(c)=0$ tức là $m=f'(c)$.

Ta hoàn tất chứng minh cho định lý Darboux.

$\square$

Bây giờ quay lại bài toán ban đầu, ta có lời giải sau đây.

Lời giải bài toán. Giả sử tồn tại một hàm số như thế, lấy ra một số hữu tỷ $r$ bất kỳ và giả sử $f'(r)=\alpha>0$, lúc đó thì theo định lý của bác Darboux ta có được\[\left( {0;{\mkern 1mu} \alpha } \right) \subset f’\left(\mathbb R\right)= \left\{ {f’\left( x \right):\:x \in \mathbb R} \right\} = \left\{ 0 \right\} \cup \left\{ {f’\left( x \right):\:x \in\mathbb Q} \right\}.\]Nhưng do $\mathbb Q$ có thể viết được thành một dãy số (tập đếm được), cho nên $f’\left(\mathbb R\right)$ cũng có thể viết được thành một dãy số. Và điều này, trái với bổ đề Cantor.

Vậy, không tồn tại hàm số thỏa mãn yêu cầu.

Chú ý. Các hàm thực có tính chất nhận mọi giá trị trung gian giữa hai giá trị đã nhận, gọi là các hàm IVP viết tắt của “Intermediate Value Property”. Các hàm liên tục là IVP, và qua định lý Darboux thì đạo hàm của một hàm khả vi cũng sẽ là IVP cho dù hàm đó không khả vi liên tục. Còn những hàm IVP nào khác ư? Xin mời đọc thêm ở cuốn Differentiation of Real Functions của bác A.M.Bruckner.