C’est parmi les exercices qui m’ont marqué quand j’étais en terminale. L’idée se base sur un théorème très puissant, l’image d’un segment par une fonction continue est également un segment. On considère la fonction $h=f-g$, la fonction $h$ est continue sur $[a,b]$ comme différence de deux fonctions continues. On pose alors $h([0,1])=[m,M]$. Il s’agit de montrer que $0\in[m,M]$. On sait que pour tout $x\in[0,1]$ on a $m\leq f(x)-g(x)\leq M$, en particulier pour $f(x)$ on obtient $m\leq f(f(x))-g(f(x))\leq M$ et $m\leq f(g(x))-g(g(x))\leq M$, on somme les deux inégalités et on obtient $2m\leq f(f(x))-g(g(x))\leq 2M$, une récurrence simple permet de montrer que pour tout entier naturel $n$ non nul on a
$$nm\leq f^{[n]}(x)-g^{[n]}(x)\leq nM $$
Or, on a d’une part $m\leq \dfrac{1}{n}$ et $M\geq \dfrac{-1}{n}$ et alors en faisant tendre $n\to \infty$ dans les deux dernières inégalités, on obtient $m\leq 0\leq M$, CQFD.