Задача из журнала «Квант» (1997, №1)

Условие

Докажите, что не существует никакой (даже разрывной) функции $y=f(x)$, определенной при всех $x$, для которой

$f(f(x))=x^{2}-1997$.

Решение

Основная идея решения: разобраться, как устроены орбиты отображения $x\rightarrow g(x)=x^{2}-1997$, т.е. последовательность

$x, g(x), g(g(x)),…$

Нетрудно видеть, что при достаточно большом $q$, скажем, $q>1$ (в частности, при $q=1997$), функция $g(x)=x^{2}-q$ имеет две неподвижные точки — это корни уравнения $g(x)=x$; обозначим их $a$ и $b$. Кроме $a$ и $b$, уравнение $g(g(x))=x$ имеет еще два корня — обозначим их $u$ и $v$. Чтобы их найти, достаточно заметить, что многочлен

$g(g(x))-x=(x^{2}-q)^{2}-q-x$

делится на $g(x)-x=x^{2}-x-q$ и разложить его на множители:

$x^{4}-2qx^{2}-x+q^{2}-q=(x^{2}-x-q)(x^{2}+x-q+1)$;

$a$ и $b$ — корни первого из трехчленов, $u$ и $v$ — второго. Они существуют и различны при $1+4(q-1)>0$,

т.е. при $q>3/4$. При этом $g(u)=v$, $g(v)=u$. Все это хорошо видно из рисунка. Таким образом, точки $u$, $v$ образуют единственный цикл $u\rightarrow v\rightarrow u$ порядка 2 отображения $x\rightarrow g(x)$.
Предположим теперь, что $g(x) = f(f(x))$. Ясно, что неподвижные точки и циклы порядка 2 функции $f$ — это неподвижные точки функции $g$, и обратно: если $f(a)=f(f(c))=c$, т.е. $c=a$ или $c=b$.
А цикл порядка 2 функции $g$ должен получаться из цикла порядка 4 функции $f$: если $f(u)=z$, то $f(z)=v$; если $f(v)=w$, то $f(w)=u$. При этом $z$, $w$ отличны от $a$, $b$, $v$, $u$(и друг от друга). Но тогда $g(z)=f(f(z))=w$, $g(w)=z$.
Таким образом, у функции $g$ должен быть еще один цикл порядка 2, отличный от $u\rightarrow v\rightarrow u$. А такого у функции $g(x)=x^{2}-q$ нет.
Замечание Поскольку в задаче допускаются и разрывные функции $f$, мы никак не можем использовать специфические свойства множества R, на котором определена функция $g(x)=x^{2}-q$, и поэтому единственная информация о ней, которую нужно использовать — это структура орбит: сколько из них конечных(циклических), какие сливаются в одну орбиту и т.п.