Идея решения

Дробь равна нулю, когда числитель равен нулю, а знаменатель — нет. Значит, сначала требуем у числителя два различных корня (дискриминант строго положителен), а потом выбрасываем те \(a\), при которых один из корней «съедает» знаменатель.

Шаг 1. Условие для числителя

\[x^2 - 2x + \left(a^2 - 6a\right) = 0,\qquad \frac{D}{4} = 1 - \left(a^2 - 6a\right) = 1 + 6a - a^2.\]

Два различных корня ⟺ \(\dfrac{D}{4} > 0\):

\[1 + 6a - a^2 > 0 \quad\Longleftrightarrow\quad a^2 - 6a - 1 < 0.\]

Корни: \(a = 3 \pm \sqrt{10}\), ветви вверх, поэтому

\[a \in \left(3 - \sqrt{10};\ 3 + \sqrt{10}\right).\]

Сами корни числителя при этом равны

\[x_{1,2} = 1 \pm \sqrt{1 + 6a - a^2}.\]

Шаг 2. Когда знаменатель мешает

Знаменатель обращается в ноль при \(x^2 = a\). Найдём те \(a\), при которых это случается ровно с корнем числителя.

Пусть \(x\) — корень числителя и одновременно \(x^2 = a\). Подставим \(x^2 = a\) в числитель:

\[a - 2x + a^2 - 6a = 0 \quad\Longrightarrow\quad a^2 - 5a = 2x \quad\Longrightarrow\quad x = \frac{a^2 - 5a}{2}.\]

Важно! Приём стандартный: вместо того чтобы подставлять громоздкие корни \(1 \pm \sqrt{\ldots}\), мы подставляем само условие \(x^2 = a\). Это убирает корни из выкладок целиком.

Шаг 3. Решаем систему

Осталось учесть, что \(x^2 = a\):

\[\left(\frac{a^2-5a}{2}\right)^2 = a \quad\Longrightarrow\quad \left(a^2 - 5a\right)^2 = 4a \quad\Longrightarrow\quad a^2(a-5)^2 = 4a.\]

Значение \(a = 0\) подходит сразу. При \(a \neq 0\) делим на \(a\):

\[a(a-5)^2 = 4,\qquad a^3 - 10a^2 + 25a - 4 = 0.\]

Подбираем целый корень: при \(a = 4\) получаем \(64 - 160 + 100 - 4 = 0\) ✓. Делим многочлен на \((a-4)\):

\[a^3 - 10a^2 + 25a - 4 = (a - 4)\left(a^2 - 6a + 1\right),\]

\[a^2 - 6a + 1 = 0 \quad\Longrightarrow\quad a = 3 \pm 2\sqrt2.\]

Шаг 4. Проверяем «плохие» значения

Получили четыре значения: \(0\), \(4\), \(3 - 2\sqrt2\), \(3 + 2\sqrt2\). Все они лежат внутри промежутка из шага 1, ведь

\[3 - \sqrt{10} \approx -0{,}16,\quad 3 - 2\sqrt2 \approx 0{,}17,\quad 3 + 2\sqrt2 \approx 5{,}83,\quad 3 + \sqrt{10} \approx 6{,}16.\]

Посмотрим, что происходит в каждом.

\(a = 0\): числитель \(x^2 - 2x = 0\) даёт \(x = 0\) и \(x = 2\); знаменатель \(x^2 \neq 0\) запрещает \(x = 0\). Остаётся один корень.

\(a = 4\): числитель \(x^2 - 2x - 8 = 0\) даёт \(x = 4\) и \(x = -2\); знаменатель \(x^2 \neq 4\) запрещает \(x = -2\). Остаётся один корень.

\(a = 3 \mp 2\sqrt2\): корни числителя равны \(1 \pm \sqrt2\), и один из них как раз даёт \(x^2 = a\) — он запрещён, остаётся один корень.

Во всех четырёх случаях корень остаётся один, значит эти значения в ответ не идут.

Важно! Оба корня сразу знаменатель убить не может. Для этого нужно было бы \(x_1^2 = x_2^2 = a\), то есть \(x_2 = -x_1\), а сумма корней числителя равна \(2 \neq 0\). Поэтому «плохое» \(a\) всегда оставляет ровно один корень, а не ноль.

Шаг 5. Ответ

Из промежутка \(\left(3 - \sqrt{10};\ 3 + \sqrt{10}\right)\) выкалываем четыре найденные точки.

Ответ

\[a \in \left(3-\sqrt{10};\ 0\right) \cup \left(0;\ 3-2\sqrt2\right) \cup\]

\[\cup\ \left(3-2\sqrt2;\ 4\right) \cup \left(4;\ 3+2\sqrt2\right) \cup \left(3+2\sqrt2;\ 3+\sqrt{10}\right).\]

Ответ: \(a \in \left(3-\sqrt{10};\ 0\right) \cup \left(0;\ 3-2\sqrt2\right) \cup \left(3-2\sqrt2;\ 4\right) \cup \left(4;\ 3+2\sqrt2\right) \cup \left(3+2\sqrt2;\ 3+\sqrt{10}\right)\)