Идея решения

Числитель раскладывается группировкой на две скобки, и график первого уравнения оказывается объединением прямой и гиперболы — но не целиком, а только той их части, где выполняется ОДЗ \(y < 4\). Вторая прямая проходит через начало координат, и всё сводится к подсчёту точек пересечения.

Шаг 1. Область допустимых значений

Под корнем в знаменателе должно стоять строго положительное число (на него делят):

\[4 - y > 0 \quad\Longleftrightarrow\quad y < 4.\]

При этом условии знаменатель положителен, поэтому дробь равна нулю ровно тогда, когда равен нулю числитель.

Шаг 2. Раскладываем числитель

\[xy^2 - 2xy - 4y + 8 = xy(y - 2) - 4(y - 2) = (y - 2)(xy - 4).\]

Важно! Из последних двух слагаемых выносим именно \(-4\), а не \(4\): \(-4y + 8 = -4(y - 2)\). Только тогда получится общая скобка \((y-2)\) — с плюсом группировка не сойдётся.

Шаг 3. Что за график получился

\((y-2)(xy-4) = 0\) при \(y < 4\) означает: либо \(y = 2\), либо \(xy = 4\).

Прямая \(y = 2\) подходит целиком, ведь \(2 < 4\).

Гипербола \(y = \dfrac4x\) — только там, где \(y < 4\). При \(x < 0\) имеем \(y < 0\), годится вся левая ветвь. При \(x > 0\) условие \(\dfrac4x < 4\) равносильно \(x > 1\).

Точка \((1;\ 4)\) из графика выколота.

Шаг 4. Пересечения с прямой y = 2

\(ax = 2\). При \(a = 0\) решений нет, при \(a \neq 0\) ровно одна точка \(\left(\dfrac2a;\ 2\right)\).

Шаг 5. Пересечения с гиперболой

Подставляем \(y = ax\) в \(xy = 4\):

\[a x^2 = 4.\]

При \(a \leqslant 0\) левая часть неположительна — решений нет.

При \(a > 0\):

\[x = \pm\frac{2}{\sqrt a},\qquad y = ax = \pm 2\sqrt a.\]

Левая точка \(\left(-\dfrac{2}{\sqrt a};\ -2\sqrt a\right)\): здесь \(y < 0\), условие \(y < 4\) выполнено всегда.

Правая точка \(\left(\dfrac{2}{\sqrt a};\ 2\sqrt a\right)\): нужно \(2\sqrt a < 4\), то есть \(\sqrt a < 2\), то есть \(a < 4\).

Шаг 6. Собираем

При \(a \leqslant 0\) точек не больше одной. При \(a \geqslant 4\) получаем \(1 + 1 = 2\) точки. Три точки возможны только при \(0 < a < 4\).

Шаг 7. Проверяем, не склеились ли точки

Правая точка гиперболы может совпасть с точкой на прямой \(y = 2\). Для этого нужно \(2\sqrt a = 2\), то есть \(a = 1\). Тогда обе точки — это \((2;\ 2)\), и различных решений остаётся только два.

Важно! В условии сказано «3 различных решения». Формально при \(a = 1\) уравнения дают три корня, но два из них задают одну и ту же точку. Этот случай обязательно нужно выколоть.

Ответ

\[a \in (0;\ 1) \cup (1;\ 4).\]

Ответ: \(a \in (0;\ 1) \cup (1;\ 4)\)