Пункт а. Область определения

Знаменатель не должен обращаться в ноль:

\[25\sin^2 x - 9 \neq 0,\qquad \sin^2 x \neq \dfrac{9}{25},\qquad \sin x \neq \pm\dfrac{3}{5}.\]

Важно! Числа \(\pm\dfrac{3}{5}\) не табличные, и соблазн «забить» на это условие велик. Но именно оно убивает один из двух корней числителя — без ОДЗ ответ будет лишним наполовину.

Числитель равен нулю

\[5\cos 2x - 3\cos x + 1 = 0.\]

Берём ту форму двойного угла, где только косинус: \(\cos 2x = 2\cos^2 x - 1\):

\[5\left(2\cos^2 x - 1\right) - 3\cos x + 1 = 0,\qquad 10\cos^2 x - 3\cos x - 4 = 0.\]

Пусть \(c = \cos x\):

\[10c^2 - 3c - 4 = 0,\qquad D = 9 + 160 = 169,\qquad \sqrt{D} = 13,\]

\[c_1 = \dfrac{3 + 13}{20} = \dfrac{4}{5},\qquad c_2 = \dfrac{3 - 13}{20} = -\dfrac{1}{2}.\]

Проверяем оба корня по ОДЗ

Случай \(\cos x = \dfrac{4}{5}\). Тогда

\[\sin^2 x = 1 - \cos^2 x = 1 - \dfrac{16}{25} = \dfrac{9}{25},\]

то есть \(\sin x = \pm\dfrac{3}{5}\) — ровно запрещённое значение. Знаменатель обращается в ноль, корень посторонний.

Случай \(\cos x = -\dfrac{1}{2}\). Тогда \(\sin^2 x = 1 - \dfrac{1}{4} = \dfrac{3}{4} \neq \dfrac{9}{25}\) — всё в порядке:

\[x = \pm\dfrac{2\pi}{3} + 2\pi k,\quad k \in \mathbb{Z}.\]

Важно! Проверку удобно вести не через сам \(x\), а через \(\sin^2 x = 1 - \cos^2 x\). Так сразу видно, попадает ли найденный косинус в запрещённый набор, и не нужно возиться с углами.

Пункт б. Отбор корней

Отрезок \(\left[\dfrac{7\pi}{2};\ 5\pi\right]\) имеет длину \(\dfrac{3\pi}{2}\): начинаем внизу окружности, заканчиваем слева.

В шестых долях \(\pi\): \(\dfrac{7\pi}{2} = \dfrac{21\pi}{6}\), \(5\pi = \dfrac{30\pi}{6}\), а \(\dfrac{2\pi}{3} = \dfrac{4\pi}{6}\).

\[x = \dfrac{2\pi}{3} + 2\pi k = \dfrac{(4 + 12k)\pi}{6}:\quad k = 2 \to \dfrac{28\pi}{6} = \dfrac{14\pi}{3}\ —\ \text{подходит};\quad k = 1 \to \dfrac{16\pi}{6}\ (16 < 21);\]

\[x = -\dfrac{2\pi}{3} + 2\pi k = \dfrac{(-4 + 12k)\pi}{6}:\quad k = 2 \to \dfrac{20\pi}{6}\ (20 < 21),\quad k = 3 \to \dfrac{32\pi}{6}\ (32 > 30)\ —\ \text{мимо}.\]

Вторая серия промахнулась буквально на \(\dfrac{\pi}{6}\) — на рисунке это светлая точка сразу за началом дуги.

Ответ: а) \(\pm\dfrac{2\pi}{3} + 2\pi k,\ k \in \mathbb{Z}\);   б) \(\dfrac{14\pi}{3}\)