а) Пусть прямая \(NM\) пересекает ребро \(AB\) в точке \(K\). Тогда сечением пирамиды является треугольник \(SMK\); докажем, что \(SM = SK\).

Применим теорему Менелая для треугольника \(ABC\) и прямой \(NK\):

\[\frac{BK}{KA}\cdot\frac{AM}{MC}\cdot\frac{CN}{NB} = 1, \qquad \frac{BK}{KA}\cdot\frac{2}{1}\cdot\frac{1}{4} = 1 \quad\Longrightarrow\quad \frac{BK}{KA} = \frac{2}{1}.\]

Вместе с \(BK + KA = AB = 3\) это даёт \(BK = 2\) и \(KA = 1\).

Пирамида правильная, поэтому её боковые грани — равные равнобедренные треугольники, и \(\angle SAK = \angle SCM = \alpha\). Тогда \(\triangle SAK = \triangle SCM\) по двум сторонам и углу между ними:

\[SA = SC = 5, \qquad AK = CM = 1, \qquad \angle SAK = \angle SCM = \alpha.\]

Отсюда \(SK = SM\), то есть сечение — равнобедренный треугольник. Что и требовалось доказать.

б) Найдём \(\cos\alpha\) по теореме косинусов для треугольника \(SCA\):

\[\cos\alpha = \frac{SC^2 + AC^2 - SA^2}{2\cdot SC\cdot AC} = \frac{25 + 9 - 25}{2\cdot 5\cdot 3} = \frac{3}{10}.\]

Теперь теорема косинусов для треугольника \(SCM\):

\[SM^2 = SC^2 + MC^2 - 2\cdot SC\cdot MC\cos\alpha = 25 + 1 - 2\cdot 5\cdot 1\cdot\frac{3}{10} = 23.\]

Треугольник \(ABC\) правильный, поэтому \(\angle MAK = 60^\circ\), и по теореме косинусов для треугольника \(MAK\):

\[MK^2 = MA^2 + KA^2 - 2\cdot MA\cdot KA\cos 60^\circ = 4 + 1 - 2\cdot 2\cdot 1\cdot\frac{1}{2} = 3.\]

В равнобедренном треугольнике \(SMK\) проведём высоту \(SH\); она же медиана, поэтому \(MH = \dfrac{1}{2}MK\). По теореме Пифагора

\[SH^2 = SM^2 - MH^2 = 23 - \frac{3}{4} = \frac{89}{4} \quad\Longrightarrow\quad SH = \frac{\sqrt{89}}{2}.\]

Тогда площадь сечения равна

\[S_{SMK} = \frac{1}{2}\cdot SH\cdot MK = \frac{1}{2}\cdot\frac{\sqrt{89}}{2}\cdot\sqrt{3} = \frac{\sqrt{267}}{4}.\]

Ответ: б) \(\dfrac{\sqrt{267}}{4}\).