а) Обозначим \(\angle BAC = \alpha\). Сумма острых углов прямоугольного треугольника \(AHC\) равна \(90^\circ\), поэтому

\[\angle ACH = 90^\circ - \angle CAH = 90^\circ - \alpha.\]

Углы при основании \(AC\) равнобедренного треугольника равны \(\alpha\), значит

\[\angle BCH = \angle ACB - \angle ACH = \alpha - (90^\circ - \alpha) = 2\alpha - 90^\circ.\]

Окружность вписана в треугольник \(HBC\), поэтому её центр \(O\) — точка пересечения биссектрис, и \(CO\), \(OH\) — биссектрисы углов \(HCB\) и \(BHC\):

\[\angle OCH = \frac{\angle BCH}{2} = \alpha - 45^\circ, \qquad \angle CHO = \frac{\angle BHC}{2} = 45^\circ.\]

Из суммы углов треугольника \(COH\):

\[\angle COH = 180^\circ - 45^\circ - (\alpha - 45^\circ) = 180^\circ - \alpha.\]

Рассмотрим четырёхугольник \(ACOH\). Сумма его противоположных углов

\[\angle CAH + \angle COH = \alpha + 180^\circ - \alpha = 180^\circ,\]

значит он вписанный. Вписанные углы \(AHC\) и \(AOC\) опираются на сторону \(AC\), поэтому

\[\angle AOC = \angle AHC = 90^\circ,\]

что и требовалось доказать.

б) Окружность вписана в угол \(ABC\), поэтому её центр \(O\) лежит на биссектрисе \(BO\) этого угла.

Продлим биссектрису \(BO\) до пересечения с \(AC\) в точке \(M\). Треугольник \(ABC\) равнобедренный, поэтому его биссектриса \(BM\), проведённая к основанию, является также высотой и медианой.

В прямоугольном треугольнике \(AOC\) отрезок \(MO\) — медиана, проведённая из вершины прямого угла, значит она равна половине гипотенузы:

\[MO = \frac{AC}{2} = 5.\]

Тогда высота треугольника \(ABC\) равна

\[BM = BO + MO = 7 + 5 = 12,\]

а его площадь

\[S_{ABC} = \frac{1}{2}\cdot AC\cdot BM = \frac{1}{2}\cdot 10\cdot 12 = 60.\]

Ответ: б) \(60\).