Разложить на множитель: a^2+9b^2. p^2+1

Сумма квадратов раскладывается на множители только через комплексные числа. По сути это та же разность квадратов.
a^2+9b^2=(a+3bi)(a-3bi)
p^2+1=(p+i)(p-i)
Здесь i - это мнимая единица, равная квадратному корню из (-1).