Основание треугольной призмы, вписанной в цилиндр, вписано в окружность, а так как основание - прямоугольный треугольник, то гипотенуза этого треугольника есть диаметр окружности. По теореме Пифагора найдем гипотенузу:

$с=\sqrt{а^2+в^2}=\sqrt{5^2+12^2}=\sqrt{25+144}=\sqrt{169}=13$

Объем цилиндра равен произведению площади основания и высоты:

$V=\frac4{\mathrm\pi}\times\mathrm{πR}^2=\frac4{\mathrm\pi}\times\mathrm\pi\times\left(\frac{13}2\right)^2=\frac4{\mathrm\pi}\times\mathrm\pi\times\frac{169}4=169$