требуется изготовить коническую воронку для слива с образующей,равной 20 см.Какова должна быть высота воронки,чтобы ее объем был наибольшим?

Решение верно, далее нужно не интегрировать, а брать производную (найти екстримальные, стационарные, критические и т.п. - что суть одно и то же - точки) и приравнивать ее нулю.
dV/da=(1/3)*n*L^3*(-2*cosa*sina*sina+(cosa)^2*cosa)=0
-2*cosa*sina*sina+(cosa)^2*cosa=0
cosa*(-2*(sina)^2+(cosa)^2)=0

cosa=0 - не имеет физического смысла, т.к. при этом объем равен нулю V=(1/3)*n*L^3*(0)^2*sina=0

-2*(sina)^2+(cosa)^2=0
-2*(sina)^2+1-(sina)^2=0
3*(sina)^2=1, откуда
sina=sqr(1/3) и подставляя это значение в формулу для H:
H=L*sina=L*sqr(1/3)

Здесь sqr - корень квадратный.