Внесите множитель под знак корня:

 

                   b

(5-b)√--------------- при 0<b<5                  

            25-10b+b²

 

 

 (я думаю вы поняли, что тут вся дробь в                       квадрате просто знак маленький)