Число 15 представьте в виде суммы двух неотрицательных слагаемых так, чтобы произведение квадрата одного из них на другое было наибольшим.

начнем с простого.Пусть одно число х, а второе (15-х). Тогда составляешь функцию f(x)=x^2*(15-x)

Потом находишь производную этой функции, приравниваешь ее к нулю, ищешь точки экстремума. На одной числовой прямой отмечаешь точки экстремума и промежуток, т.е. 0<x<15. смотришь где достигается наименьшее значение. Это и будет наименьшее значение х. Получаешь 2 числа, их записываешь в ответ. Все.

Проще говоря

Решаем системой

х+у=15 

х2*у=мах 
у=15-х 
х2*(15-х) 

15х2-х3=мах 

берем производную 

30х-3х2=0 
3х(10-х)=0 

х=10 
у=5