какой из двух сосудов остынет быстрее: сосуд с горячей водой или сосуд с горячим маслом?

Быстрее остынет тот, который с маслом. 
Потому что у масла, какое бы оно ни было, теплоемкость точно меньше чем у воды. 
Теплоемкость чистой воды - 4,182 
Масло минеральное - 1,67...2,01 
Масло смазочное - 1,67 кДж/(кг °С) 
Разумеется это при равном объеме жидкостей.