как исключить целую часть из дробного числа?

Для этого вам надо перевести данные неправильные дроби в смешанные числа, разделив числитель на знаменатель. Вы получите целую и дробную часть каждого числа. Отнимите целую часть - останется дробная - задание выполнено.

Звучит неожиданно - делением числителя на знаменатель.
То, что останется после деления - оставшаяся дробная часть.
Пример:
100/8=12 4/8
И в другую сторону, для проверки :-)
12*8=96 
96+4=100