Сократить дробь
(числитель) а^2-b (знаменатель) а-b-(числитель а^3-b3 (знаменатель) а^-b^2

Так, ну думаю что так, но вообще стоит проверить
a^2-b          a^3-b^3      a^3-ab-ab-b^2-a^3+b^3       -2ab+b
--------   -   ------------- =  -------------------------------   = ------------
a-b               a^2-b^2         a^2+ab-ab-b^2                (a-b)*(a+b)