ABCD - прямоугольный четырехугольник. (-->)FA* (-->)FB - ?
AB = 6 см
DA = 4 см
F середина DC
FС= 3 см

Ответ должен получится 7  

скалярное произведение векторов FA*FB=длина FA*длина FB* косинус угла между ними. т.к. F-середина СД,то FД=12 СД=3,
из прямоугольного треугольника АДF находим АF=5
аналогично ВF=5, то треугольник АВF - равнобедренный с основанием АВ.
по теореме косинусов для этого треугольника находим косинус угла ВFА
36=50-50cosBFA 
cosBFA= 725
FA*FB=5*5* 725 = 7