На оси Ox найдите все такие точки M, что треугольник AMB прямоугольный. A (1;3;2), B (-1;3;-4).

Треугольник АМВ будет прямоугольным, если углы между векторами МA и МB,или AM 
и АВ, или ВМ и ВА будет прямыми.
Координаты точек:A(1;3;2),  B(-1;3;-4),  М(Мх;0;0). 
Цитата:"Векторы являются перпендикулярными тогда и только тогда, когда их 
скалярное произведение равно нулю".
Проверим возможность перпендикулярности векторов МА и МB (вершина в точке М). 
Найдем координаты векторов (координаты вектора находятся, как разность 
координат КОНЦА и НАЧАЛА вектора): МА{(1-Mx);3;2}, и MB{(-1-Mx);3;-4}.Их скалярное произведение (сумма произведений их соответствующих координат): 
(1-Мх)*(-1-Мх)+(3*3)+(2*(-4)) = -1+Мх-Мх+Мх²+1=Мх².
По условию перпендикулярности: Мх²=0. Мх=0. То есть вершина М лежит на оси 0Х при координатах: М(0;0;0). 
Проверим возможность перпендикулярности векторов АМ и АВ (вершина в точке А). 
Координаты векторов АВ{-2;0;-6},  АМ{(Mx-1);-3;-2}.  
Их скалярное произведение: (Мх-1)*(-2)+0+12 = -2*Mx+2+12 =-2*Mx+14.
По условию перпендикулярности:-2*Mx+14=0.  Отсюда Мх=7.  
Проверим возможность перпендикулярности векторов BМ и BA (вершина в точке В).  
Координаты векторов BA{2;0;6},  BМ{(Mx+1);-3;4}  
Их скалярное произведение: (Мх+1)*2+0+24 = 2*Mx+26.   
По условию перпендикулярности: 2*Mx+26=0. Отсюда Mx=-13.
Ответ: М(0;0;0), M(7;0;0) и М(-13;0;0)

Насчет -6,5 и 5 - сомневаюсь. Ведь вектор АВ параллелен плоскости ХZ, значит углы ВАМ и АМВ не могут быть прямыми. Они острые. А условие перпендикулярности я привел выше. Сделайте проверку с координатами Мх=-6,5 и 5.

Проверим возможность перпендикулярности векторов АМ и АВ.Координаты векторв АВ{-2;0;-6} АМ{(Mx-1);-3;-2} Их скалярное произведение:(Мх-1)*(-2)+0+12 = -2*Mx+2+12= -2*Mx+14. Mx=-7
Проверим возможность перпендикулярности векторов BМ и BA.Координаты векторв BA{2;0;-2} BМ{(Mx+1);-3;-4} Их скалярное произведение:(Мх+1)*2+0+8 = 2*Mx+2+8= 2*Mx+10. Mx=5.

Так ведь у меня ответы 0, 7 и -13