Система уравнений
X^2 -4х - 2у -1=0
Y^2 -2x +6y +14=0

Такую систему лучше всего решать графически.
Это две параболы, я их привел к стандартному виду.
На графике хорошо видно, что они пересекаются в одной точке А(3; -2)