При каких значениях a система не имеет решений
8xa+ay=6
2ax+y=5

используем метод подстановки
{8x+ay=6
{2ax+y=5
{y=5-ax
{8x+a(5-2ax)=6
{y=5-2ax
{2x(4-a²)=6-5a
второе уравнение не имеет решений, если
4-a²=0
6-5a≠0
a²=4  a=-2  a=2  a≠6/5
при a=-2  a=2 система решений не имеет