найдите первый член геометрической прогрессии если a1+a5=20

у Вас там всё - таки АРИФМЕТИЧЕСКАЯ, а не геометрическая прогрессия. Тогда получаем, что:

a2= a1 + d
a3= a1 + 2d
a5= a1 + 4d

a1 + a1 + 4d = 20
a1 + d + a1 + 2d = 17

2a1 + 4d = 20
2a1 + 3d = 17

d = 3, a1 = 4

Отв. a1 = 4