рассчитайте массу атома кислорода в кг.

Исходя из данных задачи, формула М=n/m, где M - молярная масса вещества, n - количество вещества, m - масса не подойдет.
Чтобы найти масссу молекулы кислорода нужно воспользоваться формулой, предложенной Валентиной.
масса молекулы кислорода равна (32 * 10 ^-3)/ (6 * 10 ^ 23) = 5,3 * 10 ^- 26