устанавливаешь MathCad, пишешь по порядку
A
:
Ctrl + M
выбираешь 4*4
потом заполняешь матрицу своими данными, затем то же для вектора б (но 4*1), а потом результат
х = А в степени -1 умножить на вектор
результат записываешь
Если не покатит МатКад, но нужно вручную считать обратную матрицу, а тут уже много вариантов, от метода вращений до сингулярного разложения матрицы.
Ну совсем уже по школьному это применения метода Гаусса.
Надеюсь мой совет поможет