Ха! Я кажется, догадался, что хочет автор вопроса, хоть и задан этот вопрос явно не по-русски. Судя по картинке надо подобрать коэффициенты в химическом уравнении. Вам надо найти вектор коэффициентов x такой, что произведение вашей матрицы G на х будет равно нулевому вектору (видимо этот нулевой вектор вы называете вектор-столбцом). То есть надо решить систему линейных уравнений Gx = 0. Эта система имеет бесконечно много решений, но все они с точностью до множителя совпадают. Это как раз нормально: обычно коэффициенты химического уравнения можно умножать на любой множитель. Так как матрица целочисленная, то среди всех решений можно брать также только целочисленные. Вам, видимо, нужно то из целочисленных, которое наименьшее в смысле, что более несократимо. И заодно убедиться, что коэффициенты получились положительные, иначе придётся химические формулы перекидывать из левой части в правую или наоборот.
А я догадался, что хочет автор вопроса :))) (см. мой ответ)