Можно ли в электрической сети переменного напряжения рассчитать сопротивление изоляции по току утечки на кабеле, не отключая нагрузку?

Этот расчёт смысла не имеет.

По сути, изоляция должна остаться изоляцией при перенапряжениях, как минимум, при длительных, но желательно и при коммутационных. Поэтому её сопротивление и измеряют мегометром прилагая установленное нормативами напряжение: 500, 1000 или 2500 В.

А Вы, даже после преодоления всех трудностей этого расчёта, получите сопротивление изоляции только при рабочем напряжении.