Самый простой способ освободить депутата от должности — дождаться окончания срока его полномочий и проголосовать за другого кандидата.
Собственно, если депутат не совершает преступления, пока обладает мандатом, то ничего критичного он натворить не сможет.