Лучше использовать специальное средство - Удалитель герметика, например KUDO KRS-920.
Если такого средства нет под рукой, для удаления любого силиконового герметика подойдет обычный бензин. Несколько раз обработайте им поверхность пока герметик не станет мягким, затем удалите его пластиковым шпателем.