копать в сторону настроек плагина, настроек проекта Вегаса, конфигурации железа, настроек рендера, настроек аппаратного ускорения GPU в самом Вегасе и в плагине, также могут устареть драйвер для видеокарты, отвечающий за рендер, ну и устареть могут и сами плагины. Без подробностей можно лишь посоветовать всё обновить, Вегас до финального билда, плагины до последней версии, драйвер, и windows, просто может нехватать системной библиотеки для полноценной работы или нужно обновление для исправления бага.
Ну или использовать аналогичный плагин.