Можно ли в России создать бизнес с маленьким или средним оборотом (до 5млн), не давая никому взяток, не общаясь с криминалом и не совершая ничего аморального?

Да, конечно. 

По большому счету, если Вы не планируете заниматься видом деятельности, которая привлекает пристальное внимание контролирующих органов, до таких оборотов ваш бизнес будет мало кому интересен. 

P.S. Я имею в виду, что неинтересен будет тем, от кого без взятки никуда не деться)