Исходя из собственного опыта могу рассказать, что про некоторых моих знакомых говорят, что в моём обществе они гораздо меньше ругаются матом. Я сам по себе мат в речи не использую (благо любые эмоции могу выразить без мата), но при этом в обычном общении никогда никому не делаю замечаний за мат. Так что можно предположить, что на этих знакомых просто действует моя манера общаться.
В целом же, если хочется, чтобы люди меньше матерились, очевидно, что нужно подавать им положительный пример. Когда есть положительный пример, можно за мат высказывать лёгкое (полушутливое) порицание, чтобы у заматерившегося возникало ощущение стыда. В совокупности это даст желаемый эффект.