При какой массе, или при каком количестве частиц заканчивается квантовая механика и начинает работать классическая механика Ньютона?

да, не так. Нет никакой чёткой границы, законы квантовой механики работают всегда, но при большом количестве частиц, больших энергиях их можно приблизить законами классической механики.

В качестве аналогии можно привести такой пример - если бросить одну монетку, то как она выпадет, сказать нельзя - 50% орел, 50% решка. Но если бросить монетку миллион раз,то можно с большой точностью сказать, что решка выпадет пятьсот тысяч раз