Я не сторонник возведения уважения к родителям/старшим в культ. И не считаю, что ваша мама во всем права. С ее стороны настаивать на своем методе решения - является неуважением к вам, т.к. учитесь вы, а не она, и вы в праве сами решать, как вам учится (принимая также и последствия своих решений). Однако, во взрослой среде, при общении между взрослыми, не используются такие выражения, даже когда человек не прав. В качестве альтернативы вы могли бы ответить маме что-то вроде "Я поступлю, как считаю нужным". В то же время отмечу, что ваше выражение "Ой, мама, заткнись", не является таким грубым, как, к примеру "Заткнись". Т.е. больше похоже на выражение, иногда используемое в общении между друзьями. И это явно не то выражение, за которое "дают по губам или врезают кулаком", как высказались многие ответчики в этой теме. Мое личное мнение, что в ответах многих ответчиков присутствовало необоснованное обвинение вас, т.к. многие в своих ответах исходят из фразы-окрика "Заткнись", а не из выражения "Ой, мама, заткнись", которое могло быть сказано даже в спокойном доброжелательном тоне.