Боюсь, не смогу ответить, т к не являюсь филологом специалистом (лишь на уровне любителя) и тем более лингвистом, но все же попробую хотя бы прояснить ситуацию.
Нужно начать с того, что язык сам по себе это не только набор звуков, которые несут определенный смысл, и их кодификация (текст) на жестком носителе (к примеру, бумага) в виде символов (алфавит). Язык это еще и форма мышления человека и его окружающего общества. Маты (ненормативная лексика) во многом является признаком прогресса (достижением) цивилизации данного народа - как бы странно это не выглядело. Нужно различать ненормативную (дурную для порядочного члена общества) лексику как таковую и оскорбления в адрес какого-либо человека. У народов первобытного общества (к примеру, племена бассейна Амазонки, народы Русского Севера и Сибири, африканские племена, те же бушмены) ненормативная лексика отсутствует на сколько мне известно. Они если и оскорбляют другого человека, то каким-нибудь поступком (плюнут в ноги), а если злятся, то скажут что-то наподобии "Ты плохой охотник!". Ну по крайней мере у бушменов в Африке именно так. Их язык достаточно прямолинеен, в отличии от языков развитых народов, где одно и тоже слово (словосочетание) в разных контекстах может изменить свой смысл очень сильно и что бы это понять, нужно быть носителем данного языка и культуры.
Я вижу несколько причин возникновения ненормативной лексики.
1-ое это расслоение общества на классы из первобытного строя. То есть власть имущая и экономически\социально богатая элита общества формирует свой отличительный язык от простолюдинов, а простолюдины в свою очередь с течением времени видоизменяют свой язык так же. Данные изменения стихийные и общество это делает несознательно. Знатный человек не может себе позволить изречаться как простолюдин, т к таким поведением будет похожим на простолюдина, а это не по статусу и на него посмотрят с недоумением другие знатные люди. В общем говоря язык изменяется постоянно, в этом можно убедиться самому, если взять, к примеру, книги того же Пушкина ну или хотя бы Гончарова и сравнить их язык с нашим современным (тем более молодежным), то станет очевидным, что мы уже так не выражаемся и так не мыслим как они, а ведь прошли-то какие-то несчастные полтора века. В свою очередь, общество это не только два класса: бедные и богатые, к примеру. Общество очень сложное и уже давным давно. Язык отдельного класса и\или слоя общества может стать ненормативным. К примеру, криминальный "блатной" лексикон.
2-ое конфликты народов. Использование иностранных слов как дурных. Далеко ходить не будем, можем взять те же самые татарские слова, которые в русском языке являются очень грубыми словами, за которые можно схлопотать по физиономии. Зэковский жаргонизм (который переполнен ненормативной лексикой) частенько использует слова из идиша.
3-е религиозные табу. Терминология, связанная с языческим ритуализмом обрела дурной характер. К примеру, если взять частушки скоморохов 13 века (последний всплеск язычества на Руси), то придешь в недоумение из-за бесчисленных матов (матами они являются теперь для нас). Кстати, излюбленное слово из трех букв, которые можно увидеть частенько на заборах, имеет именно это происхождение. Не мудрено, ведь в язычестве непосредственно существует культ деторождения и плодородия, что несет в себе соответствующие аллегории. Фаллический культ тому яркий пример.
4-ое слова в контексте. Ну тут все просто. Возьмем какое-нибудь домашнее животное, к примеру собаку или свинью. Оскорбление человека по поводу того, что повадки животного сходятся с повадками данного человека. Собака блохастая, глупая и злая, живет на улице, а не в доме. Ну это достаточно мягкое ругательство, на сегодняшний день. Со свиньей все понятно: хрюкает, воняет, поедает собственное дерьмо и себе подобных.
5-ое "ниже пояса" и что связано с половой жизнью. Ну тут, как говорят многие, по Фрейду. Имеет это корни в христианизации (кстати и к пункту 3 тоже имеет отношение), где половая жизнь становилась сугубо личным делом внутри семейной пары, а говорить об этом в обществе стало дурным тоном. Кстати, отдельно можно ответсти матерщину в отношении "нетрадиционных" ориентаций. Тут можно вспомнить слово самца курицы, которое кстати пришло из того самого "блатного" жаргона.
6-ое медицина. Многие умственные и психические болезни в контексте имеют ненормативный характер. К примеру: идиот, дебил, даун - все это врожденные заболевания и диагнозы.
Думаю, причин куда больше, я лишь описал то, что первое попало во внимание и попытался данное как-то классифицировать.