Вопрос совсем непростой, потому что различное образование семейных групп может быть даже у очень близких по происхождению и биологии видов. Очевидно, что такая форма - быть полигамным или моногамным - закрепляется эволюционно, помогая ее носителям существовать в их биотопе. Начнем с того, что моногамия бывает разной. Широко распространена социальная моногамия - социальная жизнь парами, например, у птиц. При этом не все социально моногамные виды соблюдают генетическую моногамию, проще говоря, супружескую верность. Количество внебрачных потомков у социально моногамных видов может превышать 70%!
Есть разные причины для разных видов моногамии. Например, если участки какой-то семьи (пары) очень большие в силу ограниченности пищи на единицу площади, то такие животные просто не найдут представителей другой пары, чтобы изменять с ними. Вот так образуется моногамия в некоторых популяциях.
Моногамность многих американских приматов (широконосых обезьян) связывают с эффектом основателя. Считается (это гипотеза), что их предки приехали в Южную Америку через Атлантику на оторвавшемся от берега дереве. Очевидно, что это была небольшая - возможно моногамная - семья животных небольшого размера, раз они разместились на одном дереве и не умерли по дороге с голоду. И вот среди их потомков чаще распространена моногамия - просто по традиции от популяции основателей, чем среди обезьян Старого света (узконосых). То есть наших более близких родственников, которые в основном полигамны.
Повторю, что вопросы происхождения социальной и генетической моногамии сейчас находятся в стадии исследования, и там много непонятного.
Небольшой рассказ о моногамии у приматов можно найти в этом блоге.