легче всего из трех форм поддается описанию новелла, есть множество классических работ, посвященных поэтике новеллы, например вот
https://facetia.ru/node/4250, где Мелетинский говорит, что отличия новеллы от рассказа довольно условны, но все же есть: новелла ближе других эпических форм к драме, среди ее характерных черт - «осколочность», однособытийность, стремительность ну и еще много всего. С двумя другими формами сложнее, часто говорят о количественном соотношении, мол, рассказ меньше, повесть больше. Однако в тех же словарях терминов всегда есть оговорки и куча литературных примеров нарушения этого количественного показателя. Трудности в разграничении связаны, возможно, с историческим «перетеканием» одной формы в другую (вот, например, классическая работа Кожинова
http://svr-lit.ru/svr-lit/kozhinov-proishozhdenie-romana/index.htm о том, как, в том числе, из циклов новелл рождалась романная форма). В целом, из словарных определение следует, что есть градация этих форм по жесткости/свободности нарратива в каждой из них: новелла - наиболее «жестко заданная» форма, приближающаяся к драматическому роду, а рассказ и повесть - условно более нарративно свободны)