Что так - что так. Особой разницы как я понимаю - нету. Но всё же, я бы написал "болгаро-австриец". Так как произношения наиболее приятно, проще, чем "австро-болгарин".
А зачем вообще так писать? Нет таких государств (была Австро-Венгрия и то давно)). А по национальностям не объединяют. Где вы видели татаро-русского или грузино-украинца? Так и напишите - отец австриец, мать болгарка.