Да, передаются, конечно, генетически. Обретают конкретные формы, конечно, в процессе обучения. Охота -- инстинкт (есть потребность охотиться, есть включатель (кто-то убегает, например), есть комплекс действий (догоняй, прыгай, кусай в шею)), но конкретным приемам могут обучаться.
Как возникают, как кодируются, может быть напишет кто-то ещё. Кодируется нервная система и эндокринная система (гормоны).
возможна ли утрата или изменение инстинкта вследствие мутации или смешения видов/пород
Конечно, да. Именно на примере выведения пород это прекрасно видно.
Выведение бойцовых пород собак, которые никогда не убегают от самой страшной угрозы, а наоборот вцепятся в горло и будут давить до последнего. Волк (хотя собаки это не волки, а собаки и волки имеют общего предка, как мы и высшие обезьяны имеем общего предка) такой жаждой давить ценой своей жизни не обладает.