Кратко: да, существуют. С исследованиями - кратко не ответить. Ниже длинный ответ.
Начну с важного пояснения - гендер это не пол, а социальная характеристика, которая лишь сопряжена с полом.
Многие путают и от сюда резонное совершенно "гендеров всего два" (хотя с полом тоже есть ещё интерсекс, конечно). Часто также доводится слышать "есть только пол, никакого гендера нет, это всё выдумки" - и это грубая ошибка, потому что ношение платьев, к примеру, совершенно никак с физиологией не связано.
Отрицающим само существования гендера и при этом считающих себя мужчинами можно предложить проехаться в метро в красном платье и при макияже. На этом месте люди почему-то отказываются, хотя ни платье, ни макияж никак не меняют пола.
Теперь про бинарность/небинарность.
На самом деле идея о том, что есть всего два гендера, причём оба неотрывно связаны с полом - она как раз относительно новая. Причём пришла из европейского, даже западноевропейского общества. У ряда коренных народов Северной Америки была категория люди с двумя душами - сегодня это бы называлось "трансгендерные люди". У камчадалов и коряков было нечто подобное, да и вот в ещё дореволюционной книге Максимова "Год на Севере" можно прочесть про "размужичье" и "раздевулье". Трансгендерные мужчины и трансгендерные женщины, если говорить нынешним языком. А индийские и пакистанские хиджра - это вообще настолько большая группа, что в Пакистане выдают паспорт с пометкой X в графе "пол", да и в документах на индийскую визу мне тоже предлагали вариант transgender.
Для тех, кто связывает ЛГБТК+ с Западом: обратите внимание на феномен хиджра! Они существовали до того, как на их землю пришли колонизаторы.
На территории нынешнего Афганистана были, да и есть, бача-бази. Ближайший аналог в нынешней западной, да и не только, культуре - femboy, хотя это уже не только и не столько про гендер, сколько про гомосексуальность.
А бугисы, народ, живущий в Индонезии, вообще жил с пятью гендерами. Задолго до появления как западного понятия трансгендерности (оно пришло во многом из психиатрии и сексологии извода XIX века), так и современного сетевого разговора про небинарность.
То есть да, гендеры сверх "мужчина" и "женщина" и даже не сводимые к переходу из одного в другое - есть и были. И даже если бы это возникло только сегодня, нам пришлось бы сказать "да, это есть". Просто потому, что реальность социальной (а не биологической!) категории определяется на уровне договорённостей и принятия.
Что для атеиста, что для христианина - буддизм реален, равно как и для буддиста является реальностью существование ислама и атеизма. Это не вопрос "есть ли на самом деле Аллах/Будда/Иегова", это вопрос существования культурного феномена.
А небинарные люди и определённые способы говорить и думать об этой небинарности - бесспорно существуют. Вот, скажем, сабреддит Non-binary, туда пишут люди, значит это вполне реальное явление.
Наконец, про исследования и врождённость. В учебниках годов этак семидесятых можно было прочесть теорию - иногда подаваемую как прямо-таки доказанный факт - о том, что трансгендерность связана с какими-то "гормональными нарушениями при развитии плода". Но чем больше мы узнавали о том, как реально работает мозг и как он развивается - тем менее убедительной звучала та теория. Современные обзоры указывают, что какой-то легко обнаруживаемой разницы в устройстве даже мужского и женского мозга нет, а особенности мозга трансгендерных людей могут скорее быть обусловлены большей частотой депрессии и неприятием своего тела.
Сегодня наука о мозге имеет больше белых пятен, чем ответов. Мы не знаем ни о том, как возникает наше сознание, ни того, как работает наша память и что именно её обеспечивает. Мы очень плохо представляем как развивается мозг и как все эти десятки миллиардов нейронов согласуют свою работу. Не знаем даже того, что делают многие участки мозга - максимум, знаем что повреждение определённых мест приводит к таким-то и таким-то нарушениям. Эта общая проблема науки приводит к тому, что вопросы вида "врождённо ли представление о себе, как о небинарной личности?" пока задавать бесполезно.
представьте, что вы дали даже гениальному физику XIX века смартфон, а потом спросили "а вот то, что на одном телефоне Apple, а на другом Android - это потому что они изнутри по-разному устроены или тут в чём-то ещё дело?". Вот и с мозгом так же.
Напоследок снова про социальное. Вот что точно совершенно приобретается, так это слова и способы думать, а также сценарии действовать. Сегодня мы говорим "трансгендерность", в ряде случаев практикуем медицинскую коррекцию пола и считаем, что платье это женская одежда (если вы не священнослужитель), а программист - профессия мужская (в журнале Cosmopolitan 70-х писали обратное).
Но кроме слов и действий есть ещё такая загадочная и субъективная - но социологически реальная! - штука, как гендерная идентичность. Ощущение себя как женщины или как мужчины. Это, подчеркну, не гендер, который про то, каково быть женщиной или мужчиной - это именно самоидентификация. И вот про неё мы тоже пока практически ничего не знаем. Откуда берётся, насколько жёстко задана, какие могут быть варианты - тут больше вопросов, чем ответов.
В общем, есть что ещё исследовать.