Достижений науки слишком мало, чтобы эта удивительная тайна открылась перед нами.
На данный момент у лингвистов хорошо получается восстановить праиндоевропейский язык -- из него вышли романские, греческие, славянские, балтийские, германские, кельтские, индо-иранские языки (и другие, но менее известные), то есть языки индоевропейской семьи. Носители праиндоевропейского языка жили примерно 10-8 тысяч лет назад (это уже тоже установить сложно). Тогда же существовали и другие праязыки, из которых, соответсвенно, вышли языки, которые мы относим к другим семьям (их существует множество, например, урало-алтайская макросемья). Некоторые компаративисты выдвигают гипотезы, что эти семьи тоже восходят к общему предку, совсем древнему языку, но, во-первых, эту гипотезу очень сложно доказать, она остаётся гипотезой до сих пор; а во-вторых, не все языковые семьи обнаруживают достаточное сходство между собой.
Также мы не знаем, как вообще появился язык. Существуют разные теории: теория звукоподражания (звукам природы), междометий, трудовых выкриков (занимаясь каким-то делом вместе, люди стали пытаться передать информацию), социального договора (все как-то договорились и начали говорить) и др. Но ни одна по-настоящему не отвечает на вопрос, как человек заговорил, и тем более не может нам сказать, на что был похож этот его первый язык
Итак, мой ответ: мы не знаем и вряд ли когда-либо узнаем.