Главным образом, при помощи зрения. У костных рыб весьма эффективное зрительное восприятие, включая восприятие цвета (окраски). Зрительную коммуникацию часто дополняет хорошо развитая дистантная хеморецепция = обоняние.
Японские ученые на примере представителей вида Neolamprologus brichardi (из семейства цихлид), часто называемого "принцессой Бурунди", изучали механизмы "узнавания" рыб друг другом.
В итоге они выяснили, что "рыбкам для узнавания нужно как следует рассмотреть "лицо", а не тело. Ученые пошли еще дальше, пытаясь понять, а куда конкретно смотрят рыбы? Оказалось, что на яркую окраску вокруг глаз. Получается, что "принцессы" распознают каждого из своего сообщества, как и многие другие позвоночные, глядя друг другу в глаза" (Цит. по: https://rg.ru/2015/12/16/ryby.html).
"Принцесса Бурунди"