Насколько маленьким может быть атомный двигатель? Можно ли его поставить в автомобиль или мобильный телефон?

Это зависит от многих факторов.
1) Вещество
2) Масса вещества
3) Размеры
4) Конфигурация
5) Защита
6) Способ отвода тепла
7) Биологическая защита

Создать миниреактор можно размером хоть со спичечную головку из калифорния, проблемы начинаются в другом. Как управлять? Насколько это эффективно? Как отводить тепло? Какова цена?

Размер реактора определяется не только критической массой, но и критическими размерами зоны, плюс большинство реакторов работает на тепловых (медленных) нейтронах, то есть нужен замедлитель. Хорошими замедлителями являются вода, тяжёлая вода (дейтериевая) и графит. Дополнительно к этому существует проблема с регулированием такого реактора, посколько при серьезных скачках мощности происходит отравление реактора и он может пойти в разнос когда отравители выгорают и высвобождается избыточная реактивность.

Реактор размером с автомобильный двигатель теоретически возможен - но он будет очень нестабильным и плохо управляемым, плюс очень тяжёлым, потому что требует серьезной биологической защиты. Реактор размером с телефон сделать уже не получится, поскольку непонятно как отводить тепло и получать энергию, ведь она требует преобразования из тепла в электричество.

Надеюсь что смог на пальцах ответить на вопрос.