На линии модем работает на одной из 4-х скоростей: 160 кбит/с, 128 кбит/с, 80 кбит/с и 64 кбит/с. Только эти скорости, которые управляются перемычкой J6 и микропереключателем S1.1, а также уровень передачи (перемычка J5) влияют на дальность. Все остальные параметры на дальность и работу на линии не влияют. Модемы друг с другом всегда работают на одной из этих 4-х скоростей.
Скорость порта должна быть ниже линейной скорости, это единственная зависимость между ними. Причем фактически это касается только скорости 115200, поскольку все остальные скорости заведомо ниже 64 кбит/с.
Таким образом, если модемы не связываются друг с другом на скорости 160 кбит/с - надо снижать линейную скорость и увеличивать уровень, подробности настройки модема на линию смотрите в документации.