It is permissible to offer voluntary prayers atop one’s mount when travelling, no matter what direction it is facing Sahih Muslim 700 h
Arabic hadith text
وَحَدَّثَنِي عِيسَى بْنُ حَمَّادٍ الْمِصْرِيُّ، أَخْبَرَنَا اللَّيْثُ، حَدَّثَنِي ابْنُ الْهَادِ، عَنْ عَبْدِ اللَّهِ بْنِ دِينَارٍ، عَنْ عَبْدِ اللَّهِ بْنِ عُمَرَ، أَنَّهُ قَالَ كَانَ رَسُولُ اللَّهِ صلى الله عليه وسلميُوتِرُ عَلَى رَاحِلَتِهِ .
Translation
'Abdullah b. 'Umar reported that the Messenger of Allah (ﷺ) used to observe Witr prayer on his ride.