on the other hand

[ɒn ðɪ ˈʌðər hænd] オン ディ アザー ハンド

1. 一方では、他方では

二つの異なる事実、意見、状況などを比較したり対比させたりする際に、後者や別の側面を導入するために使われます。対照的な側面を示すときに便利な表現です。
Eating out is expensive. On the other hand, cooking at home takes time. (外食は高くつきます。一方、家で料理するのは時間がかかります。)

2. (複数の中で) もう一方の手で

物理的に「もう片方の手」や「別の側」を指す場合に使われることもあります。ただし、最初の「一方では、他方では」という意味で使われることが多いです。
He held a book in one hand and a pen on the other hand. (彼は片方の手に本を持ち、もう一方の手にペンを持っていました。)