他の is usually used to refer to others (in a group).別の is usually used to refer to different one(s).

If you were a spy and needed to disguize a different character, you'd say: 私は別の人間になる。

And then, nobody would notice you.他の人間は、誰も私に気がつかない。

But,in reality, in most cases there is no big difference between the two and they are interchangeable, at least in our daily conversation.

詳しく知りたかったら、別の人にも聞いてみてください。詳しく知りたかったら、他の人にも聞いてみてください。

その日は都合が悪いから、別の日に会いましょう。その日は都合が悪いから、他の日に会いましょう。

その理由について、別の可能性はありませんか？その理由について、他の可能性はありませんか？

ごめんね、別のこと考えてた。ごめんね、他のこと考えてた。

別の人を愛してしまった。他の人を愛してしまった。

The subtle nuance is very difficult to explain. It can change according to the context, age of the speaker, or the situation. We usually pick one up subconsciously, I think. But in many cases, generally speaking, 別の emphasyszes the meaning of "different" rather than 他の.