怎样实现一个server来集中管理多个server的service。

有这样一个需求，有多个独立的server（A,B,C,D）执行相同的service。对于client来说，可以socket连接任何一个server。现在想在server端选择一个server来集中管理所有的来自所有client端的service。 一直没有想到一个很好的办法。希望听听大家的意见。