按照匈奴继位的世系原则，才能出众的稽侯珊本来是很有可能成为继任单于的。可是没想到此时单于庭内部却突然爆发了政变，把毫无准备的稽侯珊推向了极为险恶的境地。

祸根出在虚闾权渠单于的原配夫人颛渠阏氏身上，原来她与右贤王屠耆堂素有奸情，而生性凶残的屠耆堂也早有篡权的野心，于是颛渠阏氏与其弟都隆奇密谋,趁着各氏族首长尚未到达之机，擅自立屠耆堂为新单于握衍朐鞮单于。屠耆堂刚一登上单于宝座，便将虚闾权渠单于的子弟亲信尽行罢黜，并且将郝宿王刑未央杀死。

稽侯珊在这种危险无助的情况下，为了保存实力，只好暂时逃到左地（匈奴东部地区）他的岳父乌禅幕那里避难。

作为单于后裔的稽侯珊在左地很快就表现出了他杰出的才华，不久便赢得了当地群众的拥护和爱戴。而与此同时，握衍朐鞮单于的残暴施政却使得他大失民心。公元前58年（汉宣帝四年），稽侯珊在左地被拥立为呼韩邪单于后，随即开始发兵征讨握衍朐鞮单于。握衍朐鞮单于因民心尽失而得不到支援，无力抵抗，便自杀而亡。得胜的呼韩邪单于终于回到了本应属于他的单于庭。

在接下来的几个月中，呼韩邪单于把加强整顿、恢复生产、稳定政权放在了首要的位置，因而遣散了众多人马，让贵族们各归故地。想不到，逃跑到右贤王处的都隆奇却又拥立了屠耆单于（握衍朐鞮单于的从兄），重新打回了单于庭，呼韩邪单于措手不及，兵败出走。

占据单于庭的屠耆单于听信谗言，统治无方，激起了各方的强烈不满。不久，有三位贵族纷纷揭杆而起，自立为单于，再加上屠耆单于和呼韩邪单于，史称“五单于争立”。在五位单于的混战中，呼韩邪单于凭借优秀的政治和军事才能，取得了最后的胜利，复归单于庭。

此时，混战后的胡地牲畜损耗，粮食短缺，人民处在极端困苦的境地。然而，就在呼韩邪单于着手恢复战乱后的残局时，他的兄长左贤王呼屠吾斯又在东部地区自立为郅支单于。他一举灭了另一位后起的单于闰振（屠耆单于的从弟），进而攻入呼韩邪的单于庭，呼韩邪兵败。


第三次被迫出走单于庭使呼韩邪单于开始思考自己匈奴政权的前途，他认识到，在目前这种困难的局面和危险的处境中，只有依附汉朝，才能消除腹背受敌的危险，进而借助汉朝的力量休养生息，积蓄实力，平定郅支，完成统一匈奴的大业。事实证明，呼韩邪单于的分析和决策是完全正确的。

公元前51年春，呼韩邪单于率部南下，亲自入朝谒见汉帝。汉朝对呼韩邪单于的举动表示了极大的欢迎，不仅颁给他黄金质的“匈奴单于玺”，还赐赠了大量的珍贵物品，完全按照诸侯王的最高礼仪来接待他们。之后汉朝又接受了呼韩邪单于关于留居光禄塞（今包头市西南）的请求，并派兵将一路护送，驻军保护，还先后调拨大批的粮食帮助匈奴人民度过了迁居后缺少衣食的难关。

公元前49年，呼韩邪单于第二次亲自入朝，再一次表明了归汉的真诚态度，并受到了和上次一样隆重的礼遇和丰厚的赐赠。当时郅支单于已率部远离单于庭西迁，汉朝便准许了呼韩邪单于北归故地的请求。临行前，呼韩邪单于与汉将韩昌、张猛立下了世代友好互助的盟约，更加稳固和发展了与汉朝的团结。

公元前36年，西迁的郅支单于被守护西域的汉将甘延寿和陈汤刺杀而亡，匈奴持续了二十余年的内乱宣告结束。公元前33年，呼韩邪单于第三次朝汉，汉朝对他的礼遇如初，赐赠比上一次多了一倍。

呼韩邪单于不仅是匈奴历史上的著名领袖，也是中国历史上一个杰出的人物。他的深谋远虑将匈奴民族从危难中挽救出来，开创了汉匈两族团结合作的新局面，使匈奴民族得以统一和稳定，为繁衍人口和恢复社会生产提供了有利的条件，同时促进了汉匈之间经济文化的交流。

由于他的积极努力，匈奴群众和汉朝人民在长达六十余年时间里，得以安居乐业，享受天伦。呼韩邪单于的主动附汉，揭开了汉匈关系史上崭新的一页，也必将对后世产生深远的影响。