蒙哥汗去世了，遗留下三个弟弟：忽必烈、旭烈兀和阿里不哥，来成为未来蒙古帝国的大汗。旭烈兀自1256年成为波斯汗后，由于远离蒙古，而没有要求继承大汗位。剩下的只有忽必烈和阿里不哥。阿里不哥作为幼子，已经成为蒙古本土上的统治者，并在蒙古都城哈拉和林扎营。作为蒙古地区的统治者，他准备在蒙古召开库里勒台，以确保他被举为大汗。而忽必烈抢在他之前行动。他率军从武昌北上，在中蒙边界的上都府（位于今察哈尔和热河之间的多伦诺尔附近）建大本营，早些时候，他只是在这儿建起了他的夏季驻地。1260年6月4日，他在此被他的党羽，即他的军队，拥立为大汗。当时他44岁。
按成吉思汗的法律，这次仓卒的选举是非正式的。按传统，库里勒台应该在蒙古召开，会前应召集成吉思汗的四个兀鲁思的代表们出席。阿里不哥在蒙哥的丞相、克烈部聂思托里安教徒学鲁合的怂恿下，现在也毫不踌躇地在和林悟取大汗称号。在中国，控制着陕西和四川的蒙军将领们倾向于阿里不哥一边，但忽必烈不久就把这两个省的军队争取到他一边。忽必烈的副将们在甘州东部（甘肃境内）打败了阿里不哥军，这次胜利巩固了忽必烈在对蒙古统治下的中国的所有权。忽必烈把他的优势向蒙古推进，他于1260年年底，在哈拉和林以南的翁金河畔度冬；而阿里不哥朝叶尼塞河上游撤退。接着忽必烈错误地设想战争已经结束，在和林留一支普通军队后，回到中国。1261年年底，阿里不哥卷土重来，驱逐了这支驻军，并进军迎战忽必烈。在戈壁边境上打了两仗。第一仗忽必烈获胜，然而；他再次错误地没有追击阿里不哥，10天后打了第二仗，尽管战斗十分激烈，但却没有决定性的胜负。
站在阿里不哥一边的有窝阔台家族的首领、塔尔巴哈台的叶密立地区的统治者海都和察合台宗王阿鲁忽（Alghll或AlllghLI），阿里不哥曾帮助阿鲁忽从其堂兄妻、兀鲁忽乃手中夺得察合台兀鲁思。由于这一支持，阿里不哥的势力与忽必烈的势力相匹敌，直到将近1262年年底，阿鲁忽背弃阿里不哥投靠忽必烈（看下文，第331页）。这一出人意料的背叛改变了形势。当忽必烈赶走了阿里不哥的人，重新占领和林时，阿里不哥被迫在伊犁河流域与阿鲁忽作战。阿里不哥被两军拑住，最后于1264年投降忽必烈。忽必烈宽恕了他，但是，处死了他的一些主要支持者，包括聂思托里安教丞相孛鲁合。为谨慎起见，他把阿里不哥作为重要俘虏囚禁起来，直到1266年阿里不哥去世。