魏咸熙年间（264―265年），刘渊作为人质住在洛阳，受到司马昭的厚待。
司马炎继位后，王浑多次向司马炎推荐刘渊。
司马炎召见刘渊，与他交谈，非常赏识。
司马炎对王济说：“刘渊的容颜、仪表，即使是春秋的由余、汉代的金日磾，都不能高出他。”
王济说：“刘渊的外在仪表、容颜，实在如陛下你所说。他的文武才干更是超出由余、金日磾很远。陛下你若能委任他统领东南地区的事务，吴会地区就不愁不能平定了。”
司马炎欣然赞许。
孔恂、杨珧进言，劝谏说：“依臣观察，刘渊的才干现在恐怕无人能与他相比。陛下若是不重用他，他便成不了大气候。若是授予他权力，树立他的威望，那么，平定吴地之后，恐怕他就不会向北渡江回师了。刘渊与我们不是一个民族，必然会有异心。现在，委任他治理本部的事务，我们就已经很为陛下感到担心了，若是还要将天然险阻之地赐给他，恐怕是不行的。”
司马炎听了，默然不语，没有表态。
秃发树机能反叛后，西晋发兵秦、凉二州平叛，战事失利，损兵折将，丧城失地。
司马炎访求将帅群臣，商讨收复失地的办法。
李憙建言说：“如果陛下能够征发匈奴五部的兵众，授予刘渊将帅的封号，西进讨伐，秦州、凉州指日可定。”
孔恂反对说：“李公的话，完全不符合消除祸患的情理。”
李憙听了，勃然大怒，说：“匈奴人强悍，刘渊熟悉兵法，让他们奉命去显示皇上的圣武，有什么不能得到的？”
孔恂不慌不忙，接着说：“刘渊若是能够平定凉州，斩杀树机能，恐怕凉州境内又要乱了。蛟龙得到云雨，就不再是池塘中无法施展能耐的小东西了。”
司马炎觉得孔恂说得有理，于是放弃了任用刘渊的打算。
汝南太守王颀之孙王弥很有学问，勇猛而有谋略，善于骑射，青州人称他为“飞豹”，尤其喜欢打抱不平。
陈留隐士董养看到王弥，曾经对他说：“你是一个喜好动乱和灾祸的人，如果天下有乱事，你就连士大夫都不想作了。”
王弥当时游侠于洛阳，打算东归故乡东莱，刘渊在九曲河滨为王弥饯行，流着泪对王弥说：“王浑、李憙因为同乡的缘故，对我有所了解，他们常常称道、推荐我，可是一些人也乘机向皇上大进谗言。这些都不是我所希望的，其结果，刚好足以对我构成危害。我本来并没有做官的想法，这一点只有你知道。恐怕我会死在洛阳，永远与你诀别了。”
刘渊情绪激昂，尽情地喝酒，大声地慨叹、呼叫，声音嘹亮，在座的人禁不住都流下泪来。
齐王司马攸此时正在九曲，听说此事，派人快马去察看。
查明情况后，司马攸对司马炎说：“陛下你如果不除掉刘渊，恐怕并州就不能长久地安定了。”
王浑替刘渊鸣不平，进言说：“刘渊是长者，我王浑替君王担保讲明此事。况且大晋正要向少数民族表明诚信相待，用德政使远方的人归附，怎么能够凭连萌芽状态都没有的嫌疑，就杀戮别人送来伺候的人质，以表明晋朝恩德不广呢？”
司马炎同意王浑所言，最终没有杀刘渊。
晋咸宁五年（279年），刘渊的父亲左部帅刘豹去世，西晋朝廷任命刘渊为代理左部帅。
晋太康十年（289年），晋武帝司马炎任命刘渊为北部都尉。
刘渊在任期间，严明刑法，禁止各种奸邪恶行。
他不看重财物，爱好施舍，与他人相交，推诚相见。
于是，匈奴五部的豪杰都纷纷投奔到他的门下，就连幽州、冀州知名的儒生，后学中杰出的人士，都不远千里来此游历。
晋惠帝司马衷时，爆发八王之乱，刘渊趁着西晋内乱，割据并州地区，自称汉王，国号为汉，史称汉赵、前赵。
王弥参与东莱郡惤县县令刘柏根的叛乱，兵败后聚众于海岛之上，被击败后又逃到长广山中为盗贼，四处游窜劫掠，危害一方，后来投靠刘渊，任为征东大将军，封东莱公。
王弥与石勒等人一起攻入洛阳，放纵士兵大肆掳掠，将晋怀帝司马炽幽禁在端门，侮辱羊皇后，杀害皇太子，又盗取坟墓，焚烧宫庙，府室全部抢掠一空，杀死百官及男女三万余人，并将司马炽掳往平阳，对晋朝造成极大破坏。
后来，双方内讧，石勒在宴席上杀死王弥并吞并其部众。
此是后话。
