继任相国，但偏偏萧何与曹参两个本来私交甚好的老友，渐渐变得不和了。吕雉让刘盈以探视病情为由，亲自到萧何府上探萧何的口风。
刘盈问道：“君即百岁后，谁可代君者？”
萧何不答，反问道：“知臣莫如主。”
刘盈问道：“曹参何如？”
萧何当即顿首道：“帝得之矣！臣死不恨矣！”
萧何于第二年（惠帝二年）去世。听到萧何去世的消息，曹参立即命令手下整顿行装。果然，行装刚整顿好，长安就下诏，召曹参入京就任相国。
曹参临行前，对前来接任的齐相叮嘱道：“以齐狱市为寄，慎勿扰也。”“狱市”是什么，今天已经难知其详了，有人认为是地下黑市，有人认为是花钱平事儿的地方，总之是个灰色地带，甚至是偏黑的地带。但曹参要求新来的齐相一定不要把这个市场给取缔了。
新来的齐相有些不解，问道：“治无大于此者乎？”
曹参道：“不然。夫狱市者，所以并容也。今君扰之，奸人安所容也？吾是以先之。”
对奸人也要给出路，这恐怕才是黄老之术最精妙的要义所在吧！
曹参入长安后，所作所为与萧何大不相同。萧何是殚精竭虑、呕心沥血、兢兢业业的代表；而曹参来了后，完全成了甩手大掌柜。他只嘱咐手下，一切按萧何时期立下规矩办，剩下的什么也不管了。甚至他手下聘用的官吏也专门挑选那些诎於文辞的重厚长者，能说善道、贪名逐利的都给辞掉。总之，一切以守规矩为原则，不要玩花活。他自己则每天喝得醉醺醺的。朝廷官员哪见过这样当官的，不少人上门来劝他好好办事。来一个人，曹参就和他一起饮酒，直到把对方也给灌醉才罢，那些人谁也开不了口。