秦穆公又开始向百里奚讨教治理国家的计策，百里奚侃侃而谈，秦穆公听了赞不绝口，更加佩服百里奚的才能，想要任命他为上卿，执掌国政。但是，百里奚却坚决辞让，而是推荐蹇叔做上卿。于是，秦穆公就派人带着重礼把蹇叔请来，让他和百里奚一同做秦国的上卿。百里奚的妻儿此时也正巧流落到了秦国，百里奚兑现了当年离家时对妻子许下的誓言，和他们母子相认。百里奚的儿子孟明视已经长大成人，秦穆公见他长得高大威猛，就将他封为秦国大将。
因为百里奚是秦穆公用五张黑公羊皮换来的，所以世人都称百里奚为“五羖大夫”。
秦晋大战龙门山
晋惠公即位之后，晋国的收成连年不好。晋惠公五年，晋国又遭遇了饥荒，国库储备的粮食已经发放完了，百姓们饱受饥饿的痛苦。
晋惠公准备从其他的国家购买粮食，他首先想到了秦国，因为秦国和晋国紧挨着，而且又联过姻，运送粮食比较方便。但是之前晋惠公登上诸侯之位的时候，秦国出了不少力，晋惠公曾答应给秦国五座城池，但是后来没有兑现。所以，晋惠公不好意思向秦国开口买粮。大夫郤芮知道晋惠公的忧虑所在，就说：“我们并不是违背诺言不给他们城池，只不过是晚一些时候给而已。如果秦国因此而不卖给我们粮食，那就是秦国拒绝了我们，我们违背诺言也就有理由了。”晋惠公说：“你说得对。”于是，便派大夫庆郑带着珠宝财物去秦国买粮。