不料，刘峙率所部刚刚进入闽粤边境，便接触敌军桂军陈雷部，刘峙连忙指挥应战，并冲锋在前，将陈雷部打得落花流水，直追到河源附近，又遭遇与桂军勾结的滇军李根源部。
为与李根源对抗，刘峙指挥两个营，与罗翼群部何梓林营并肩作战，在河源县城与李部隔河对峙。刘峙身先士卒，在此后一个月里与战士们露宿野外，历经艰险，屡挫敌锋，终于将敌军击退。
这场刘峙从军以来领导的第一次胜利，让他一时扬名全军，给当时粤军第2军军长许崇智和参谋长蒋介石留下深刻印象。不久，刘峙即被调到粤军总司令部任少校副官，并加入中国国民党。
在粤军总司令部任副官期间，刘峙吃苦耐劳、为人宽厚，深得蒋介石赞赏。当时蒋介石在南方根基不深，而粤军向来排外，蒋介石正想发展自己的势力，刘峙便成为了他看中的人选之一。
黄埔军校成立后，经总教官何应钦推荐，刘峙顺利进入黄埔军校担任战术教官，从此开始了一生追随蒋介石的历史。
黄埔军校开学后不久，蒋介石在军校内设立参谋处，处长为钱大钧。因刘峙为人踏实、敦厚，又有实战经验，被任命为参谋处下属科长。
9月，蒋介石将黄埔军校第一期毕业生组编为两个教导团，刘峙被任命为第1团第2营营长，团长为何应钦。顾祝同、钱大钧、蒋鼎文、陈继承等人都是该团营长。在以后的作战中，刘峙与顾祝同脱颖而出，成为何应钦手下的得力干将。