897年3月，朱温命葛从周攻兖州，康怀贞就趁朱瑾外征集粮饷的机会，开城投降了葛从周。

第二年8月，氏叔琮讨伐山南东，康怀贞以副将份率一军从征，负责攻其中的邓州。所谓“一军”大约二千五百人，而邓州有包括南、新野在内的七个县，凑几千军队并不困难，且于防守的有利地位，但康怀贞仅凭孤军便于9月10日将之攻陷。900年，康怀贞又跟随张存敬征河朔，将燕军击败于易。

901年12月底，朱温率军到凤翔争夺唐昭宗，李茂贞派大将符昭领兵万余在武功拦截，康怀贞为前锋，一当先大破岐军，俘虏甲士六千，夺两千。第二天朱温赶到，环顾左右得意的说；“此邑名作武功，如今首破逆党，当真是武功哇。”随后召来康怀贞，大加表彰赏赐，从此十分重用他。

第二年5月，符昭屯兵虢县的汉谷，朱温派康怀贞率数千骑兵迎战。符昭是员骑将，尤其善于布阵，在当时也算名的勇将，只是此人喜槽，炒过三位主公，最后投靠朱温，战死在夹寨。他建立营垒的地方，前临大河后倚峻岭，非常险要，但当得知康怀贞兵少后，便率领甲士万人过河主动击。康怀贞就利用符昭的轻敌心理，在夜幕掩护下先派一千骑兵佯攻其营垒，待引诱岐军大举追击后，伏兵将之击败。

到了10月11日，李茂贞夜袭攻占奉天，朱温率大军前去讨伐，康怀贞被安排在岐军东北扎营。一天夜里，岐军大举攻康怀贞的营垒，康怀贞担心夜晚告急引起诸军慌，就在不明敌情的条件下，毅然以两千余人对抗，从半夜激战到黎明，上受伤十余，终于迫使数万之众的岐军撤退。

康怀贞在西边酣战之际，也是氏叔琮第二次围攻晋之时，氏叔琮的攻使李克用几年不敢南下，而康怀贞的勇名也令敌军闻风丧胆。902年9月，坊节度使李茂勋屯军三原，支援凤翔，朱温派康怀贞迎战，李茂勋闻风而逃。到了903年5月底，吴王杨行密派兵数万攻宿州，得知康怀贞率骑兵赶到宿州，竟也不战而逃。于是康怀贞与氏叔琮一西一北，构成了葛从周之后、刘和杨师厚之前，梁阵营的两大活跃将领。

906年11月初，康怀贞联合刘知俊以五千兵在原击败杨崇本率领的六万、凤大军，取得斩首二万，夺三千，俘虏偏裨将百人的辉煌战绩。可惜此战经过书中并无详述，因此今人也只能去凭空想象那超的作战和英勇的姿了。随后两人乘胜攻下、延等五州。经此一败，加之几年来的损失，西边诸镇再无力对朱温构成威胁，而在整个平定西军的战争中，康怀贞的战功堪称首屈一指。

西边即定，康怀贞随即投了与晋的战争。

907年6月29日，康怀贞奉命率大军讨伐潞州。临行前，朱温对康怀贞说；“卿位居上将，勇冠三军，一向破敌摧锋，义无反顾，至于爵厚禄，我亦无负于卿。忠臣报答主公的，只有一死之心，韩信曾说过‘汉王载我以车，衣我以衣，我以，人之禄，死人之忧’。我每次想到这句话，诚韩信真是忠烈的大丈夫！想那丁会受我恩惠不可谓不多，官厚禄，裂土分疆，就是木石偶人，也应恩待德了，不料他却反咬一，倒戈他人，假如有天明神，岂能容许这样！但凡寡恩薄义之事，忠良是不会的。我今举国力委托于卿，卿当尽心竭力。何况晋军新得上党，众心未定，以十万之师，一举可克。我将置台酒，等待卿歌舞凯旋。”王者即是用言辞胁迫的行家，他们能将望传达给对方，并使对方视其为自价值所在，朱温这番殷切激昂、又有些油的叮嘱无疑有这效果。康怀贞听了这番话后，自然也了解轻重，于是惶惶辞行。

7月，梁军来到潞州，康怀贞挥军昼夜猛攻，半个月内使尽各办法，却始终无法攻克。康怀贞没法，只得筑垒凿堑，将潞州城包围起来，防止内外晋军联系。朱温嫌他慢，就派李思安接替他，只让他作行营都虞候。这一降倒也好，否则李存勖攻破夹寨的责任，就难说是不是要落到他上了。