1992年马忠臣调任中共河南省委副书记，一年后任河南省省长。在此期间李长春为省委书记。1998年李长春任中央政治局委员、广东省委书记，马忠臣接任省委书记，李克强被任命为河南省人民政府副省长、代省长，开始了与李克强两年的省委党政搭班子。2000年8月，马忠臣调任中央财经领导小组副秘书长，离开了执政8年的河南。

道路两边分别有四座六角形纪念亭，亭下立有纪念碑。左面是水东特委书记韩达生烈士纪念碑，张震、张爱萍、马忠臣等领导为英雄纪念碑题词。紧挨着的是地委书记唐克威纪念碑，他牺牲时年仅30岁。右面是抗美援朝一级战斗英雄，特等功臣倪祥明烈士纪念碑。向前不远处有一座特殊的纪念碑，那是1967年元月，板木公社社直机关全体职工为（现为板木乡）184名烈士立的纪念碑，上面铭刻着184位英雄的名字。来到纪念碑后面，那里安葬着28位革命烈士，他们静静地仰卧在那里，四周围簇拥着苍松翠柏。

1998年在一次河南省三级干部会议上，马忠臣在讲话中拍案怒斥官僚主义。马忠臣在讲话中说，从省委、省政府领导开始，下基层工作要轻车简从，一律不准用警车开道，坚决把下基层的接待、生活规格降下来。

从政之路上除了自己的家乡，河南是马忠臣为官躬耕最久的地方，也给当地留下了，务实、低调，兢兢业业，平易近人的执政者形象。

参加这次会议的河南当地各级官员评论，“这样有棱有角的讲话已经很久没听过了！”，并称马忠臣的讲话为“政坛新风！”

河南省委省政府时任主要领导侯宗宾、李长春、马忠臣、宋照肃等多次来林州考察、调研，并于1991年4月在四所筹划接待了在林县召开的“红旗渠精神杯”河南农田水利基本建设保障大会，1993年7月召开的中共河南省委五届七次全体会议。1993年5月召开的“日月神杯”伞翼滑翔赛，五湖四海的运动员、教练员，报纸、电台记者从天南地北五湖四海云集林州，采访报道林县改革开放所取得的成绩，林县沉默几年后再度风流。

马忠臣是中国共产党第十二届、十三届、十四届中央委员会候补委员，第十五届中央委员会委员，政协第十届全国委员会常务委员。

1989年9月10日，中共山东省委在昌乐召开“坚持党的宗旨，廉洁从政”现场会议期间，省委书记姜春云，省委副书记、省长赵志浩，省委副书记马忠臣等领导率与会代表参观了红河镇政务公开栏。

马忠臣怒斥道：同志们哪，我们这些进京打工的农民容易吗？他们背井离乡，风餐露宿，流血流汗，弄不好还要受别人的欺负，我们应当多为他们服务，多为他们做点什么才是。我们再揩他们的血汗钱，于心何忍，良心何在啊！并当场拍案宣布，收的这笔钱，一分不少上缴财政，有关责任人做出深刻检查。再出现此类问题，免除职务。