河南建业的前身是河南省足球队,俱乐部成立于1959年,现主场为航海体育场。球队曾经获得过1985年第一届全国青少年运动会冠军,1987年第六届全运会第七名。1985年成为甲级队。
  河南建业是成立至今两支未有更换过俱乐部后台老板的球队之一(另外一间俱乐部是北京国安),虽然它是中国其中一支最早成立的职业足球俱乐部,但自成立以来一直只能在次一级的联赛中比赛,2007赛季是河南建业首次参加中国职业足球顶级联赛的赛事。2009年赛季中超联赛河南建业获得季军,创造俱乐部历史最佳战绩,并首次入围亚洲冠军联赛小组赛。