1931年5月,吉国桢任中共河南省委书记。在严酷的白色恐怖下,他不避艰险,整顿各地党团组织,领导党团组织深入基层,发动农村游击战争,在敌军部队中策动兵变,组织城市工人罢工,有力地回击了国民党反动派的屠杀政策。吉国桢还很重视兵运工作,担任河南省委书记伊始,就根据了解到的情况,向党中央建议开展对国民党二十六路军的兵运工作,并派遣一位在二十六路军中有广泛关系的干部到该军进行策动工作,为促成宁都起义做出了贡献。吉国桢还指导省委宣传和组织部门先后出版了《中州时事》《中州新闻》《群众周刊》《党的建设》等刊物,揭露军阀罪行,宣传红军作战的胜利及各地群众斗争的情况,加强了对党员和群众的教育。
1931年,九一八事变爆发后,吉国桢在河南领导成立抗日组织,展开抗日救亡运动。是年冬,吉国桢积劳成疾,一度半身瘫痪,卧床不起。经过治疗,病情稍愈,他又投入紧张的斗争。
经过吉国桢和战友们的努力,遭受严重破坏的河南党组织迅速得到恢复和发展,党员由几百人发展到2300多人,遍布全省90多个市、县,成立了开封、郑州两个市委,豫南和豫北两个特委,许昌、洛阳等5个中心县委,临颍、舞阳等3个县委,孝义、淮阳和军事学校等20多个特别支部。
1932年7月下旬,因叛徒告密,吉国桢在郑州被捕,后被押往开封。在狱中,敌人妄图从他口中得到党组织的秘密,对他威逼利诱,严刑拷打。原本就有伤病在身的吉国桢被打得遍体鳞伤,但他始终坚贞不屈,敌人未能得到任何口供。8月22日凌晨,吉国桢与13位同志一起,高呼着“中国共产党万岁!”“中国革命万岁!”的口号,高唱着《国际歌》,大义凛然地走向刑场,英勇就义,时年33岁。
英雄已逝,但他的精神巍然常存。在吉国桢的家乡,人们依然传颂着他的英雄事迹。