广州起义失败后，谭寿林于1928年秘密到上海从事工人运动，先后任全国海员总工会秘书长、全国总工会秘书长等职，同时担任党的《红旗报》编辑。
1931年4月22日，因叛徒出卖，谭寿林被捕。在狱中，敌人对他施以各种酷刑，他始终坚贞不屈，没有泄露党的任何机密。
5月23日，他被作为“要犯”押往南京国民党宪兵司令部看守所，特务再度对他威逼利诱，严刑拷打，但仍一无所获。他那“杀头当作风吹帽，坐监也要闯上天”的气势让敌人胆寒。
1931年5月30日，谭寿林英勇就义于南京雨花台，时年35岁。
梁焕治介绍，为更好缅怀英烈，2016年港南区投入40多万元，重新修缮了谭寿林故居，下一步将投资建设谭寿林纪念馆，将其打造成为港南区党建示范点。
