Cuối năm 1924, lãnh tụ Nguyễn Ái Quốc từ Liên Xô về hoạt động ở Quảng Châu (Trung Quốc). Nhiệm vụ công khai của Người là làm việc cho phái đoàn Borodin, nhưng thực sự công việc của Người là tìm mọi cách để truyền bá Chủ nghĩa Mác-Lênin về Việt Nam. Hồ Tùng Mậu đã có mặt ở Quảng Châu trước Nguyễn Ái Quốc; tham gia trong tổ chức yêu nước Tâm Tâm xã của người Việt Nam lập ra ở đây. Tuy nhiên, tổ chức này chưa có phương pháp hoạt động tiên tiến, thậm chí còn đang chủ trương manh động như ám sát viên Toàn quyền Pháp Merlin.
Nguyễn Ái Quốc đã lựa chọn trong Tâm Tâm xã những thanh niên hăng hái nhất để thành lập Hội Việt Nam Cách mạng Thanh niên. Hồ Tùng Mậu là một trong những thanh niên đó. Dưới sự lãnh đạo của Nguyễn Ái Quốc, Hồ Tùng Mậu cùng các đồng chí đã trực tiếp tổ chức đào tạo cán bộ, truyền bá Chủ nghĩa Mác-Lênin và chuẩn bị những điều kiện cần thiết cho sự ra đời của Đảng Cộng sản Việt Nam.
Trong những năm 1925-1927, Hồ Tùng Mậu là một trong những trợ thủ đắc lực nhất của Nguyễn Ái Quốc tại Quảng Châu, tham gia vận động các thanh niên trong nước sang Quảng Châu dự lớp; giúp Nguyễn Ái Quốc quản lý các lớp huấn luyện chính trị, xây dựng hệ thống cơ sở cách mạng và duy trì hoạt động của Hội Việt Nam Cách mạng Thanh niên. Hồ Tùng Mậu cùng Lê Hồng Sơn bên cạnh việc trực tiếp tham gia làm Báo Thanh Niên với Nguyễn Ái Quốc còn dành thời gian tập hợp các bài giảng của Nguyễn Ái Quốc ở lớp huấn luyện, in thành tập "Đường cách mệnh". Cuốn sách đáp ứng yêu cầu tìm hiểu, học tập của các cán bộ, đảng viên nên sớm trở thành cuốn sách “gối đầu giường” cho những ai cần học tập. Khi Nguyễn Ái Quốc phải trở về Liên Xô năm 1927, Hồ Tùng Mậu đã cố gắng duy trì hoạt động của Hội Việt Nam Cách mạng Thanh niên và sau đó là sự tồn tại của Đảng Thanh niên trong những thời điểm hết sức khó khăn. Sự trung thành, tận tụy và năng lực tổ chức của Hồ Tùng Mậu đã góp phần quan trọng vào việc thực hiện đường lối cách mạng do Nguyễn Ái Quốc đề ra.
Trước sự ra đời của 3 tổ chức cộng sản Việt Nam cuối năm 1929 và sớm xảy ra sự phân liệt, Hồ Tùng Mậu đã kịp thời báo cáo tới Nguyễn Ái Quốc và trực tiếp giúp Người liên lạc mời 3 Đảng cử người ra Hồng Công họp hội nghị hợp nhất. Là một trong hai đảng viên hải ngoại, Hồ Tùng Mậu đã cùng Lê Hồng Sơn tổ chức các buổi họp và tích cực tham gia thảo luận, xây dựng các bản dự thảo, góp phần đáng kể vào thành công của Hội nghị thành lập Đảng Cộng sản Việt Nam năm 1930.
Ngày 6-6-1931, Nguyễn Ái Quốc (Tống Văn Sơ) bị bắt ở Hồng Công. Rất may, Hồ Tùng Mậu biết tin này nên đã kịp thời báo cáo Ban Phương Đông Quốc tế Cộng sản. Ban Phương Đông đã thuê luật sư Loseby bảo vệ thân chủ Tống Văn Sơ.
Từ ngày 26 đến 30-6-1931, Hồ Tùng Mậu bị chính quyền thực dân Anh bắt giam với lý do hoạt động chống nhà cầm quyền Hồng Công, nhưng rồi vì không đủ chứng cứ buộc tội nên họ trục xuất ông khỏi Hồng Công, đồng thời thông tin cho mật thám Pháp đón lõng bắt giữ ông ngay khi vừa đặt chân đến Thượng Hải, bị giải về Việt Nam xét xử. Ông bị chính quyền thực dân Pháp tuyên án tử hình trong phiên tòa ngày 6-12-1931 tại Nghệ An, sau đó được giảm xuống thành án chung thân khổ sai. Ông bị giam trong tù từ năm 1931 đến năm 1945. Trong thời gian này, ông trải qua các nhà lao: Vinh, Lao Bảo, sau đó đến nhà đày Kon Tum. Trong tù, dù kẻ thù tìm trăm phương nghìn kế truy bức, hãm hại hòng lung lạc nhưng ông luôn giữ vững ý chí chiến đấu, giữ vững khí tiết của Đảng, thể hiện phẩm chất của một người cộng sản kiên trung, suốt đời gắn bó, hy sinh vì Đảng, vì dân tộc. Tại ngục Kon Tum, ông tham gia sáng lập "Hội tao đàn ngục thất", lấy thơ văn để nuôi dưỡng chí khí chiến đấu.
Sau Cách mạng Tháng Tám, ông được Đảng và Chính phủ giao nhiều nhiệm vụ quan trọng ở miền Trung. Ngày 19-3-1948, Hồ Mỹ Xuyên, Phó bí thư Tỉnh ủy Nghệ An, con trai duy nhất của ông, trên đường công tác tại địa phận tỉnh Yên Bái đã bất ngờ lâm nạn và hy sinh khi tuổi đời vừa tròn 28. Đích thân Chủ tịch Hồ Chí Minh tự tay đánh máy chữ, gửi thư chia buồn tới gia đình ông, thư có đoạn: "... Tôi cũng rất đau xót trước việc cháu Xuyên chết. Cháu Xuyên mất đi, chú mất một người con, tôi mất một người cháu, nhân dân mất một chiến sĩ, đoàn thể mất một cán bộ... Chú chuyển cho tôi lời chia buồn tới bà cố, thím và gia đình...".
Ngày 18-12-1949, Chủ tịch Hồ Chí Minh ký Sắc lệnh thành lập Ban Thanh tra Chính phủ và cử ông Hồ Tùng Mậu giữ chức vụ Tổng Thanh tra. Đầu năm 1950, Hội Hữu nghị Việt-Hoa được thành lập, ông được bầu làm Hội trưởng đầu tiên của Hội. Tại Đại hội Đảng lần thứ II vào tháng 2-1951, ông được bầu là Ủy viên dự khuyết Ban Chấp hành Trung ương Đảng. Mọi công việc Đảng giao ông đều hoàn thành xuất sắc, thể hiện bản lĩnh và trí tuệ của một cán bộ Đảng dày dạn trong chiến đấu, thanh liêm, trong sạch và nhất mực thương yêu đồng chí, đồng bào. Tiếc thay, giữa lúc đang độ chín của sự cống hiến, ngày 23-7-1951, Hồ Tùng Mậu bị máy bay giặc Pháp sát hại trên đường đi công tác tại Tĩnh Gia, Thanh Hóa. Bác Hồ đã viết điếu văn rất thống thiết:
“Chú Tùng Mậu ơi!
Lòng ta rất đau xót, linh hồn chú biết chăng?
Về tình nghĩa riêng: Tôi với chú là đồng chí, lại là thân thiết hơn anh em ruột. Khi hoạt động ở đất khách quê người, khi bị giam ở lao tù đế quốc, khi đấu tranh ở nước nhà, hơn 25 năm, đã bao phen chúng ta đồng cam cộng khổ, như tay với chân.
Về công việc chung: Từ ngày Cách mạng Tháng Tám thành công, chính quyền nhân dân thành lập, đến thời kỳ kháng chiến cứu nước, tôi đã thay mặt Chính phủ và đoàn thể, giao phó cho chú những trách nhiệm nặng nề...
... Mất chú, đồng bào mất một người lãnh đạo tận tụy, Chính phủ mất một người cán bộ lão luyện, đoàn thể mất một người đồng chí trung thành và tôi mất một người anh em chí thiết. Mấy nguồn thương tiếc, cộng vào trong một lòng tôi...”.
Cuối bài điếu văn là câu: "Thưa với bà cố: Xin bà cố chớ quá đỗi đau thương, dù mất chú Mậu, tất cả chúng tôi đều là con cháu của bà cố!".
Hồ Tùng Mậu là một trong những chiến sĩ tiền bối tiêu biểu của cách mạng Việt Nam, người đồng chí thân thiết và cộng sự gần gũi của Nguyễn Ái Quốc trong những năm hoạt động cách mạng ở nước ngoài. Cuộc đời hoạt động cách mạng của Hồ Tùng Mậu thể hiện phẩm chất của một người cộng sản kiên trung, suốt đời gắn bó với sự nghiệp cách mạng của dân tộc và với Chủ tịch Hồ Chí Minh. Tình đồng chí giữa Hồ Tùng Mậu và Hồ Chí Minh là biểu tượng đẹp về sự gắn bó thủy chung, cùng chung lý tưởng giải phóng dân tộc và xây dựng đất nước.
Ảnh tư liệu : Bác Hồ (ngồi đầu tiên, từ phải sang) cùng một số đồng chí Ủy viên Trung ương Đảng khóa II (năm 1951) tại Tuyên Quang. Đồng chí Hồ Tùng Mậu đứng thứ tư, từ phải sang.