Quá trình hình thành phát triển của Công Hội đỏ Bắc kỳ gắn liền với hoạt động của lãnh tụ Nguyễn Ái Quốc trong những thập niên đầu của thế kỷ XX, Người đã đặt nền móng, cơ sở lý luận cho sự ra đời của các tổ chức quần chúng của giai cấp công nhân Việt Nam. Từ năm 1914 đến năm 1917, Nguyễn Ái Quốc hoạt động ở Luân Đôn tham gia công đoàn hải ngoại Anh; cuối năm 1917, Người trở về Pháp, tham gia Đảng xã hội Pháp và là đoàn viên của công đoàn Kim khí Pháp; năm 1919 đã hướng dẫn cho Nguyễn Tạo (Việt kiều tại Pháp) thành lập công đoàn thủy thủ Việt Nam tại Mác-xây.
Tháng 6/1925, Nguyễn Ái Quốc sáng lập Hội Việt Nam thanh niên Cách mạng ở Quảng Châu-Trung Quốc và trực tiếp giảng dạy cho các hội viên. Trong cuốn “Đường cách mệnh” có nói đến tính chất nhiệm vụ của Công hội: “Tổ chức công hội trước hết là để công nhân đi lại với nhau cho có cảm tình, hai là để nghiên cứu với nhau, ba là để sửa sang cách sinh hoạt của công nhân cho khá hơn bây giờ, bốn là để giữ gìn quyền lợi cho công nhân, năm là để giúp cho quốc dân, giúp cho thế giới”. Sau khi được học tập lý luận hầu hết các hội viên đã trở về nước hoạt động, phát triển những hội quần chúng như hội hiếu hỉ, tương tế, chơi họ... thành tổ chức công hội.
Từ năm 1928, kỳ bộ Bắc ký của Việt Nam cách mạng thanh niên phát động phong trào “Vô sản hóa”, phong trào đấu tranh của công nhân Việt Nam ngày càng sôi nổi, đã thúc đẩy tổ chức công hội phát triển cả về hình thức lẫn nội dung hoạt động và trở thành tổ chức công đoàn cách mạng của giai cấp công nhân.
Tại các khu công nghiệp thuộc các tỉnh miền Bắc, nhiều xí nghiệp đã có công hội như: nhà máy Diêm, hãng sửa chữa ôtô Aviát (Hà Nội), nhà máy Sợi, nhà máy xi măng (Hải Phòng), Hòn Gai, Quảng Yên (khu mỏ Quảng Ninh... Công nhân làm việc ở các bến tàu, nhà ga cũng có tổ chức công hội. Ở miền Nam, tổ chức công hội cũng đã hình thành và hoạt động, chủ yếu ở các khu công nghiệp Sài Gòn-Chợ Lớn và đồn điền cao su.
Năm 1929, phong trào công nhân và hoạt động công hội ở nước ta phát triển sôi nổi, đặc biệt là ở miền Bắc. Các cuộc đấu tranh của công nhân nổ ra liên tục ở nhiều xí nghiệp, có sự phối hợp chặt chẽ và thống nhất hành động giữa các cuộc đấu tranh ở xí nghiệp này với xí nghiệp khác trong cùng một địa phương, giữa các địa phương này với địa phương khác trong toàn xứ, kết hợp với phong trào đấu tranh chống thuế của nông dân, bãi thị của tiểu thương, bãi khóa của học sinh.
Tháng 3 năm 1929 chi bộ cộng sản đầu tiên được thành lập ở Hà Nội. Ngày17/6/1929, Đông Dương cộng sản Đảng ra đời và lấy phong trào công nhân làm nòng cốt cho phong trào cách mạng, lấy việc vận động công nhân làm trung tâm công tác của Đảng, Đảng cử hàng loạt cán bộ vào nhà máy, hầm mỏ, nắm các công hội do Hội Việt Nam cách mạng thanh niên đã lập từ trước để tuyên truyền chủ nghĩa cộng sản, phổ biến tôn chỉ, mục đích Điều lệ của công hội đỏ, chọn lọc những quần chúng tích cực kết nạp vào Công hội đỏ.
Nhằm đẩy mạnh hơn nữa công tác vận động công nhân tăng cường sự thống nhất về tổ chức và hành động của tổ chức công hội, Ban chấp hành TW lâm thời Đông Dương Cộng sản đảng quyết định tổ chức Hội nghị đại biểu Tổng Công hội đỏ Bắc Kì lần thứ I ngày 28/7/1929. Hội nghị được tổ chức tại trụ sở Tổng công hội Bắc kỳ, số nhà 15 phố Hàng Nón - Hà Nội. Tham dự Đại hội có các đại biểu các Tổng công hội tỉnh và thành phố: Hà Nội, Nam Định, Hải Phòng, khu mỏ Đông Triều, Mạo Khê.
Đại hội đã bầu Ban chấp hành Trung ương lâm thời Tổng Công hội đỏ do đồng chí Nguyễn Đức Cảnh, ủy viên BCH TW lâm thời Đông Dương công sản Đảng đứng đầu. Đại hội cũng đã thông qua chương trình, điều lệ của Công hội đỏ và quyết định cho xuất bản tờ Lao động (số đầu tiên ngày 14/8/1929 do chính đồng chí Nguyễn Đức Cảnh và Trần Học Hải phụ trách). Ban chấp hành lâm thời còn có các đồng chí Trần Hồng Vận, Trần Văn Các, Nguyễn Huy Thảo, Nguyễn Văn Đoài...
Việc thành lập Tổng công hội đỏ Bắc kỳ có ý nghĩa hết sức to lớn đối với phong trào công nhân Việt Nam. Đó vừa là kết quả tất yếu của sự trưởng thành về chất lượng của phong trào công nhân nước ta, vừa là thắng lợi của đường lối công vận của Nguyễn ái Quốc và Đảng Cộng Sản Đông Dương, đồng thời cũng đáp ứng nhu cầu cấp thiết về tổ chức của phong trào công nhân Việt Nam. Việc thành lập tổ chức công đoàn đầu tiên của giai cấp công nhân Việt Nam góp phần vào sự lớn mạnh của phong trào cộng sản công nhân quốc tế. Mối quan hệ giữa phong trào công nhân Việt Nam với phong trào công nhân thế giới, đặc biệt là với công nhân và công đoàn Pháp đã được công hội đỏ thiết lập.