第一次国共合作后，广东革命形式迅猛发展，迫切要求建立一支可靠的革命武装力量。1924年5月，在苏联顾问的建议下，孙中山创办了黄埔军校。这时，来到广东不久的廖乾五、包惠僧经过二七惨案的沉痛教训，逐渐认识到，要消灭反动军阀，必须要有一支革命武装。8月下旬，孙中山创建“大本营航空局铁甲车队”，这是一支国共合作的革命武装。孙中山大本营任命国民党员卢振柳任队长，中共组织选派廖乾五任政治部主任，包惠僧兼任政治教官，军事顾问是苏联红军军官罗嘉觉夫。铁甲车队名义在大元帅府的编制内，实际是由中国共产党直接领导的革命武装，具有很大的独立性。部队的主要活动，都由廖乾五、徐成章向中共广东区委负责人陈延年、周恩来汇报请示。铁甲车队改组初期，只有廖乾五等数名共产党员，随着铁甲车队的发展，廖乾五等又先后吸收了见习官周士第，排长莫奇标、高超、李海涛，班长周子昆，队员魏鉴贤等入党，形成了20多人的共产党员核心，这就保证了共产党员是铁甲车队的骨干力量，将枪杆子牢牢抓在了共产党手中。铁甲车队，在廖乾五、徐成章领导下，把政治教育放在重要地位，成为区别于其他部队的一个特征。
铁甲车队改组不久，国民党中央农民部特派员，中共广东区委农委负责人彭湃请求开赴广宁县支援农民减租运动。经中共广东区委和大元帅府批准，于12月8日廖乾五、徐成章率80余名官兵开赴广宁县。广宁县在彭湃和周其鉴领导下，建立了中共广宁支部和县农会。廖乾五等率队在广宁支援农运70 余天，将全县反动武装一举荡平，为广东农民运动的发展作出了贡献。2月19日，廖乾五等率队返回广州。广州各界于当月23日召开数万人的大会，为铁甲车队庆功祝捷。在广宁支援农民运动期间，廖乾五和彭湃把缴获的千余武器及弹药用于武装农民自卫军，并派干部帮助训练农民自卫军。在中国共产党内，他俩是“武装农民”这一重要主张比较早的提出者和实践者。
1925年5月30日五卅惨案发生后，为了支援上海人民的反帝斗争，中共广东区委发动了省港大罢工，广州10万工农兵走上街头，举行反英大示威。廖乾五、徐成章率铁甲车队参加了这次游行。9月中旬，廖乾五同周士第率铁甲车队一部驻防深圳，协同政府军在石龙车站解除国民党右派郑润琦之一部武装。11月4日，港英当局出动飞机、军舰进犯沙鱼涌，廖乾五、周士第指挥本队英勇抗击后，率部突围。在这次战斗中，铁甲车队和工人纠察队以不足百人的兵力，英勇抗击了港英当局飞机、军舰支援下的千余名匪徒进攻。以伤亡30余人的代价，毙匪徒200余人。表现了中国共产党领导下的革命武装，英勇抗击帝国主义侵略的大无畏革命精神，在我党早期领导的武装斗争史上，谱写了光辉的一页。
