1929年6月 ，经组织批准回国，于佛鼎、奎璧组建了中共西蒙工委三人小组，负责组织工作。后接替佛鼎任工委书记，在内蒙古西部地区开展地下斗争。 

    1933年5月，组织抗日救亡团体。

    1936年2月21日，乌兰夫同志帮助云继先、朱实夫等人，举行了百灵庙暴动，打响了蒙古民族武装抗日的第一枪。 

    1937年9月，乌兰夫在蒙旗独立旅(后改编为国民革命军新编第三师)任政治部代理主任。同时，任中共地下党委书记。

    1938年4月，乌兰夫同志任中共绥蒙工委委员。 

    1938年5月，乌兰夫同志接到中央指示，赴延安向毛泽东汇报工作。