1937年9月中旬，张仲翰和时任保安队长的张子元率公安警察55人、保安队员66人加入由张荫梧组建的河北民军。按照张荫梧的指示，随博野专员区专员、县长高子厚撤至安平县城。张子元原为爱国将领吉鸿昌部下一军官，思想进步。因荫梧极其反共，二人经协商，回师博野，在大程委镇以公安警察、保安队员为基础，吸收部分守望队员共计300余人组建了博野县河北抗日民军。9月下旬开进县城，张仲翰为司令，张子元为副司令。司令部设参谋处、供给处、锄奸处、卫生处、秘书处、副官处、军械处、经理处，下辖3个团。一团团长由张子元兼任驻城东，二团张文祥任团长驻大程委，三团李侠飞任团长驻北杨村"四存中学"。10月14日，吕正操率人民自卫军两个连到博野与张仲翰会晤，共商抗日大计。11月初，博野河北民军接受中国共产党领导建立政治部，同月请求吕正操加委，番号为"冀中人民军游击第二师"，不久又恢复博野河北民军番号。年底，中共博野县委在博野河北民军建立党务委员会，书记耿建秋。1938年1月，博野河北民军进行总编，下设两个支队，一个特务团，人员达到2000多人。9月，部队献县一带驻防，期间，二支队队长李侠飞、特务团长张文祥率部投靠国民党河北民军总指挥张荫梧。博野河北军民司令部及一支队编入八路军冀中军区部队。

    在今后的抗日战争中，张仲翰在冀中军区的领导下，率领部队利用游击战的战术，多次打击和消灭日、伪军。1939年5月，贺龙率120师到博野河东地区，张仲翰又率部积极配合120师打击日本侵略军，建立地方武装和工农政权，巩固抗日根据地。1939年，张仲翰任津南抗日自卫军司令员，后任120师三五九旅七一九团团长、南下支队第三支队队长、枣阳军分区司令员。

    在抗日战争中，他努力学习和运用毛主席的战略思想，并在战争中学习战争，为最终打败日本侵略者做出了一定的贡献。解放战争时期，历任北平军调处执行部中共代表团高级联络员、第一野战军第一兵团旅长、师长。

    解放新疆后，张仲翰率部进疆，历任九军政委、二十二兵团政治部主任、新疆生产建设兵团副政委、第二政委、党委第二书记、新疆军区副政委、新疆自治区党委常委，为建设新疆、保卫祖国作出了新的贡献。王震将军非常器重张仲翰，对他顾全大局、不计名利给予了高度评价，说"张仲翰这个人是不打个人算盘的"。后调任中央农垦部副部长、党组成员、中国人民解放军炮兵顾问等职。曾当选中共共产党第八次全国代表大会代表及第三届全国人民代表大会代表。1980年3月9日在北京逝世，终年65岁。张仲翰同志是三十年代的文艺家、四十年代的军事家、五十年代的农学家。