在红一、四方面军会师后，李德也对张国焘分裂红军的行为进行了坚决抵制，并在组建的红军大学从事军事教育工作。尽管他实际指挥作战水平不高，但毕竟是伏龙芝军事学院毕业，他在军事理论、图上作业等方面还是有一套的。有时候，军事上已经靠边站的他，也会被邀请列席中共中央军委和政治局的会议。
抗战爆发后，他还担任过中央军事研究委员会编委会的主任，后去抗日军政大学讲授过一些战术课。1939年，李德返回苏联，所幸的是此时大清洗已经过去，斯大林并没有为难他，在李德为自己在中国的失误做出检讨并保证对中国的事情守口如瓶后，将他调出共产国际，到苏联的外文出版社编译马列著作。二战后，李德返回东德，后为协助苏联反华写了一些文章，攻击毛泽东，并对中国革命史进行了歪曲性的报道。1974年8月15日，李德因病去世。
作为李德的同胞、在南京的德国军事顾问，除为“剿共”出谋划策外，还对南京政府的军事改革起到了重要作用，这为后来中国的抗战奠定了重要基础。例如塞克特在考察了南京政府的军队后，他给蒋介石呈递《陆军改革建议书》，建议加大对军官的培养与精锐部队的训练。在德国顾问的协助下，南京政府先后建设了一大批专门军事院校，比如步兵、骑兵、炮兵、工兵等学校。特别是加强了军队的炮兵、装甲兵等。可以说，在1928年至1937年间，南京政府从武器装备到军事思想，几乎全部仰仗于德国。
塞克特返国后，由法肯豪森将军继任总顾问之职。为了应对即将到来的中日战争，法肯豪森设计了从上海到南京间的江南国防工事图，这条被称为“中国的兴登堡防线”后来成为中国抗日国防的重要工程之一。在1937年淞沪会战中，蒋介石将德式装备的主力第八十七、第八十六、第三十三师全部投入作战，“打给外国人看”。在这些德式训练军队的顽强作战下，中国军队抵抗日军居然达三月之久，这对于坚定国际上对中国抗战的信心具有积极意义。在此次战役中，德国顾问团在法肯豪森将军的率领下，亲赴前线协助作战，一些德国顾问甚至下派到师、团一级。
但是，好景不长，中德关系很快就随着二战的爆发而趋于冷淡。德国在华军事顾问也很快被终止了在华的使命。二战中德国为了获取日本的支持，将所有在华的德国顾问全部撤回国内，中、德关系就此走向低谷。1941年7月1日，在德国承认了汪精卫政权后，重庆国民政府迅速作出反应，第二天就宣布与德国断绝外交关系。珍珠港事件后，重庆政府正式向德、意、日三国宣战，双方关系彻底破裂。
