建国初期，中国的原子能科学研究基本一片空白，设备落后，甚至连一台粒子加速器都没有，而由于西方国家对我国的封锁，前苏联和东欧国家提供的核物理实验设备非常简陋。在最艰难的情况下，杨澄中与赵忠尧先生一起，于1955年领导建成了中国第一台大气型700kV质子静电加速器。1957年，杨澄中在北京负责设计建造了中国第一台400 kV高压倍加器。在杨澄中的领导下，中国第一批原子核物理实验研究用闪烁探测器和核电子学仪器研制成功。这些设备为我国开展原子核物理实验研究创造了条件。

根据中央的部署，1957年，杨澄中受命率领着从原中科院北京物理所抽调的15名科技人员、8名工人及其他人员深处西北腹地的兰州，与甘肃省委调派的20多名党政干部汇合，创建我国原子核物理后方研究基地——中国科学院兰州物理研究室，开始了新的“从零开始”，迈出了西北地区建立核物理研究基地的第一步。

去最需要的地方，去最艰苦的地方，杨澄中这一干就是三十年，直到1987年病逝。为了满足开展实验核物理研究工作的需要，在杨澄中的直接指导下，发展了用于核物理实验的多种类型的粒子探测器，自制了一批核物理电子学线路，如线性放大器、高压稳定电源和甄别器等，质量优于当时从苏联进口的设备，接近国际同类产品的水平。用这些装备和自制的仪器设备，杨澄中带领全体科技人员在兰州开展了原子核反应和中子物理研究，取得了许多重要研究成果。更重要的是，杨澄中通过这些研究工作培养锻炼了一支从事原子核物理研究的科技队伍。

在当时极其困难的条件下，他领导全研究室人员奋发努力，在短期内改进并重新安装、调试成功了从北京搬迁来的400kV高压倍加器，达到了设计指标，于1959年投入运行，为近代物理研究所早期开展的快中子物理和轻核反应以及后来的一项重要国防科研任务提供了条件。

在他的领导下，经过7年多艰苦创业，到1965年一个包括加速器科学技术、实验核物理、理论核物理、核化学、核电子学和核辐射探测器等门类齐全的原子核物理综合性研究所在祖国的大西北初具规模。