1974年3月，上海市革命委员会下发了上海市1974年至1975年大规模集成电路（LSI）及其基础技术会战项目表。项目表中，中国科学院冶金研究所主要负责或参与负责 “大面积集成电路自动测试仪”等项目。同月，徐元森就带领科研人员，开始大规模集成电路及其制造工艺的研究。

由于没有现成的集成电路制造和加工设备，徐元森带领科研人员自力更生，设计和造成了相关的专用设备，开发成功大面积刻图机，精度可达0.1毫米，开发成高精度初缩照相机和分步重复精缩照相机。有了这些设备，可以将设计图放大1000倍，4微米的线条放粗到4毫米，再经过两次照相缩小至电路要求尺寸，精度和误差限定在0.2微米。

集成电路的制造需要严格的实验环境，在徐元森的领导下于1975年首先建成国内第一个净化实验室，用三级过滤方法，除去了99.9%的灰尘，空气中的尘含量由每立方英尺的百万颗粒下降至10个颗粒左右，达到了大规模集成电路研制的工艺要求。刻图机、净化实验室等设备的开发和创建，在当时的历史条件下，确是一件非常困难的事情。为适应大规模集成电路研制的需要，上海冶金研究所从1973年起把原来200平方米面积的实验室改建为140平方米面积的“乱流型” 洁净室，自行设计，自行施工，历时16个月。经国家四机部第十一设计院进行测定，要求洁净级别很高的光刻间已达到100级（粒度0.5微米的尘埃少于3.5个/升）。至此我国第一批大规模集成电路光荣诞生，徐元森领衔的“高速双极型电路研究项目”课题组于1985年荣获中国科技进步奖一等奖。

1982年起，徐元森重点开展MOS大规模集成电路的研究，研制成功我国第一批单片8位、16位CPU电路。这些集成电路和工艺技术均处于当时国内领先地位，促进了我国CMOS技术的发展，获得中国科学院科技成果一等奖等多个奖项。在这一阶段，徐元森在微电子领域勇于开拓，先后研制成功三种器件隔离方法，泡发射区、双层金属布线、全离子注入等工艺技术。开发成功DTL、TTL、ECL、EPROM、3微米和2微米CMOS、NMOS等系列集成电路100余种，这些成果被国内许多工厂、学校采用。1987年，徐元森成功完成国家“六五”攻关项目——Z8000微处理器电路的研制。Z8000微处理器电路是20世纪80年代初国际上最先进的三种微处理器电路之一，具有较强的功能，它的研制成功代表我国集成电路进入一个新的阶段。同年，获得中国科学院科技进步一等奖。同期，徐元森发明掺氟化氢的硅氧化新方法，可获得低缺陷、低界面态密度，低应力、高电压击穿强度和高金属氧化物半导体沟道载流子迁移率。1988年起，徐元森牵头或指导砷化镓门阵列的研究开发，首先在国内完成120门、600门超高速砷化镓门阵列的研发，为我国中规模砷化镓数字集成电路发展作出了开创性工作，打破了国外对我国的禁运，标志着我国砷化镓集成电路及工艺达到了一个新的高度。砷化镓高速分频器及门阵列电路获得中国科学院科技进步一等奖。