1940年，当时的上海交通大学组织入学考试，并不限定应届与否。从宁波高工毕业一年后，徐光宪考取上海交通大学的化学系，成为正取生，而且还获得了中正奖学金。

大学二年级时，徐光宪上一门叫“高等定性分析试验”的课程，任课教师为袁积成老师。课程内容是：老师给一个未知元素样品，让学生来做半微量定性分析，要求学生给出样品中含有哪几种元素（一般是四五种元素），并且，估计各种元素的含量等级是哪一种（large、medium、small）。一次徐光宪提交实验报告，袁老师拿出笔记本对照后，就说了一个字。徐光宪做实验一向认真，很少出错，拿到这个Repeat，只好再重复一次实验。

可是，重做实验需要见缝插针地找时间，因为实验室已经安排满了正常的课程实验。重做实验一般只能利用星期天的时间。这一次徐光宪更加仔细，结果出来还是那五种元素。可是因为老师已经叫他Repeat了，他不敢就这样交上去，只好再重复一遍，结果还是那五种元素。于是，再仔细检查一遍，这次徐光宪发现有一个元素的量级应该是large，可是他之前写成medium，含量等级估计有错，于是便把原来实验报告中的medium改为large交了上去。老师这才接受。

这个教训徐光宪至今不忘。他谨记做实验要非常仔细，不能有一点错，即便是量级的估计也不能出错。这个习惯养成后一直伴随着徐光宪的学术生涯。他招收研究生后，一直要求他的研究生实验要重复一下，没有问题了才拿去发表。可见，袁老师的这种严格对徐光宪的影响之深刻。

交大的淘汰率很高，一、二年级的留级率一般在10%—15%。有的班级到二年级时已有1/3学生被淘汰，而到毕业时，全班学生只有入学时的一半了。大学一年级读完，徐光宪的“总习学分数二零，不及格学分数零，实得学分数二零，体育成绩丙，各科成绩总平均八五.四四，操行成绩甲”，并于第二学期获得了奖学金。徐光宪毕业成绩均分为83.10，名列全班第一。