1974年冬天，张鲁新被调到兰州铁道部西北研究所。到西北研究所后，张鲁新担任青藏铁路多年冻土分布与特征研究课题组组长，和其他科研人员一道走上了青藏高原。“我到现在还记得第一次进藏的情景，我们一帮年轻人乘坐一辆解放牌大卡车上山，在沙石路上晃荡了整整一个星期，来到了海拔4700米的五道梁。当时我头痛欲裂，吃什么止痛药都不管用，只能抱着脑袋拼命地喊。”1976年，张鲁新等人对青藏铁路东线方案进行科学考察。7月的一天，张鲁新和两个同伴到尺曲河一带考察。“一场暴风雪突然袭来，天昏地暗，我们迷失了方向。我们不知东西南北地摸索着，感觉离营地越来越远。”夜里3时，浑身湿透的三个人再也走不动了，蜷缩在一个避风处，开始谈到了遗书和如何保留冻土资料。迷迷糊糊中，张鲁新似乎听到了有人带着哭声呼喊他们的名字。“我们三个人又累又饿，已经没有力气发出一点声音。万般无奈中，我们搜出身上还有一个防水的纸烟盒以及最后三根火柴。我们把烟盒撕成了三条。点燃一条，被风吹灭了；再点燃一条，还是没人注意。只剩最后一点希望了，我颤抖着把最后一条烟盒点燃，火苗蹿起。借着黑夜中的一丝光亮，同伴发现了我们。”就这样，同伴从死神手上为未来的青藏铁路拉回了一位科技之星。张鲁新在青藏铁路冻土的科学考察中，还曾遭到土匪的抢劫，因他身上没有什么财物，而躲过了一劫；他曾因食物中毒，吐了两天两夜。　

　　2000年9月，中央召开了几次修建青藏铁路论证会，张鲁新作为唯一一个坚持下来的冻土专家参加了。在一次决定青藏铁路命运的会议上，许多人都反对修建青藏铁路。会上有不少人提出，青藏高原海拔太高，人们根本呆不住，更无法施工。张鲁新缓缓地站起来说：“你们看看我，我在那里呆了快三十年了。”就在那次会议上，青藏铁路的路线被确定下来。