在西方强国对中国实行高性能计算机禁运的背景下，金怡濂领衔主持研制国家重点工程——“神威”巨型计算机系统，担任总设计师。他提出以平面格栅网为基础的“分布共享存储器大规模并行结构”总体方案，同时提出网上多种集合操作以及无匹配高速信号传送等技术构想和解决方案，均获成功。

　　有一件事让金怡濂刻骨铭心。我国有关部门花大钱从国外进口了一台巨型计算机，同时还要花钱从对方雇来两个“监工”，以确保我方不能接触到机器的核心技术，机器也只能用于合同上规定的用途，甚至连开机、关机也得由“监工”来做。“外国专家有一个小房子，中国人是不准进的。这件事大大伤害了我们，刺痛了我们，我们也深感自己没能为国分忧。所以，关键的部位，我们要下决心自己开发。国运昌则科技兴，科技兴则国力强。”

　　金怡濂常常用这件事告诫他的助手们：真正的高技术是花钱买不来的，中国一定要加速发展巨型机，否则，祖国建设会因此受到严重影响。　

　　国家气象中心利用“神威”计算机精确完成极为复杂的中尺度数值天气预报，在国庆50周年和澳门回归等重大活动的气象保障中发挥了关键作用。但金怡濂倾毕生精力为国家研制巨型计算机还有更多本事——超级计算机通常是指当时性能最高、运算速度最快的一类计算机，是气象气候、石油物探、生命科学、航空航天、药物筛选和基础科学等领域不可缺少的高端计算工具。