慈云桂幼时在家乡读私塾，18岁毕业于桐城中学，22岁考入湖南大学，后保送清华大学无线电研究所读研究生，毕业后留校任教。新中国建立后，任国防科技大学副校长兼电子计算机系主任和计算机研究所所长、国防科工委科技委常务委员、中国科学院学部委员、博士生导师，曾当选中共第十届、第十一届代表大会代表。

      慈云桂长期致力于计算机研究和教学工作。1958年领导研制了我国第一台电子管数字计算机。1961年主持晶体管通用计算机441B的研制，成为我国最早研制成功的晶体管计算机之一。1969年在国家组织“远望”号测量船中心处理器的论证方案时，率先提出国产化、集成化、百万次级双机系统的方案，终在极其艰难情况下使中心处理机研制成功，完成了试验任务。1977年，慈云桂担任“银河”亿次计算机研制的技术总指挥和总设计师，经过6个春秋，终于研制成功，并达到国际先进水平，填补了中国巨型计算机的空白，成为世界上少数拥有巨型计算机的国家之一。为此中央军委授予他科技成果特等奖，并记二等功。1980年代，国际上刚刚开始智能计算机研制工作。他在向组织建议要重视此项研究的同时，组织和带领一批博士生开始智能计算机研究，建立中国智能计算机学会和智能计算机专业组，为汉语语音输入及单字、词组识别与应用做了大量工作。1989年，他积极组织并主持召开人工智能工具第二届国际会议，为多种型号计算机的研制开拓出新的途径。

      慈云桂是热心的教育家，从清华大学执教起，在教育战线上辛勤耕耘40多个春秋。1958年调回国防科工委后，仍接受国防科技大学聘任，继续担任该校硕士、博士研究生和博士后导师。
慈云桂学术著作甚多，在国内外刊物上先后发表了100多篇有价值的文章，为国内高等学校编写了100多万字的教材。他是美国IEEE学会高级会员，《科学通讯》、《中国电子学报》、《计算机学报》编委，《科学导报》、《新一代计算机系统》杂志中国编委。