研究人员招聘到了，研究方向也确定了。当时研究院定有两个大的方向—智能人机界面和下一代多媒体技术，另外，张亚勤还将继续在数据压缩、视频、高清晰度电视和互联网等领域作研究。研究院的工作很快就步入了正轨。
在美国的时候，张亚勤全面负责桑纳福研究院多媒体组的工作，所有决定几乎都由他来做，他是绝对主角。现在，作为微软中国研究院的首席科学家，他变成了一个配角，职责是协助李开复制定并不断修正微软中国研究院的研究方向和选题，健全研究院的组织机构，并在研究小组之间进行协调。
张亚勤时刻没有忘记他在美国时的老板对他说过的话，“你回去，有可能成功，也很有可能被边缘化。”张亚勤当时随口回答了一句：“我还年轻，才30来岁，可以去试试，不成我再回来。”不过张亚勤从没有打算“做不成了就回去”，那不是他的风格。对于他来说，既然选择了，就没有退路。
创立之初，对于研究院的人来说，这个新生的机构必须拿出点儿什么东西证明自己在世界科研版图上的存在，才可能谈下一步的事。那时候，张亚勤的家人都还没有回国，他真正成了一个“公司人”：白天面试、定方向、讨论课题，晚上和大家一起吃饭，然后接着关在办公室里搞自己的课题，神经实在绷得紧了就去打保龄球。每天晚上都差不多11点钟才离开办公室。周末偶尔会稍微休息一下。也就是在那段住香格里拉酒店公寓的时间里，张亚勤系统地复读了很多武侠小说。就这样，一周七天都沉浸在激情里：“完全就像搞一家新公司一样。一心想着一定要做出成绩，让大家看到我们在中国会比在美国更成功。”
1999年5月，盖茨派微软首席技术官克雷格·蒙迪来北京考察微软中国研究院的进展情况。这是克雷格·蒙迪第一次来中国。张亚勤跟这位CTO是老相识，两人在竞争美国高清电视标准时就是对手。张亚勤评价这位曾经的对手“相当厉害”。正所谓“不打不相识”，现在成了同事，聊得更投机了。
克雷格·蒙迪此行是为考察而来，给这些新员工打打气。当然他最想看到这个新团队在这几个月里做出了什么新成果。在研究院里里外外转了一圈后，克雷格·蒙迪大开眼界，回到总部，他这样向比尔·盖茨汇报：“中国研究院的那些人真是厉害，没想到在中国的这个平台，居然吸引了这么一批优秀的人才。”
总部的肯定让研究员们信心大增。但张亚勤他们很清楚，真正立足的资本不是鼓励，而是战果。研究院上下全力以赴，几个月之后就有了成效。
1999年11月5日，微软中国研究院在北京庆祝成立一周年。在短短一年中，不仅研究机构初具规模，而且在学术研究方面取得了累累硕果。研究人员由最初的两人发展到60人，在国际一流刊物上发表论文28篇，并出版了微软中国研究院的第一本论文集。
2000年，张亚勤回国刚好一年的时候，IEEE视频杂志最佳论文奖获得者揭晓，张亚勤再次折桂。这个专业大奖每年只有一位获奖者，这项殊荣对于当时的研究院意义重大。颁奖典礼上，主持人介绍获奖者张亚勤时说，“He is from China！（他来自中国！）”台下听众开始交头接耳地议论起来。
而站在领奖台上的张亚勤也不像以往领奖时那样一脸淡定，此时的他正努力压抑着自己的喜悦。他双手接过奖杯，然后高高举起，向台下的嘉宾致意，此时，泪水在张亚勤眼里打着转。
张亚勤并不是第一次得到这样的奖项，他也不是个容易激动的人，但当他听到那句“from China”的时候，心中一下子就涌起一股暖流，鼻子发酸。他的心中意识到：“这句‘来自中国’至少说明了两个问题：一是我第一次真正代表着中国；再就是证明了我并没有被边缘化，我打破了其他人对回国做科研、对我的悲观论调。”
张亚勤有资本自豪。这一年多来，研究院取得了丰硕成果，本土研究员和实习生成长迅速。仅他领导的多媒体小组就在全球最优秀的学术刊物和会议上发表了80多篇论文，在网络协议领域申请注册了40项专利，做出了60项新发明，并已有8项成熟技术转让给微软公司的相关产品部门。