接任院长后，张亚勤开始深入思考研究院发展和管理方面的各种问题。尽管在桑纳福的时候他就做过与市场相关的工作，但管理一个研究院级别的组织，对管理者的要求无疑更高。而张亚勤也由“队长”正式迈向了“教练”的岗位。之前一年多的初创阶段，他工作的核心是尽快出成果，让别人看到研究院的实力和前景。不过在“大跃进”的发展过程中也遇到了不少问题，如“研究方向以及研究院的长期发展定位问题”、“国内研究员在应试教育环境中固有的思维习惯与微软研究创新的矛盾”等。现在，终于有时间来解决这些系统性问题了。
张亚勤发现，国内学生的思维方式是个大问题。与他那个时代的学生不同，现在的学生更多的是为考试而学习，并不是为自己而学习。国内学生从应试教育中一路走来，老师要考什么就学什么，没有考试，也就觉得学习失去了动力。一个鲜明的例子是，研究院当时的很多研究员英语笔试成绩很好，但是口语完全跟不上，在进行国际交流时存在很大障碍。于是研究院请了北京的一位最优秀的外籍英语老师给大家培训，刚开始还有人去，可是后来去的人越来越少。张亚勤很诧异，就去问原因。有年轻人反映说：“不用考试，学了也没有什么用处。”
后来，张亚勤有一次在碰到新东方的创始人俞敏洪时，还对他开玩笑说：“你们这帮家伙，生生把说不了也听不了英语的人训练成了英语考试机器，实际上还是什么都不会。”
年轻人学习思维有问题，归根结底是国内学术氛围的“畸形”所致。
当时国内的研究水平并不高，与世界水平的差距还很大。但是国内发表的论文却在不断增多，张亚勤说：“因为大家都知道怎么样去‘发表’论文了。”
研究院建立之初，张亚勤曾要求每一个研究员都要就如何写研究论文、如何才能发表论文等接受全面培训。本来这些培训是为作出一流的研究服务的，但一些研究员却刻意去追求发表论文，这就与作高水平研究的初衷背道而驰了。
为了将研究院的管理更加规范化，张亚勤围绕建设世界一流研究院的奋斗目标，提出了“五五军规”，即“研究院每年要在不同技术领域的全球‘前五大’学术会议或杂志上发表不少于5%的文章。”
要想成为一流的研究院，就只能在全球排名前5位的杂志或会议上发表论文，不允许在其他地方发表，避免资源浪费和滥竽充数。因为在这些全球顶尖的杂志或会议上，当时几乎没有中国人的身影。张亚勤认为：“能够在这些杂志上发表论文，那才叫做有影响力，才能够称之为一流。”对待学术问题，一贯谦和的张亚勤相当严苛。
对于研究院的研究方向，张亚勤采取了“有所为，有所不为”的方针，再顶尖的研究院都不可能在每个方面都做到世界一流，因此张亚勤选择了图形学、多媒体和用户界面作为研究院的主攻方向，争取在这些领域做到世界领先，“选这几个方向是因为研究院有优势，而且也代表了未来技术的发展方向。”
有道是“名不正，言不顺”。除了研究标准和方向，张亚勤对研究院的职能定位也作了明确的阐述。这个定位几乎可以成为所有企业研究院的样本—“微软中国研究院是一家基础研究院，但它所作的研究是为微软公司的产品服务的，所作的研究必须满足四个条件：一是一流的，二是主流的，三是有用的，四是相关的。”
在张亚勤看来，这四条要求缺一不可：一流就要求做出来的研究成果必须是新的，是前人没有做过的。1.2流，1.5流都没用。主流就是做出来的东西是该产业或学术的主流，不是边缘的。有用性则强调了研究成果对产品要有影响，而不是做出来了就没有用处，企业不是政府机构，没有实用价值的科研成果如果耗费了太高成本，终究会被企业抛弃。而相关性，是张亚勤从施乐公司吸取的教训，施乐帕克研究中心曾经作出很多了不起的研究，互联网技术、激光打印机技术都是从该研究中心出来的，它们是一流的、主流的、有用的，但最终没有被自己的公司所采用，施乐公司没有从中受益。所以，张亚勤给微软中国研究院的定位要求一定是与微软产品相关的。
完成了研究院的定位，张亚勤明确了研究院三方面功能：第一，研究院应该是科学知识的一个发源地；第二，它应该是公司技术战略的智囊团；第三，是公司核心技术的孵化器。
把这些制度化之后，在研究院内部，张亚勤通过写文章、开讲座，以及召开座谈会等形式，统一大家的思想，进一步规范研究院的管理。
从接手研究院起，张亚勤还逐步摸索出了一套It企业管理的方程式，其中最著名的一个是It=IQ+IP（见前文）。在张亚勤看来，对于一家It企业，尤其是研究机构来说，最重要的有两个东西：一个是IQ，即智慧、聪明的人才，因为唯有聚积了一大批聪明的人才才能够创造出一流的技术；另一个是IP，即知识产权，一个视科技为生命的公司，没有知识产权，几乎没有生存发展的空间。有了IQ和IP，It企业自然很容易取得飞速的发展，微软公司的崛起就是最好的例证。
张亚勤对于人才管理的认识更是有独到之处。他提出：“一流的研究院不仅要吸引一流的人才，发表一流的文章，还必须要有再生能力，要有机制可以培养自己一流的科学家。”张亚勤希望今后研究院的科学大师都是院里自主培养的，而不仅仅是从外面聘请，所以他为研究院建立了一系列的培训及人才成长机制，如明日之星、导师制度等等。
亚勤的话：
不论管理什么人—美国人还是中国人，都要以理服人。
这一系列的举措使得张亚勤第一次彻底展现了自己在管理方面的大格局。它的确定，使得微软中国研究院有了“根”和“使命”，在随后而来的互联网泡沫、全球金融危机等事件的冲击下屹立不倒，逆势前进，最终升级为微软亚洲研究院，并成为后来微软亚太研发集团的基础，成为微软公司在海外最大的研究和产品开发基地。