第二，裁减边军。当时的北疆为了应对后突厥，常驻唐军六十余万人。张说经过深入考察论证，认为当前已没有能对大唐构成实质威胁的强敌，奏请裁撤边军二十万，让其各自归乡务农，以减轻国家负担。
如此大规模的裁军，让玄宗难免心生疑惑。
张说许诺：“臣在边疆多年，深知这里情形。将帅不愿裁军，不过是想用于自卫，或是役使士卒为他们做私活而已。兵贵精不贵多，御敌制胜无须太多冗员。陛下如果不信，臣愿以全族百口性命做担保。”
张说的勇于担责，打消了玄宗顾虑，下诏予以实施。
第三，改革军制。大唐军制沿于北魏府兵制，二十从军、六十退伍，战时为兵、闲时为农。在建唐初期，人口少、农田多，且国土面积有限，作战地域大多距家乡不远，士卒既可以保卫家乡不受侵犯，又能够兼顾自家产业，一旦战死还有优厚抚恤，毫无后顾之忧，打起仗来极为彪悍。
而到了玄宗时期，这一形势发生了根本性变化。人口增长过快，农田相应减少，且疆域广袤无边，一直拓展到了绝远之地。府兵制的根基“均田制”遭到严重破坏，士卒们长期在外戍边征伐，家中却仍要缴税服役，以至日渐贫困。军中逃亡事件屡有发生，严重影响了军心士气。
张说深知其中危害，提议改革军制，从社会征募壮士充任侍卫，凡加入军籍的一律免除各类徭役，享受国家优待。
政令一经颁行，不过十天左右就征得精兵十三万。
从此，府兵变为募兵；士兵也从半农半兵，转变为专司其业，由国家供应的职业军人。
这项军制改革影响深远，不仅为玄宗执政中期征伐四方提供了充足血液，促进了开元盛世的形成，更为后世历朝历代所沿袭。张说功不可没，在玄宗面前的话语权越来越大！
十一月，前广州都督裴伷先坐罪下狱，玄宗让众宰相议定他的罪行。
张嘉贞提议施以杖刑，张说反对，指出：“自古刑不上大夫，是因他们代表着君王的脸面，需要有廉耻节操，士可杀而不可辱。”
“臣在北部巡边时，听说姜皎在朝堂上被当众施以杖刑。姜皎位居三品高官，且为国立有大功，有罪了依据律法该怎么判就怎么判，当死则死、当流则流，怎能轻易加以侮辱，把他当成奴隶对待！姜皎的事已经过去，无法挽回。裴伷先所犯罪行依律应判以流刑，切不可再重蹈覆辙，寒了士大夫的心！”
玄宗深以为然，采纳了张说意见。张嘉贞对此非常不满，因为打姜皎板子就是他出的主意，姜皎也因此死于流放途中，张说这么说无疑是把矛头对准了他。散朝之后，他怒气冲冲的找到张说，质问道：“你何必把话说的这么难听。”
张说意味深长的回答：“宰相这一职位，不是高不可攀，时运来了谁都能当。如果国家大臣都可以被当众鞭打侮辱，谁敢保证将来这手段不会施加到你我身上。我这么做，不是为了裴伷先，而是为了你我和天下的士大夫啊！”张嘉贞无言以对。
开元十一年（723年）正月，张嘉贞的弟弟张嘉佑因贪污遭到检举。大唐有制，官员亲属犯罪，官员也要连坐。
张说劝张嘉贞脱去官袍，身着便服到朝堂外主动请罪，以求宽大处理。玄宗见其认错态度良好，又没有其他过失，便将其免去宰相职务，外调为幽州刺史。
宰相职务空缺，张说凭借过人才华与卓越政绩，在时隔十年之后被重新起用，拜为宰相，主政中书省。
同时，玄宗将贬为梓州刺史的前朔方大使王晙，提拔为兵部尚书兼朔方节度使，接替张说巡视北疆各军。
所谓天道酬勤，真金不怕火炼！张说的事告诉我们，只要你有真本事，又能耐得住寂寞，即便短期内遇到些挫折，别气