迫康居国人替他建筑城防，遣使威胁阖苏、大苑等国给他进贡。汉朝三次派使臣向郅支单于索取谷吉等人尸骨，郅支不肯，并且困辱使者，百般欺骂。
建昭三年（前36年），本文豪言状语的主人公陈汤奉命到西域。陈汤，字子公，好读书，善属文。他年青时家里很穷，常常四处向人借钱度日，同乡人很讨厌他。到长安后，富平侯张勃看中他的才能，于元帝初元二年上荐他为茂材。陈汤做官心切，父死也不回家奔丧，为司隶所究，连累得张勃也被削夺封户二百。根据汉法，陈汤不孝应下狱，后来因为他确实有才，被推荐为郎官。陈汤自己也觉自己在都城呆着很没面子，多次上书请求出使外派。正赶上甘延寿为西域都护，他就从西域副校尉的身份一同去往边塞。
陈汤为人深沉智勇，“多策谋，喜奇功”，一路上每经过城邑山川，都要登高望远，观察地形。到西域都护治所以后，陈汤对甘延寿说：“夷狄之人畏服强者是他们的天性。西域本来就是匈奴的地盘，郅支单于又威名远闻，不时侵陵乌孙、大宛等国，又常常为康居国出主意四出劫掠，假设他哪天灭掉乌孙和大宛，挟众四处扩张，数年之间那些向汉朝进贡的城郭国家肯定都会被他灭掉。而且郅支单于为人剽悍凶猛，喜好征伐，屡战屡胜，长久姑息，以后必为西域大患。郅支单于虽然所在绝远，但匈奴传统上没有坚城劲弩的守备，如果我们调发屯田兵士，加上乌孙国士兵，出其不意直攻其城，他跑也没地方去，守城也不足自保，千载之功，一朝可成。”
甘延寿觉得陈汤话很有道理，想上奏朝廷请求发兵。陈汤说，“朝廷那些公卿大夫议事，都是空讲道理侃侃而谈，肯定不会依从我们的计谋。”甘延寿坚持要上奏。正巧那些日子这位西域都护久病不愈不能听事，陈汤自己就假借朝廷名义征发西域各城郭国兵以及屯田的汉军。直到城外大军调动纷纷，甘延寿才惊觉，想出外制止。陈汤大怒，接剑怒叱甘延寿：“大队人马已经集结，你小子敢阻挡众军吗？”甘延寿无可奈何，就依势就势，一起部勒行阵，增加扬威、白虎、合骑三个纵队，共有军人四万多。同时，他们上书自劾矫制出兵的情状，即日出兵。
四万大军分为六队。三队从南道越过葱岭直向大宛，另外三队从北道入赤谷，经过乌孙，到达康居国境。行进中赶上康居副王带数千骑人马侵掠赤谷城，他们不仅抢夺到大批畜产，还常常侵袭汉军。陈汤命所部西域联军进攻康居副王，杀死四百多人，夺回被康居副王俘虏的赤谷城民，把俘获的牛、羊、马作为军粮。到达康居东界后，又严禁军人抢掠当地人，并与当地的康居首领饮酒为盟，谕以威信。大军势如破竹，一直到单于城六十里才停军立营。同时，当地的康居人也怨恨郅支单于的残暴，把城内匈奴人的实情尽数告知给陈汤。
转日，大军又前行三十里，扎营待命。直到此时，郅支单于才知汉兵已到眼前，慌得他急派使臣前来问询：“汉兵为什么来？”陈汤答：“天子可怜单于远弃国土，屈身于康居境内，现在派西域都护前来迎接单于一家回去，怕惊动单于，所以没有直接抵达城下。”如此，双方使节往来数次问答。甘延寿、陈汤觉得时机差不多了，攻城准备工作已经就绪，就责让郅支单于使臣：“我们为单于而远道前来，至今没有名王大人前来拜见听命，郅支单于怎么这么无礼！我们兵来道远，人畜疲惫已极，军粮又快吃完了，恐怕这样子回不去，希望单于与大臣赶紧商量回复我们。”
第三天，联军前进，距城三里扎阵。向前望去，单于城上遍布五彩旗幡，数百人披甲站立于城上，又有百余骑在城下来往驰骋，以耀兵威。城门口还有百余步兵摆成鱼鳞阵，操练演习（据考证是败逃后被郅支单于收留的罗马士兵）。城上人还不停向联军叫喊：“前来进攻啊！”如此等等，反而暴露出