马新贻被刺后，金陵城中的大小官员处于极度的恐慌和茫然的愤怒中，这并非他们对马新贻感情深厚，而是忧惧朝廷怪罪，陷于了神经质的苦恼。
与审讯官员惊慌失措形成鲜明对照的是，刺客张文祥相当沉着镇定。正因为他的态度太过泰然自若，一时间令人怀疑他的来历。张文祥被当场逮捕后，先被押到江宁府衙门等候审问。江宁将军魁玉看过马新贻的伤势后，随即开始审问张文祥。张文祥虽然一副桀骜不驯的态度，但开头也很爽快地回答了魁玉的问题，供称自己是河南人，对刺杀马新贻的行为也供认不讳，但对自己的行刺动机却闪烁其词，坚不吐实。魁玉便下令将张文祥带往上元县（江宁府分上元、江宁两县，同城分治）严刑讯究。
先后审讯张文祥的，有上元知县张开祁、江宁知县萧某某、臬司梅启照、理藩司孙衣言等人。据说张文祥供词出来后，参审官员面面相觑，录供者停笔不敢记录。魁玉将初审结果急报朝廷，告知张文祥“直认行刺不讳，而讯其行刺之由，尚属支离狡诈”。之后的一个多月，魁玉每次奏报都不离“一味闪烁”、“语言颠倒”、“反复屡变”等词。那么，张文祥“闪烁”的是什么？“颠倒”的是什么？“屡变”的又是什么呢？魁玉对此没有奏报。而事实则是，有人用酷刑逼张文祥更改口供，而张文祥不肯答应，这才是口供“支离”的真实情况。
这样的结果，当然不能令朝廷满意，王公大臣也纷纷议奏。给事中王书瑞上奏说：“督臣遇害，疆臣人人自危，其中有牵掣窒疑之处，应派亲信大臣彻底根究，勿使稍有隐饰。”慈禧太后深以为然，于是立即以五百里加急的上谕发出，命漕运总督张之万赴江宁会审。此谕刚发，接着又发出密旨，再三叮嘱说：“此事案情重大，断不准存化大为小之心，希图草率了事。”
漕运是中国历史上一项重要的经济制度，为历代封建王朝所采用。它的核心是利用水道（河道和海道）来调运粮食，称漕粮，一般是运往京师，供宫廷消费、百官俸禄、军饷支付和民食调剂。清朝在八大总督之外，专设漕运总督和河道总督，漕运总督管漕粮运输，河道总督管河道和运河工程，一般由一品大员担任。张之万是张之洞（后担任过两江总督）堂兄，刚好与马新贻同科，均为道光二十七年进士，而张之万还是这一榜的状元。有意思的是，他有个不雅的外号，叫做“磕头状元”，因为他每天临睡前都要下跪、磕头一百次。据张之万自己的说法，这样可以活动腰腿、运行气血，达到健康长寿的目的，集求神保佑和锻炼身体于一身。此人才干平庸，却是官场老手，深通黄老之道，遇事从不出头，议政从不发言，喜怒不形于色，是典型的“不倒翁”，在朝中还有个外号，叫做“伴食”。
马新贻的案子落到张之万头上后，他只忧不喜，大为恐慌。很简单，这案子如果只是普通的仇杀案，轮不到他张之万头上；如果是政治谋杀案，那牵连可就大了，主谋势必非同小可，敢杀两江总督，又为何不敢杀他这个漕运总督呢？
张之万越想越是胆战心惊，有心推托不去，无奈上谕刚接，密旨又到，圣命实在难违。跟曾国藩一样，张之万也是个老江湖，最初采取了一个“拖”字——拖着不去江宁，也许拖着拖着，刺客突然供出了主谋，案情真相大白，就无须他再跑这一趟了。不料江宁将军魁玉恨不得越早把这个乱摊子交出去越好，不断行文到清江浦（即淮阴，又称清河，为大运河枢纽，当时最繁荣的通商大埠之一，与扬州、苏州、杭州并称四大名城，今江苏淮安），催张之万快去江宁主持审案大局。
清朝著名大臣吴棠即由清江浦开始发迹。道光末年，安徽徽宁池广太道道员惠徵因败于太平军，被革职留任，不久即病故，遗留下妻子和四个子女，其中长女名叶赫那拉兰儿，也就是后来大名鼎鼎的慈禧太后。惠徵死后，慈禧一行失去依靠，不得不盘灵回京。孤儿寡母，一路情景凄凉不堪。路过清江浦时，清河县令吴棠派仆人送奠仪，仆人误送到慈禧船上。慈禧十分感激，发誓将来必有回报。后来慈禧以秀女身份入宫得幸，并生下咸丰皇帝唯一的儿子（即后来的同治皇帝），更受宠爱。到咸丰十年，慈禧母因子贵，实际地位已经超越皇后，还时常代病中的丈夫咸丰皇帝批阅奏章。也就是在这一年，吴棠得补淮徐道。次年，慈禧垂帘听政后，立即升吴棠为江宁藩司（布政使），并署理（代理）漕运总督，从普通道员到署理总督，简直是一步登天。之后的吴棠更加显赫无比，历任江苏巡抚、闽浙总督、四川总督。他从一个小小的清江县令，因意外做到了封疆大吏，其经历不可谓不传奇。眼见拖得实在不能再拖了，张之万才勉强从淮安（今江苏淮安）起程，自清江浦沿运河南下，赶赴江宁。他是漕运总督，当然知道横行运河的漕帮的底细。湘军在两江的影响巨大，不少遣散后的湘军都加入了哥老会和漕帮。明眼人都认为马新贻一案与湘军有关，难保漕帮不会牵涉在其中。张之万识得漕帮厉害，调了大批漕标精锐来保护自己。数十号官船，在运河中连番南下。他自己则一直躲在舱里不露面，十分谨慎小心。
这一天到了瓜洲，张之万突然要下船走走，不料赶上内急，情急之下，下令漕标参将带领两百亲兵团团将茅厕围住，以确保上厕所时不会遇上刺客。当时正是深秋收获季节，当地有不少百姓正在收割稻子，突然看到官兵刀剑出鞘，如临大敌，以为发生了什么大事，赶去一打听，才知道是漕运总督在上茅厕。
此事一时传为笑柄。连漕运总督都如惊弓之鸟，可见当时的局势如何之险恶。张之万人还未到，茅厕笑话先传到了江宁。以致江宁将军魁玉一见到张之万，便打趣说：“天下总督，漕帅最阔，拉场野矢都得派两百小队守卫。”
张之万到达江宁后，传见参与会审的司道府县各员，了解到之前的全部审讯情况后，这才开始提审张文祥。此时，张文祥的女儿张宝珍、儿子张长福、同居之舅嫂罗王氏均被捕获到江宁。而之前负责马新贻安全警卫的中军副将喻吉三和武巡捕叶化龙等人也都被逮捕，追究防护失职之责。逮捕了不少人，但审问主犯张文祥却没有取得任何进展。
参与会审的孙衣言、袁保庆（袁世凯嗣父）均是马新贻一手提拔的亲信，对此案情迟迟不明很是着急。尤其是袁保庆，马新贻曾任命他为营务处总管，专门负责对付为非作歹的湘军散兵游勇。袁保庆以剽悍著称，手段严厉，抓到这些人往往就地正法，是以湘军不少人恨其入骨。马新贻一死，袁保庆怀疑跟湘军有关，心中更加内疚，总觉得自己对马新贻的死负有一定责任，所以在审张文祥一事上格外卖力，大有不揪出幕后黑手决不罢休之势。孙衣言也是如此。二人见张之万审案慢慢吞吞，很不上心，又不准对张文祥用刑，十分不满。
孙、袁二人却不知道，张之万历经宦海生涯，老奸巨猾，考虑得远较他们更为周全。现在巴不得张文祥死的大有人在，因为张文祥一死，便是死无对证，一旦用刑，难保不会有人趁机从中做手脚，倘若张文祥“刑伤过重，瘐死狱中”，那可就是他主审官的责任。一向明哲保身的张之万可不敢冒这个险。对他而言，不求真相，但求不送命、不丢官，就是老天爷保佑，不枉他每天虔诚地下跪磕头一百次了。
张之万深知此案极为棘手，审不出结果，朝廷不满意，他前程难保；审出结果，他可能自己都没命再回淮安。思来想去，最好的方法就是把这个烫手的山芋丢给新任的两江总督曾国藩。因此，他采取了一个“拖”字，曾国藩也在刻意拖延，他就更拖，非要拖到曾国藩来不可。
正因为张之万拖延得太久，早已经等得不耐烦的朝廷终于震怒了，连下三道谕旨，严加训斥张之万、魁玉二人。朝中大臣也纷纷上书弹劾抨击张之万，结果他和魁玉成了众矢之的。
为了平息众怒，张之万和魁玉精心谋划后，终于拟出了一份新的报告，其中详细说明了张文祥与马新贻的“恩怨”：“张文祥，河南河阳人，以做小生意为生。道光二十九年（1849），张文祥贩卖毡帽到宁波，结识了河南同乡罗法善，娶其女罗氏为妻，开小押店（重利盘剥的典当行）为生。咸丰十一年（1861），张文祥加入太平军，任侍王李世贤（忠王李秀成弟）的裨将。太平军败亡后，张文祥曾向清军投降，因无人作保，未被清军收纳。张文祥再回宁波，并暗中与海盗有勾结。马新贻任浙江巡抚后，捕杀了不少海盗，其中很多是张文祥的朋友，张文祥因此怀恨上了马新贻。后张文祥妻罗氏与吴炳燮通奸，两人一齐逃走。张文祥闻讯追赶，追到了罗氏，但罗氏卷带的财物却被奸夫吴炳燮带走。马新贻率兵至宁波时，张文祥拦轿告状，要求追捕吴炳燮。马新贻认为这是小事，未准审理。不久后，罗氏再次逃走，被张文祥追回后，被逼迫吞烟土自尽。后张文祥的小押店也被马新贻勒令关闭，理由是违禁私开。张文祥人财两空，迁怒于马新贻，决意报复。经再三审问，张文祥矢口不改其供，表示并无他人指使。尚属可信。”对张文祥的处置，则建议“按谋反大逆律问拟，拟以凌迟处死”。
这报告最关键的一点，在于反复强调张文祥行刺马新贻完全是个人行为。报告中，张文祥妻罗氏背夫潜逃确实真有其事。但报告里面有两处明显的矛盾。第一，按照报告所说，张文祥通海盗，本来跟海盗是一伙儿，可马新贻到宁波的时候，他怎么还敢去找马新贻告状呢？第二，既然张文祥的妻子罗氏被人夺走，他为什么不去杀夺妻的吴炳燮，而一定要杀不受理状子的马新贻呢？而最大的破绽就是最后一句“尚属可信”。这封报告是奏结的法律文书，人命关天，竟然用了模棱两可的“尚属可信”，不能不让人疑窦丛生。
慈禧太后对刺马一案十分重视，不仅仅因为马新贻是她派去两江的心腹，而且封疆大吏死得不明不白，确实有伤国体，倘若不严加追查，此风一开，中外大员必心存顾忌，担心成为马新贻第二，不敢放手办事。对张之万和魁玉精心炮制的报告，慈禧太后相当不满意，对一度寄予厚望的张之万深感失望。处理的办法是，谕令曾国藩速回江宁外，另派刑部尚书郑敦谨作为钦差大臣携随员赴江宁复审。这是慈禧太后表现出的一种强硬姿态，不仅撤换了主审大员，就连司员也全部更换，显示出朝廷要查清此案的决心。
派曾国藩回任两江总督，自然隐有安抚湘军的用意。而派刑部尚书郑敦谨同审，就隐有从旁监视的味道了。对此，曾国藩心知肚明。他表面上一路游山玩水，并不着急赶到江宁，其实他内心非常关注江宁的事态发展，非常关心那个背后主使审出来没有。曾国藩抵达江宁后的第二天，张之万便急忙赶来交接案件，当天下午就迫不及待地离开了江宁这个是非之地，赶回清江浦去了。而曾国藩却并不着急审案，整天要么接客聊天，要么翻阅纪晓岚所著的《阅微草堂笔记》。唯一做的一件跟马新贻有关的事情，就是亲自书写了一副挽联：“范希文先天下之忧，曾无半分逸豫；来君叔为何人所贼，足令百世悲哀。”带去吊唁了马新贻一番。
尽管曾国藩表面若无其事，但不少人却清楚地知道，他的处之泰然只是一种伪装，他是刻意在拖延回避刺马案。到底是什么原因使得曾国藩如此呢？邓之诚在《骨董三记》中说：“国藩不欲深求，必有不能深求者在。”不能深求者，除了湘军一系的，别无他人。
直到钦差大臣郑敦谨到达江宁的前一天，曾国藩才不得已调阅案卷，记下有关案犯的名字。
郑敦谨，字小山，湖南长沙人，与曾国藩乡榜同年，道光十五年中进士。曾国藩也在这一年参加了会试，不过名落孙山。郑敦谨为人正直，很有清誉。他初任刑部尚书时，山西巡抚赵长龄和藩司陈湜围剿捻军不力，尤其陈湜仗着是曾国荃的姻亲，放任部下危害地方。慈禧太后派郑敦谨前去查处。郑敦谨于大年三十出京，赶往山西，结果按查属实，赵长龄和陈湜被革职充军。郑敦谨自此得了“铁面无私”的称号。由他来江宁审理刺马案，当时是众望所归。他自己也雄心勃勃，一心要把这桩震动天下的疑案审个水落石出，以不辜负“铁面无私”的美名。
接到上谕后，郑敦谨先是入宫请示慈禧太后，随即装束就道，带着刑部满郎中伊勒通阿和汉郎中颜士璋星夜赶赴江宁。伊勒通阿和颜士璋二人曾跟随郑敦谨到山西办案，很是得力。当时正是冬月，大雪封路，为了不耽误时间，郑敦谨一行干脆下轿徒步涉雪而行。由于雨雪阻滞，到达江宁时，正是十二月二十九日，次日便是除夕。
清朝六部实行满汉分开制，即有一名汉人尚书，就必须有一名满人尚书；有两名汉人侍郎，也就必须有两名满人侍郎。郑敦谨到达江宁后，立即会同曾国藩，召集江宁的司、道、府、县各级官员，详细查问案情。孙衣言一心想为马新贻报仇，一上来就侃侃而谈，说：“背后主谋倘能逍遥法外，则天下将无畏惧之心，又何事不可为？所以这一案办得彻底不彻底，对世道人心，关系极大。”机锋一开始就露了出来，这就是“背后主谋”四个字。包括曾国藩在内，官员们都没有说话。
隔了两天，正月初二，郑敦谨便正式开始审案。参加会审的人最初定了六人：钦差大臣郑敦谨和他的随员伊勒通阿、颜士璋；两江总督曾国藩和他委派的江安粮道王大经、江苏题补道洪汝奎。后因为孙衣言、袁保庆二人为马新贻心腹，担心二人不服，将二人也加了进来。
张文祥依旧是那套老办法，信口回答，但遇到紧要关头，便闪避不答。审讯一连进行了十四天，没有任何进展。看到郑敦谨着急了，一直默不作声的曾国藩突然说：“将来只好仍照魁玉、张之万二公原奏之法奏结。”他的语气很平淡，但却透露着不容否认的坚定。
郑敦谨一时呆住，他也是个聪明人，刹那间全明白了，难怪审案十四天毫无进展，一切都是早已经设计好了。
自郑敦谨到江宁后，各方人马纷纷上门拜访：有马新贻四弟马新祐领着他的过继给马新贻的儿子马毓桢来要求钦差大人申冤报仇的；有袁保庆想为马新贻出头来刺探底细的；但更多的却是来游说劝解的，这些人众口一词，说张文祥不怕死，无所畏惧，如果用酷刑逼供，说不定他会胡乱指认，不但无法及时结案，还将导致更多的谣言。又说一旦张文祥被酷刑折磨死，则死无对证，刺马案将成为千古疑案，对不起马新贻的在天之灵。还有些人的话就更直接了，说万一张文祥指认湘军将领，比如长江水师提督黄翼升，到底是相信还是不相信呢。还有更危言耸听的，说万一深入追查引发激变，谁该来负起这个责任。
这里要特别提一下黄翼升。黄翼升不但是湘军将领中的骨干，还与曾国藩有一层极为亲密的私人关系，他妻子奉曾夫人为义母，算起来他就是曾国藩的义子。曾国藩一度置妾，都是交给黄翼升经办。可以说，黄翼升是曾国藩在湘军中最亲信的亲信，最心腹的心腹。不过黄翼升的水师军纪极为败坏，连曾国藩本人都不得不承认说：“余设立水师，不能为长江除害，乃反为长江生害。”马新贻上任两江总督后，黄翼升照旧任他的长江水师提督，横行无忌，不加收敛，二人多有冲突。
最值得一提的是，同治九年（1870）五月天津教案发生后，外国列强不断以武力威胁清朝廷屈服。清廷一方面敦促曾国藩尽快处理，一方面开始调兵在京畿和海口布防，以防万一。六月初十，曾国藩到达天津处理教案。六月十四日，内阁大学士宋晋奏道：“和局固宜保全，民心未可消失，欲惩擅杀之罪，必究起衅之根，请饬曾国藩速行查明曲直，秉公办理，以释民疑；以长江水师紧要，请饬整顿。”慈禧太后深以为然，也想趁机将长江水师从湘军将领手中夺过来，急命马新贻以布防的名义整理长江水师，力除废弛。长江水师历来是黄翼升的立身之本，他当然不肯轻易交给对头马新贻来整饬，二人矛盾开始表面化。
六月二十六日，法国兵船进入天津海河。曾国藩闻讯呕吐大作，一病不起。六月二十八日，慈禧太后再发上谕，谕令李鸿章即带军赶赴京畿驻防，命马新贻迅速调动长江水师，安排江苏、上海海口防范事宜。就在马新贻费尽心思地思考如何从黄翼升手中夺过长江水师的指挥权时，他遇刺了。因此不少人都怀疑黄翼升就是刺马主谋，不过联想到黄翼升与曾国藩的关系，没有人敢把这话说出口——黄翼升如果是刺马主谋，难道曾国藩会不知道吗？没有人敢往深层想。
郑敦谨恍然大悟后，又是惶恐又是无奈，不敢再深究下去，于是也如同曾国藩一样，开始做起了表面文章。参加会审的孙衣言、袁保庆看到会审不过是走走过场，将十八名人证点名一次就算审完了，很是不满，多次要求以酷刑逼问张文祥，都被郑敦谨婉言拒绝。而在无聊的审讯和官员们的争辩中，一心要找出真相的孙衣言和袁保庆也精疲力竭了。
正月二十九日，郑敦谨到达江宁还不到一个月，便与曾国藩联名上奏，奏结基本上用的是之前张之万、魁玉的定拟叙述，不过更加详细，取供、采证、行文更加缜密。所不同的是对张文祥的量刑更加残酷，除了拟凌迟处死外，又增加了一条“摘心致祭”，并戮其子。
对于这样照旧糊里糊涂的奏结，参加会审的孙衣言、袁保庆拒绝在上面签字画押，以此表示不满。但郑敦谨、曾国藩均是饱经世故的人物，手段、谋略远比孙、袁二人高明，他们索性在奏结中不提孙衣言、袁保庆参加会审一事，这样根本就无需二人的签名。
在上奏的同时，郑敦谨、曾国藩又抢先将供招抄录分送军机处、刑部存案，造成定案的既定事实。意思很明白，这是最后定案。在奏章外，曾国藩和郑敦谨还特意附了一张“片子”，上面写着：“该犯供词，尚属可信。”与之前张之万、魁玉的用语一模一样。
至此，距离张文祥刺杀马新贻已经有八个月时间。