光绪六年夏日，曾纪泽到达彼得堡。由于之前崇厚已经和沙俄国签订了关于伊犁条约，沙俄国人觉得煮熟的鸭子飞了，本就很恼火，更何况大清本就弱于沙俄国，主客观的条件使得曾纪泽谈判的难度很大，他早就听闻“俄人桀骜狙诈，无端尚且生风”，也研究了总理衙门的文件，决定采取放宽经济措施，但绝不放弃领土的方案，选择用通商条件，换回伊犁，以保全国土为重。此前，在外担任公使的经历，也让曾纪泽明白，弱国无外交。果然，他从遥远的西欧乘坐火车抵达俄京时，虽然曾纪泽赴俄前做好了应付各种刁难，以及阻力的思想准备，但实际上他遇到的困难，比他料想的要复杂得多。

　　曾纪泽带着随行官员，走下火车，他见到四周没有一位俄外交部官员出面迎接，于是跟车站人员反复询问，才打听到出口的位置，随性的人员对此破口大骂道：“可恶的沙俄国，老子早晚叫他吃屎！”

　　几经辗转之后，曾纪泽来到沙俄国外交部们，俄外交官答应出门迎接，曾纪泽在门外等了近一个小时，只见一个高大魁梧的沙俄国人走了出来，对曾纪泽喊道：“我是沙俄国尚书格尔斯，你就是曾纪泽？老干什么的？”

　　第一次拜会，就受到对方如此冷遇。为了完成使命，曾纪泽强忍怒火答道：“在下正是曾纪泽，是奉大清皇帝之命，来这里向俄皇呈递国书。”

　　格尔斯冷笑一声，依旧不敢相信，绷着脸问道：“不知贵钦差是来常驻沙俄国，还是特来办其他的事？”

　　曾纪泽明确回答道：“在下特为伊犁之事前来。”

　　格尔斯闻言不喜，又质问道：“此前，那位完颜使者来近一年，将两国应办事项与我早已商议妥当，并签订了条约，文件尚在我这里，只等两国皇帝批准，你怎么又来商办？听说贵国还将完颜使者治罪，还要反悔，莫非是要我们难堪？”

　　曾纪泽沉着回答道：“《交收伊犁条约》令大清蒙受损失太大因此皇上不愿接受，百姓亦是对此抱怨极大，崇厚被治罪，是因为其越权自行签约，违反了大清法律。为了与俄交好，皇上已经特别免掉崇厚罪名，再派我来沙俄国交涉。”

　　但格尔斯依旧很是不满，仍蛮横道：“即便如此，可当时签协议之时，你们未曾提出异议，现在我们只等照协议执行，不存在再商议的问题。”

　　曾纪泽见对方不肯罢休，坚定地反驳道：“根据《万国公法》，凡各国定约，必须经两国朝廷批准方能施行。如谈判所定之约有窒碍难行之处，自然可以再议，如今我们按照《万国公法》约定，再来商议此事，有何不可？”

　　格尔斯见曾纪泽拿出《万国公法》，明显是对外交事务颇有研究，并非崇厚那个草包，只怕是很难对付，不能轻视。于是，请曾纪泽进来，二人落座之后，格尔斯开始转移话题，指责曾纪泽道：“最近听闻你们的皇帝四处派兵设防，试图对沙俄国开战。”

　　曾纪泽解释道：“我国在西北与东北未增添一兵一卒，海防设施本来就是多年前已经确定，并非是针对沙俄国。希望尚书不可轻信谣传。这里我也听闻，贵国公使扬言派舰队到中国沿海，难道是为了给我们老佛爷贺寿吗？”

　　两人一来一往，可谓针锋相对，曾纪泽最后提出：“我并非刻意为难您，知识希望尽快向俄皇递交国书，完成外交使命，恳请尚书答允！”

　　格尔斯心中极为不满，但递交国书的请求，也只得答应。曾纪泽初到沙俄国，与格尔斯第一次接触就这样不欢而散。随后的日子里，沙俄国人果然开始耍起手段，他们揪住关押崇厚一事不放，迟迟不确定递交国书具体时间。曾纪泽再次发电报奏请朝廷，请求将崇厚暂时释放，免得沙俄国人以此为由拒绝商谈。曾纪泽正焦急等待的时候，朝廷开释崇厚的电报终于到了。接到电报之时，曾纪泽喜出望外，立即通知俄外交部，对方才确定了呈递国书日期。光绪六年夏，曾纪泽正式向俄皇亚历山大二世递交了国书，谈判大门终于打开。

　　在第二次与格尔斯见面时，曾纪泽本着重界轻商的原则，向俄方书面提出对崇约修改的节略，并口头概括阐述了节略要点。其中对伊犁地区划界提出收回伊犁全境，塔城地区仍按旧界，无须重划。对俄在中国内地设立领事、通商等项权益也做了大幅度缩减。

　　格尔斯听完后，生气道：“你们这是耍流氓，谈好的事情也可以随意推翻？听闻贵国有一句俗话叫‘人无信不立’，你们的信誉何在？现在重新商议，我们也哪里敢相信你们？”曾纪泽答道：“此事贵国可以回去商议之后，再做出答复。”格尔斯敷衍道：“那你就等我们仔细研究之后，再说吧!”二人便匆匆结束了第二次会面。

　　两个月过去了，彼得堡进入了秋天，严寒悄悄到来，天气开始逐渐变冷，曾纪泽和随行官员的心却是无比炙热，但双方在边界划法上仍然毫无进展，沙俄国坚持索要领土补偿，而曾纪泽在领土问题上决不再退让。如今谈判陷入僵局，曾纪泽内心焦急，觉得有负于国家，他心想：从他动身来沙俄国，已经过去三个月了，也不知国内是一个怎样的局面？他接受皇帝之命，为了保全国土，他早已经将生死置之度外，只求完成收回伊犁的使命。

　　与此同时，沙俄国人也十分焦急解决此事，热梅尼和格尔斯对曾纪泽的顽强和坚韧毫无办法，只有愤怒和怨气，他们试图想用武力镇压大清，威胁曾纪泽，但由于财政上的种种问题，也是无可奈何。

　　圣诞节快到了，俄皇君臣从克里米亚返回圣彼得堡。格尔斯心想：此时再不解决此事，只怕沙皇会亲自责问自己，他亲自到使馆求见曾纪泽，告诉曾纪泽：“我们的皇帝已经要求尽快结束谈判，希望贵国能秉持诚意。”

　　随后，格尔斯率热梅尼、布策等在俄外交部官员与曾纪泽继续商议领土问题，但在商议归还特克斯川时，格尔斯突然提出：“我们要求保留三个村庄给沙俄国，因为我们有很多子民已经在那里定居。”曾纪泽心想：西北边疆的三个村庄也不知多大，对方又没有指明，很可能是使诈，若是答应此事，定然大大吃亏。因此他坚定地答道：“此事我不能从命，三个村庄的百姓可以划归沙俄国，但土地必须按照与划定的旧界为根，由两国分界大臣勘界时稍加酌改。”格尔斯见曾纪泽如此坚定，最后商议之后，只得同意曾纪泽的要求。

　　关于塔尔巴哈台交界问题，双方立场差距很大。最后曾纪泽审时度势，观察俄方态度有了很大变化，似乎是一个信号。但为了谈判可以继续进行，他提出一个折大清国案，他建议在道：“既然贵国有顾虑，我们可以在旧界和此前签订的条约之间酌定界线，东不超过里瓦几亚线，西不越过旧界。不知贵国可否答应？”格尔斯点了点头，答道：“可以答应，这个条约中可以更改。”

　　在以后的谈判中，双方又对喀什噶尔地区与沙俄国交界地区划界，争辩多次没有结果。接下来格尔斯又要求道：“既然贵国同意通商，可否增设乌鲁木齐领事一名？”曾纪泽觉得对方必然想继而获取一些通商权利，当即拒绝了，格尔斯又要求道：“我国海运贸易发达，希望可以在松花江行船，此事可否答应？”曾纪泽心想：谁知道你这船里，有什么猫腻？当即答道：“此事还需与皇帝商议，请暂缓商议。”

　　关于所谓补偿沙俄国军费问题，格尔斯要求道：“经沙皇商议，贵国不必补偿沙俄国出动兵舰军费，可以缴纳‘代守伊犁兵费’，但贵国需要交一千万卢布，这是经过我多次建议才降到的最低数目，不能再减了！”曾纪泽心想：真是狮子大开口！他依旧义正言辞道：“此前你们说五百万卢布是补偿沙俄国十年代守费用，现今未到一年又增加五百万，这是什么道理？我们大清绝不能答应，最多可以增加两百万。”最后双方各退后一步，确定补偿九百万卢布。

　　最后，关于“喀什噶尔地区与沙俄国划界”的问题，双方商议之后，出了一个结果。曾纪泽心想：格尔斯提出此地边界划线缓议，显然是在逐步蚕食大清的领土，搁置下去他们一定会蚕食更多的领土，在这次划界时，必须把这个边界问题处理好，并且签下条约。他早就仔细分析了这一段边界的复杂情况，南疆与沙俄国七河省和费尔干纳省的边界实际并未正式勘定。曾纪泽利用这一情况，对格尔斯道：“喀什噶尔与沙俄国划界一直是很复杂的问题，我们也一直没有达成共识，如今我建议以现管界为根，其余边界，由分界大臣具体勘定。”

　　格尔斯思索片刻，也只得同意此事。

　　双方又在俄商纳税一事进行了商谈，此前崇厚签订的条约中，写明对俄商在蒙古、天山南北经商可以“均不纳税”，曾纪泽要求道：“不纳税的话，于我大清发展不利，不如改为‘暂不纳税’。”

　　至此，双方在有重大分歧的各项条款上，全部达成协议。崇厚签订的《交收伊犁条约》许多重要条款已经修改，曾纪泽为了大清挽回了许多损失，为了中华民族挣回了荣誉！十一月底，双方一致同意废除《交收伊犁条约》，另立新约。光绪七年正月二十六日，曾纪泽本来体质羸弱，经过长时间的谈判争锋，他此刻早已身心疲惫，身体出现倦态。可收复伊犁又令他心中产生难言喜悦之情，他仍然穿戴整齐，神采焕发地站在签字台前，签下了自己的名字。

　　随后，在庆祝酒会上，格尔斯举杯祝贺时，对曾纪泽称赞道：“曾公使，您是我接触过的外交官里最具智慧又最难对付的人，我曾经恨过您，但如今，也为有您这样的谈判对手而自豪。来，请为我们两国美好的未来，干一杯！”