1921年元旦，张太雷和邓中夏等人一块儿去参加了长辛店劳动补习学校的开学活动。一到那里，他就和工人们打成一片，当地的男女老幼都非常喜欢这位高大英武，戴着眼镜却没有一点儿架子的好先生。
不久，李大钊把张太雷找到北京，交给他一个绝密而重大的任务。原来维经斯基已经从广州回到北京，在北大图书馆再次会见了李大钊，告诉他共产国际执委会决定组建远东书记处，接收原来由俄共（布）中央西伯利亚局东方民族处负责的对远东各国的联络工作。地点在伊尔库茨克，领导人是原俄共（布）中央远东局委员、苏俄红军第五军军事政治委员会委员舒米亚茨基。维经斯基被任命为远东书记处秘书，负责主持日常工作，因此，马上要奉调回国。同时，希望中国党派出一位代表，参加远东书记处的工作。
李大钊与北京支部的几位同志商议后，都认为张太雷英语流畅，办事干练，堪当此任。李大钊郑重地嘱咐他，一定要好好完成与共产国际的支持和指导的使命。张太雷怀着十分激动的心情，接受了这项任务，按照李大钊的指示，化装成商人，于1921年1月赴程，优生途经奉天、长春、哈尔滨，从满洲里偷越中俄边界，辗转赶赴伊尔库茨克。
当时的东北，在军阀统治下一片混乱，从天津到哈尔滨的就像走过了三个国家。到了奉天科简直如同到日本国，车站内外全是日本人，连车上的职员也是日本的；长春是中日俄混杂；哈尔滨则处在日俄的激烈争夺下，张太雷一路看到的都是帝国主义侵略的痕迹，这使他感到非常愤怒。在朋友的帮助下，他来到了几经战乱、凋敝不堪的中俄边界上的第一商埠――满洲里。
那里有谢苗诺夫残匪、日本土匪和各类红胡子，社会秩序十分混乱。中俄边界刚刚开放，军阀对“赤党分子”盘查严密。张太雷在临过边界的前夕，深深地牵挂着家乡常州的弱妻幼女和年事渐高的老母亲。他要把的思念之情，以及他的抱负责制期待向他们倾吐，于是提笔给妻子陆静华写了一封家信。
然而提起笔来，他又颇费踌躇。该怎样向弱妻老母解释自己即将“离家远游”呢？他写道：“我立志要到外国去求一点高深学问，谋自己独立的生活。”他用亲人希望自己“堂堂正正做人，自立自强”的期待，隐去了不便向他们明说的真相，接着又用他们容易理解的文字，说明了自己远去的原因：“我现在觉悟：富贵是一种害人的东西。做了官，发了财，难保我的道德不坏。”“非特我的身体、道德要坏，恐怕家里要受莫大的苦处。”因此，“惟有求得高深的学问既可以自己独立谋生，不要依靠他人，这样就用不着恐惧失去饭碗，心境自然也就安定”，“所以我决计外国去游学求一点学问，将来可以享真起码幸福，你也可以享真正的幸福，母亲也享真正幸福。”
他在信中反复这样讲，是为了使弱妻老母对他的远游给予理解和支持。当然，要完全消除他们的忧虑，还的一个经济安排问题。自己在国内，还可以靠给《华北明星报》等报刊译些文章，写些通讯报导，得到一些稿费，给家庭以经济支持。如今要远游，今后家中靠什么维持生计？他在信中告诉妻子：“凡遇有金钱紧急的时候，尽可写信与北京彰仪门大街通才商业学校吴炳文及吉林哈尔滨道里特别地方审判厅张照德。他们是我的好朋友，他们允许帮助我。”同时告诉他们，还可就近要四叔支援。
妻子文化低，缺乏谋生的技能，自己远游后更难尽做丈夫的责任，便在信中对妻子静华提出了有远建议：“你可以趁这个时期中用一点功。你一定要进学堂的，所费亦不算多。你第一要选择你所最善[擅]长的功课，学习了可以使你独立。我想你学刺绣及图画一定是好的。刺绣要学那新式的刺绣，如绣花卉人物山水之类。图画学了是最有乐趣的。再者图画一刺绣是有极大关系的。因为刺绣配颜色等一定要会图画的，才会配得好。我想你于这两种课都很善[擅]长的，并且很喜欢的。这两样东西很有用处，你学好了这两样，你很可以自立了；那时你是一个独立的女子了。比较那种女子只做男子的附属品，要荣耀得多呵。”他还嘱咐妻子：“还要学一点普通常识，尤其对于如何教育子女，是要研究的。历史地理理科，是应懂一点的，国文只要多读新的白话文，可以多看小说如《水浒》、《西游记》、《红楼梦》等等。还要多看杂志与报纸。如妇女杂志、小说月报，常州局前街新华群书社多有卖。”他在信中还充满憧憬地说：“我希望我回来的时候，我学得很好，你也学得很好，那时我们多快活呵，那时我们应大家互相庆祝了。”
这封家书字里行间对妻子充满了希望和温情。尽管张太雷因工作繁忙难得回乡探亲，家里的一切全靠陆静华撑持，但只要他回家，这个小小的家就充满了欢声笑语，洋溢着融融生意。每逢他到子和里3号，不仅抢着干家务，为妻子分劳，还教爱妻读书、写字，告诉妇女胸怀逐渐开阔起来，积极支持丈夫的革命事业。这次张太雷远行俄国，又把家中的一切全托付给了爱妻。他怀着对祖国、亲人的深深眷恋，毅然踏上了前途莫测的艰险征程。
好不容易越过了风雪交加的中俄边界，在经历了饥荒、严寒、停车、白匪骚扰等种种磨难之后，张太雷于1921年3月到达了伊尔库茨克，向共产国际远东书记处报到。
这里的工作几乎都是年轻人，虽然生活很艰苦，工作很紧张，但各国同志之间充满了兄弟情谊和蓬勃的朝气。为了融入国际共产主义运动，张太雷给自己取了一个新名字――马托春木。
他的工作日程安排得非常紧凑。每天早上，张太雷迎着晨曦来到办公室，编写有关中国的简报，并把这些通讯寄到苏俄各报馆。根据书记处的要求，他又写了有关中国党团组织及活动的详细报告。
不久，杨明斋受上海共产主义小组派遣，也来到伊尔库茨克。在远东书记处的领导下，张太雷与杨明斋共同组建成中国科。它的任务是解决涉及中共中央和共产国际关系问题，给中国共产党和苏俄提供情况，并向中共传达共产国际执委会的指示。主持中国科的有两名书记，一由中共中央派出的张太雷担任，另一位由远东书记处任命，可能是维经斯基。
远东书记处曾多次开会，详细讨论有关中共和中国革命的问题。张太雷发表的许多意见，都得到与会者的赞成。
张太雷还把目光投向了亚太地区和更广的范围，力求从国际性的工作中吸取更多铁组织经验。他那旺盛的精力，乐观的态度，渊博的学识和热诚的作风深深吸引了大家。
远东书记处吸收他参加筹备朝鲜共产党成立大会的组织局，张太雷做了许多重要而切实的工作。1921年5月4日，在朝共成立大会上，他被选入主席团，并代表中国共产党向会议致祝辞：
我很荣幸以中共中央的名义在大会上发言。我们大家知道，日本帝国主义是我们的共同敌人，击破日本帝国主义是我们的共同任务。要达到这一目的，就必须在共产国际的领导下，建立起同日本无产阶级 国际联合。你们是在朝鲜无产阶级数量极少的情况下，是在日本帝国主义对千百万朝鲜劳动人民实行极端残酷压迫的情况下，建立起你们共产党的。因此，你们的工作将是极其艰难的。你们的首要工作应当是接近朝鲜劳动群众。否则，党就无法生存。我祝愿你们实现这个首要的目标……
大家非常赞赏张太雷的讲话，建议他进一步发挥在祝辞中提出的把朝鲜共产主义运动与国际工人运动结合起来的观点，作一个专题报告。
张太雷欣然接受了大家的提议，在5月7日的会议上，他以《日本无产阶级与朝鲜贫民》为题作了一个饶有兴味的报告。他说：
日本资本家将朝鲜的农民从世世代代居住的地方赶了出来，变成他们的奴隶，送到日本的工厂里。在日本一九0五年对俄国战争的胜利，不仅使朝鲜劳动人民，而且使俄国和中国的劳动人民付出了巨大的流血和灾难的代价。因为这场面血腥的战争是在这些国家的土地上进行的。而这个胜利也同样成为压迫日本无产阶级的工龄……
同时，朝鲜的贵族和地主在掠夺朝鲜贫民方面并不比日本资本家手软。一八九二年，当朝鲜人民奋起推翻本国封建主与地主的统治时，这些封建主与地主就召集日本和中国的士兵，镇压了朝鲜劳动者的起义。因此，朝鲜劳动人民既不能把自己的命运同朝鲜劳动者的起义。因此，朝鲜劳动人民既不能把自己的命运同朝鲜资本家，也是能同日本和中国的资本家联系在一起……朝鲜的贫民和工人没有任何理由同日本的工人为敌，相反，应当同他们联合起来，以便一道去战胜远东各国人民的共同敌人――日本资本家和日本帝国主义者。
张太雷还向大会提议，以这个论题为基础，用日文发表对日本工人宣言上，获得了大会代表的致赞同。张太雷亲自起草了这份宣言，并将它付印、发出。
在与饥馑、白匪、孟什维克、富农、帝国主义干涉破坏的斗争中，在各国共产党人相互了解与支持中，张太雷与共产国际的各国同志结下了深厚的战斗情谊。
这时，共产国际第三次代表大会即将召开，张太雷作为中国共产党的代表，将首次参加这次国际共产主义运动的盛会。
他心潮澎湃，马上动手准备致大会的报告。这是中共历史上第一次向共产国际所作的介绍中国国内全面情况的报告。工人分为九个部分：
一、中国的政治形势；二、经济状况；三、知识分子；四、社会主义运动；五、妇女运动；六、中国工人和农民的状况；七、中国的工人运动；八、中国的共产主义运动；九、我们的前景。
报告运用马克思主义的观点，分析了这些问题。他精辟地剖析了中国的政治、经济形势和阶级状况，指出辛亥革命是一次资产阶级革命，但由于中国资产阶级的软弱而失败了，政权很快又落到专制统治者手里，中国并没有赢得民族独立。现在统治中国的是四分五裂的封建军阀，他们背后站着西方列强――把中国肢解成许多势力范围，进行残酷的殖民剥削。他特别强调中国正遭受日本帝国主义带来的种种苦难，因此，落后的半封建半殖民地的中国，不能走上独立的资本主义道路。
他还沉痛地描述了悲惨境遇，以及工人、农民和知识分子对革命的渴望。
他高度凝炼地总结和回顾了中国共产党在积极筹备阶段的一些主要工作：已建立北京、天津、汉口、上海、广州、香港、南京等省级地方党组织；出版了大量宣传社会主义的报刊、书籍，正与无政府主义、改良主义、乌托邦社会主义等划清界线，坚持科学社会主义的理论；创办了工人夜校、工人俱乐部和无产阶级的工会，并多次领导罢工斗争。他指出中国无产阶级政党的基本目标之一是加紧把分散的无产阶级力量联合起来，组成一支无往而不胜的革命大军，成为世界无产阶级革命的一部分，同工人阶级的宿敌――帝国主义进行坚决的斗争。
在5月春暖花开的日子里，张太雷带着这份报告从伊尔库茨克登上了西去莫斯科的列车。
在赤都莫斯科，张太雷见到了早几个月来采访的瞿秋白。同窗好友重逢异国，两人都激动万分。瞿秋白仔细考察了苏俄的政治、经济、文化、外交、民族等各个领域，接触了上至领袖、社会名人，下至三教九流等各类人士，已经写了20多篇旅游通讯，出色地完成了《晨报》交给的任务。
他深有触地告诉张太雷，在这里，严禁党员利用自己的地位作威作福，共产党人为大众办事热心努力，特别是那些领袖，他们忠于事业的态度真令人佩服。还说，共产主义确实是无国界、自由平等的社会，实现它亦是人类文明发展史上的一项伟大而艰巨的工程，它在苏俄开始“人间化”了。中国人也应当好好想一想，到底走什么路才能使国家强盛？俄国革命是一部很好的参考书啊！
张太雷也很有同感，他们无拘无束地倾心畅谈。在知已好友的坦诚要求下，张太雷介绍瞿秋白加入了共产党。
出席共产国际三大的代表，每天的日程都安排得满满的，令人耳目一新的活动一个接一个。
白天，去郊外参观儿童之家、工农疗养院等设施――都是前贵族的宫殿，修建在风景如画的树林中、清流旁，令人赏心悦目。还与红军将士联欢。晚上，看歌剧、芭蕾、戏剧和听音乐会。
6月22日，共产国际三大正式召开。大厅里座无虚席，还有不少人站着。张太雷就在这里第一次见到了无产阶级的伟大导师列宁。周围“乌拉！”声震耳欲聋，人们拼命地挤向台前，桌子、椅子上都站满了人。
列宁用流利的德语和法语发表演说，深刻而生动，极具说服力和感染力。他最后的几句话，完全被淹没在雷鸣般的掌声和口号声中。
1921年7月12日，是共产国际三大闭幕前的最后一次会议，即第23次会议，将着重讨论东方问题。克里姆林宫安德烈大厅内，人头攒动，挤满了各种肤色的代表。由于要求上台发言的人很多，大会执行主席宣布，每位代表发言不得超过5分钟。
轮到张太雷发言了。他健步走上主席台，脸颊因兴奋而发红，眼睛在镜片后闪闪发光。他沉稳地看着气氛热烈的会场，开始了著名的五分钟演讲，在国际讲坛上第一次响起了中国共产党人的声音。
他开门见山地说：
第一次世界大战以来，日本和英美一样，已经成为强大的帝国主义国家。正像帝国主义的日本现在华北所干的那样，一旦中国全境都为帝国主义所统治，那么，日本政府就不仅可以随意掠夺和使用中国最丰富的资源和最好的劳动力，而且还会利用这些资源和劳动力对无产阶级进行斗争。这对世界革命将会成为严重的障碍！
张太雷呼吁共产国际和各国共产党人重视和支持远东的民族解放运动。最后他激昂地指出：
在必将到来的世界革命中，中国丰富的资源和伟大的力量被资本家用来同无产阶级作斗争呢？那就要看中国共产党，主要看共产国际的支持如何而定了。
“世界革命万岁！”“共产国际万岁！”台下掌声四起，人们朝年轻的中共代表投去了赞赏的目光。而他的书面报告亦于会后刊载在远东书记处机关刊物《远东人民》1921年第三期上。各国共产党开始了解新生的中国共产党和中国革命。他还参加了民族和殖民地问题委员会，提出了《关于殖民地问题致共产国际三大的提纲（草案）》，旗帜鲜明地支持列宁的论点，强调在东方落后国家进行民族民主革命，必须争取团结民族资产阶级，批判了罗易的“左”倾观点。
接着，张太雷又先后参加了赤色职工国际成立大会和青年共产国际二大，并被选为青共国际执委。
共产国际三大闭幕后，执委会决定要召开无法东各国共产党及民族革命团体代表大会，以对抗美、日等帝王将相主义即将举行的华盛顿会议。张太雷是这次大会方案的制定者之一。他坚决反对共产国际东方部部长萨法罗夫等排斥民族革命团体的极“左”主张，并代表共产国际远东书记处起草了召开这次大会的号召书。
在筹备这次会议的过程中，他发挥了组织家和实干家的卓越才能。首先，他亲自筹组了人数众多、代表各方面革命力量的中国代表团，还仔细地考虑了去苏俄的路线，以避开军阀战乱和帝国主义的封锁，确定接头地点，保证了代表们能安全如期地出席会议。
其次，他冒着危险去日本和当地的革命组织联系，组建日本代表团，还亲自护送水曜会的领导人德田求一先到中国，再转道去苏俄。并联络组织其他亚洲国家选派代表参加会议。
根据舒米亚茨基、达林的回忆录及国内一些资料，张太雷还参加了1922年1月21日在莫斯科召开的远东人民大会，并作了大会发言：
衡量我们联盟的意义的，不是舰队和帝国主义的军队，而是远东各国劳动人民的代表在一个工人和无产阶级已经推翻了地主和资本家的国家里集会，这不仅是对可鄙的滑稽剧――华盛顿会议的抗议，同时也是为了制定共同与帝国主义进行斗争的计划……
在列宁和斯大林的支持下，他和片山潜等同志一起纠正了某些人力图将会议拉向 “左”倾的弯路，赋予了大会民族革命的基本方针，使各国代表都安全地返回原地。他还代表中国社会主义青年团出席同时召开的远东革命青年大会，忙得几乎连睡觉的时间都没有。
1923年8月，孙中山接受了共产国际代表马林的建议，打算于9月乘俄罗斯号轮船赴海参崴，去莫斯科访问。由于国内政局变化，他改派大元师府大本营参谋长蒋介石率领“孙逸仙博士代表团”去苏联，考察党务、政治和军事，进一步加强联系。他希望有中共代表参加。
马林和孙中山都选定了张太雷，另一位中共人士则派了沈定一，还有一位国民代表王登云。
8月5日，张太雷陪同马林在上海会见了蒋介石。因为孙中山指示蒋介石会同中共代表、共产国际代表具体商议组织“孙逸仙博士代表团”事宜。参加的人还有国民党元老张继、汪精卫。
8月16日，代表团一行四人，在蒋介石的率领下，乖日本“神田丸”号轮船从上海启程，经大连、满洲里，于9月2日安全到达了莫斯科。
他们受到苏俄高规格的接待。外交人民委员齐切林、共产国际东方部部长拉狄克、苏维埃部长会议主席加里宁、教育人民委员卢那察尔斯基，以及托洛斯基等高级官员先后接见了被称之为“孙中山军事代表团”的全体成员。
9月7日早晨，俄共中央书记鲁祖塔克请代表团到克里姆林宫会晤。他赞扬代表团朝加强中苏友谊方面迈了一大步，并详尽地介绍了苏俄的情况和政策，建议由代表团和共产国际代表具体研究合作细节。
苏俄为代表团的日程安排得非常周到，内容也很丰富，白天参观名胜古迹、工厂、军营、学校；晚上看歌舞戏剧。红军和苏联人民迸发出的建设苏维埃祖国的热情，给代表团留下了极其深刻的印象。
接着，苏俄军委副主席斯克梁斯基和红军总司令加米涅夫接见代表团，落实了给孙中山的军事援助等事项。
其间，蒋介石在共产国际执委会上发表了演说，称赞共产国际是“世界革命司令部”，给主义留下了“亲苏的左派”之印象。
11月28日，共产国际通过了《关于中国民族解放运动和国民党问题的决议》，敦促国民党重新解释三民主义。张太雷把决议交给了蒋介石，蒋介石看后不满地表示，看来苏方对我们的立场还不理解！张太雷对他的两面派行径早有看法，便用孙中山要联俄联共，发展工农运动，反对帝国主义的主张同蒋介石进行了斗争。
代表团于11月29日下午回国。张太雷留在莫斯科，作为共青国际三大选出的执委参加那里的工作；同时受中共中央和团中央委派，兼任中国社会主义青年团驻青共国际的代表。在这里，他又见到许多共产国际和青共国际的老朋友，大家都为能重新在一起工作而欢欣鼓舞。
1924年1月下旬，青共国际执委会决定派达林来中国参加社会主义青年团召开的二中全会。临行前，张太雷和达林共同签署了关于亚洲各国共产主义青年运动状况和任务的简要报告。
1月21日，伟大的革命导师列宁逝世。噩耗传来，举国上下悲痛欲绝。张太雷怀着无比沉痛的心情参加了23日举行的迎灵仪式。
这天，大雪纷飞，天地一片银白。莫斯科萨拉托夫斯基车站内外，挤满了哀痛万分的群众。载着列宁灵柩的火车，在军乐团的哀声中缓缓开进了站内。
张太雷和所有的人都肃穆的脱帽致敬，加里宁、布哈林等人把棺木抬出车站。人群鸦雀无声，紧紧随行。
街道两旁站满了臂缠黑纱的男女老幼，墙上的列宁像也围了黑边。许多旗帜上写着“列宁死了，但是他在世界农民和工人的心中永远活着！”“我们的领袖死了，我们应格外地团结和努力！”不少流泪的群众冲过警戒线，追随灵柩。
张太雷到工会大厦为列宁守灵，只见络绎不绝的人流带来了无数鲜花编织的花圈，许多人哭倒在列宁的灵前。
斯列宁遗体宣誓遵守他的遗嘱：保护党的统一，巩固无产阶级专政和工农联盟，忠实于共产国际的原则……
1月27日，列宁下葬的日子到了，莫斯科城里到处都燃起了祭火，无数面红旗高高飘扬在城市上空。葬礼进行曲伴随载有列宁遗体的灵车，缓缓行驰在马路上，两边是成千上万依依送别的人群。
张太雷和共产国际的各国同志，也冒着零下几十度的严寒，站在红场上为列宁送行。
下午4点，全国所有的工厂和火车头都拉响了汽笛。红场上礼炮齐鸣，盛着列宁遗体的水晶棺缓缓降入陵寝的地穴。
……列宁死了！无论列宁底仇敌和党徒，资产阶级和无产阶级，都不能不承认他底伟大，在人类历史上更没有过第二个人比他得到更多的群众底拥护，对于世界的现在和将来的影响民不能比他更大。……如果中国人民懂得他们民族救援只的靠中国底革命，中国底革命是与世界革命有连带的关系，而世界革命成功必定是世界无产阶级和被压迫民族底合力，那么，中国人民对于列宁底死亦应是无限的悲哀……
……俄国共产党已有它三十五年的奋斗历史和它底最著名的组织和训练，列宁病了前后已有一年多不问政事，党事国事一切都能照样进行，并且苏俄日强一日，这就是一个最好的事实证明，俄国决不因列宁死而有所变动……
他在另一篇文章中说，是俄国革命和列宁惊醒了中国青年，列宁永远是中国青年的伟大导师！
张太雷还受党的委托到东方大学向中共旅莫学习的同志传达中共三大的情况。他强调共产党员加入国民党，把国民党改造成工人、农民、小资产阶级、民族资产阶级的革命联盟，以推动中国革命走向高潮的必要性，批驳了党内反对国共合作的 “左”倾观点。
在莫斯科期间，张太雷兴趣广泛，除博览中外书籍外，他也常常和同志们到郊外游玩，一片树林，一湾小溪，都会使他流连忘返。在绿草如茵的旷野里，他们纵论政治、军事、经济、文化，张太雷都有独到的见解。对邓肯的舞蹈、罗丹的雕塑，以及古典歌剧、芭蕾舞，张太雷都很感兴趣。
中共代表团参加共产国际“五大”时，张太雷担任秘书和翻译，夜以继日地工作，李大钊称赞他“学贯中西，才华出众”。张太雷还陪同代表团参观游览，紧接着又出席青共国际“四大”。他以发言时强调指出：青年团员必须积极参加民族革命运动，落后国家的共青团在革命中必须保持自己的独立性。获得与会者很高的评价，赞誉他是真正的国际主义者。