赵元任1920年8月回到祖国，在此后十九年间，1921年6月结婚，后与夫人一起去美国；1924年，与夫人带着两个出生在美国的女儿去欧洲一年；1925年，携带全家回国；1932年至1933年，与夫人带着三个女儿又去美国一年半；1933年至1938年，在中国；1938年8月携全家离开昆明，经香港出国。十九年奔波，赵元任几乎成了一个洲旅行者，也许跟小时候祖父经常带着全家迁移有关，对于旅行早已习以为常了，并且从来都是带着全家跑。
从1920年回到1938年这十九年，大部份时间在国内，很多事情在时间上是穿梭进行的，就从以下几个方面来述说这十九年。
给罗素做翻译
1920年8月赵元任应清华学校的聘请回到中国。到清华学校报到之前，首先到南京出席中国科学社第五届年会。他是中国科学社创始人之一，对科学社的活动从来都很热心。会上他作了一个有关太阳系的科普报告，并欢晤很多老朋友，如任鸿隽、杨杏佛、胡适、胡敦复和胡明复等。三位胡先生透露梁启超、张东荪领导的进步党拟请英国著名哲学家罗素来中国做一系列的学术演讲。因为罗素讲学涉及高等数学、逻辑学、哲学等，不易找到能胜任翻译工作的人，他们认为赵元任担任这项翻译工作的最佳人选。赵当然很高兴有这样一个机会为罗素做翻译。他早在读书的时候就阅读过大量罗素的著作，认为对自己在哈佛的学习很有帮助。赵元任到清华大学上课没有多久，“讲学社”的蒋百里就和靖华学校金邦正校长交涉把赵元任借走了。赵元任陪罗素讲学近一年，辗转上海、杭州、南京、长沙、北京、保定等地，主要在北京。赵元任陪伴罗素到各地演讲做翻译时忍不住试试用当地的方言翻译，他最得意的是在长沙，刚才旅途中跟一位长沙人学的长沙话，做翻译时用上了。讲完后一位学生跑上来问他：“赵先生，是几时回省的？”这位学生以为赵元任是湖南人，国语说的不太好，却不知道赵元任原是说国语的，而说不好湖南话。他觉得这件事非常有趣，很爱讲这段故事给亲友们听。
罗素在华演讲内容相当广泛，涉及哲学、社会改革、教育等方面。赵元任说，当好罗素的翻译确实不容易，为难之处倒不是讲演内容高深，而是罗素性情幽默，喜欢用诙谐的双关语，很难翻译，例如，一次罗素讲哲学涉及唯物与唯心问题时，突然开玩笑：“What is ‘matter’？Never mind ！what is ‘mind’？It doesn’t matter！”。语虽简单，但巧妙双关，不但在台上演讲时难以用中文译出，就是事后冥思苦想，也难得到令人满意的中文翻译。当时只好说，那是一种英文文字把戏。
3月，罗素被邀请到保定育德中学报告，听众上千人，那时，北方天气还很寒冷，学校又没有取暖设备，罗素尽管思想激进，但他出于礼节和保持英国绅士风度，不肯穿着大衣讲，返回北京就病倒，住进医院，继续他的学术活动。当罗素听说英国报纸他逝世的消息，他说：“告诉他们，关于我的死讯，过于夸大其词了。”仍不失其一贯的幽默。陪同罗素来中国的勃拉克女士在中国的演讲多法是妇女和社会改革等问题，也由赵元任做翻译，同时，美国哲学家杜威也应邀来华演讲，胡适做杜威的翻译，当胡适有事不能出场时，也请赵元任代译。
为配合罗素讲学，当时商务印馆发行《罗素月刊》，登载罗素演讲的中文翻译笔记稿，以及介绍罗素学生、生平事迹等文章，该刊启事说明，凡刊登的稿件“经赵元任先生鉴阅后才发表，故可定为信本”。在翻译工作的百忙之中，赵元任还担负了《罗素月刊》的审阅工作，其工作之繁忙紧张可以想见。
赵元任给罗素做翻译的时候，除审阅《罗素月刊》外还同时忙着两件事，一是翻译《阿丽思漫游奇境记》，一是谈恋爱。那时赵元任下在与杨步伟女士热恋，有一次同杨步伟出去游玩回来晚了，罗素坐在讲台上只好干等着，当他看见赵元任带着女朋友进礼堂时就全明白了，罗素指着他笑着轻轻说：“Bad boy ，bad boy！”
1921年7月，罗素与勃拉克女士做了最后一次演讲，梁启超在中央公园举行宴会为他们饯行。席上赵元任为梁启超、罗素和勃拉克女士做翻译，他们都发表了热情溢的讲话。罗素在华的活动到此结束，但是赵元任和罗素建立起来的友谊却刚刚开始，并延续终生。赵元任于1924年、1939年、1954年，最后1968年（当时罗素已经96岁）亲切会见罗素。1972年，赵元任为罗素纪念期刊撰写了一篇《与罗素在中国》的纪念文。
编《国音新诗韵》
在我国历史上，凡作诗、填词或作曲，在一定时期内大致有一个用韵的共同标准，这就是各种韵书，大体依据隋代“切韵”，但早已失传。到了南宋时期，平水人刘渊把某些通用的韵又加以归并，如今刘书也已失传。后来通行的“平水韵”来源程于金人王文郁编的《平水新刊韵略》。沿用最久的“平水韵”距今已超过700年，由于字读和语言的不断变化，这些韵书早已不适用。赵元任也感受深切，他在1916年中国语言改革方案中就提出修订诗韵和发展音律的必要，要给亲友的信中也一再提到。他说，当前1921年诗韵系统是基于千年前的读音，应该按照现今的音进行修订。随后自己便动手编写一本《国音新诗韵》附平水韵，1923年由上海商务印书馆出版。
新人物之新式婚姻
在婚姻大事上赵元任与春人杨步伟都是反对包办婚姻，提倡自由恋爱，并敢于冲破传统观念的束缚，成为摆脱封建习俗的新人。
杨步伟还没有出世时，封建家庭父亲就指腹为婚给她订了亲。后来对方家里果然生的是一个儿子，这男孩子就成了她的未婚夫。杨步伟要自由，反对包办婚姻，好在她有个开明祖父在暗中支持她，她上中学时亲自写信退了婚。在那个年代敢于这样做是要很大的勇气的呢。
赵元任有一位从没见过面的未婚妻陈姓女子，是在双亲逝世后，由家里长辈包办订婚的，这件事困扰他多年。他给家里长辈亲属从国外多次写信也无济于事，直到他回国反复跟亲属谈才最后得到谅解。后由长辈出面与对方家里商量，以给赵元任未婚妻陈某某一笔数目不小的“学费”才于1921年5月解除婚约。赵元任如释重负，他说，经过20年，才第一次可以说“我是我自己的了”。
赵元任与杨步伟的恋爱始于1920年。那是9月的一个晚上他从国语统一会散会出来，因时间太晚西直门城门已关，回不了清华，就去表哥庞敦敏、表嫂（也是他的表姐）庞冯织文家过夜。那天表哥家正好有客人，都是留学日本归来的朋友，其中两位是森仁产科医院的女医生杨步伟和李贯中，第二天两位女医生请庞敦敏夫妇到中央公园吃饭，作为庞家客人赵元任也应邀请做客。赵元任对两位女医生印象很深刻，日记记载她们“100%”开通，他特别注意到杨步伟医生也有包办婚事，但是她勇敢解除了婚约，饭后大家都到森仁医院，他们吃了法国点心，美国巧克力糖，赵元任唱美国歌，表哥表嫂唱昆曲，从此赵元任便成了森仁医院的常客，杨步伟在自传里说，她本想成全赵元任和李贯中的结合，自己尽量躲开，谁知最后成全的却是赵元任和杨步伟。
他们日深恋受，最终考虑结合，他们都讨厌各种繁文缛节，从不讲究排场。本来他们打算什么手续都不要，后来赵元任的挚友任鸿隽劝说，成熟的人这样子不要紧，不过防着不懂事的年轻人学着瞎胡闹，劝他们最好用最低档限底的办法，找两个人签字，帖四毛钱的印花税，才算合法。他们接受了朋友的意见。赵元任亲自草拟和亲手书写结婚证书，印刷并帖上四毛钱印花税后发给亲友。他们两人到中央公园选景，自己拍了好多张照片，从中选择在格言亭合拍的那张作他们的结婚照，两人没穿结婚礼服而穿的是使装。
他们结婚，没有举行任何仪式。在小雅宝胡同49号找好房子后，两个人就各自搬进来。当时赵元任还在给罗素做翻译，跟罗素住一个院儿，因此他是从罗素处搬到小雅宝胡同来的。回顾结婚的日子，他们说，那天两个人忙的哪里像新娘和新郎，倒像两个人刚打了架似的，把家略微收拾好以后，赵元任打电话请自己最好的朋友胡适博士和杨步伟的朋友朱徵医生来家吃饭，胡适已经猜到是怎么一回事，为了有备无患，他带了一本有自己注解的《红楼梦》作礼物，精心包起来，为防止猜错了，在外面加包了层普通的结婚证书上签名证婚。赵元任和杨步伟就这样结了婚，胡适是送给他们结婚礼物的第一个人。
他们给亲友的结婚通知书上这样写的：
赵元任博士和杨步伟女士恭敬的对朋友们和亲戚们呈送这件临时的通知书，告诉诸位他们两人在这们末到之先已经在十年六月一日（就是西历一九二一年六月一日）下午三点钟东经百二十度平均太阳标准时在北京自主结婚；
告诉诸位，他们结婚的仪式是如下：
第一节 第一段 由本人和证婚签名，证婚人：胡适之博士，朱徵医士；
告诉诸位，因为要破除近来新旧界中俗陋的虚文和无为的繁费的习气，所以他们申明，除底下两个例外，贺礼一概不收：
例外一：抽象的好意，例如表示于书信，诗文，或音乐等，由送礼者自制的非物质的贺礼；
例外二，或由各位用自己的名义捐献给中国科学社，该社各处的地址如下：
……
通知书上定的结婚的那时刻，两个人正在邮局给亲友发给结婚通知书呢。
1921年6月2日，《北京晨报》以“新人物新式婚姻”为标准题，“新夫妇赵元任与杨步伟女士”，“证婚人胡适之与朱徵女士”，“新式婚书”，“新式的通知书”四个副标题报道了他们的结婚消息。报上说这个结婚式不但在中国，就在世界，也算得一种最简单最近理的结婚式。
当赵元任问罗素这种没有仪式的结婚仪式是否太保守时，罗素回答“这够激进了！”
热心国语运动
1920年9月一个晚上，赵元任到胡适家喝茶，他第一次会见了“国语研究会”的汪怡、钱玄同和黎锦熙等先生，他们一见如故，热烈地广泛深入地讲座中国语言问题，给赵元任留下的印象非常深刻，他钦佩这些学者们所做的研究工作。他发现有些想法竟与自己几年前的想法不谋而合。而他留给国语研究会的先生们的印象也很深刻，不到一个星期他就被选为教育部国语统一筹备会的成员，并很快地投入于国语运动，成为国语运动中很活跃的一员。
他致力于统一国语和推行国语的事，就是我们今天所说的推广普通话。根据国语会的要求，1922年他受托录制国语唱片（在美国哥伦比亚公司录制唱片）和编写出版〈国语留声片课本〉。这套唱片当时是根据1913年“国音统一会”通过的人工国音，即所谓“老国音”录制的。这种老国音是以北京语音为基础，又照顾南方官话，而带入声声调的一种语音系统。因为赵元任是唯一用这种语音发音的人，这样的国音无法推广。1925年国语会又决定改用北京语音为标准，那时赵元任改编国语留声片课本，出版〈新国语留声片课本〉，并根据1932年以北京语音为标准的“新国音”的〈国音常用字典〉录制唱片，成为当时推广国语的标准语音。
赵元任在推广国语过程中，采用他一贯提倡的“听说”教学法。他在教材序言中说：“百闻不如耳闻”，就是说语言要自己亲耳听听，“耳闻不如口读”，就是说耳朵听了未必口能说，还必须要自己读出声来与耳朵所听到比较好，才能学好。30年代广播事业大大发展，赵元任充分利用广播这种新的科学技术推广国语，那时他住在南京，在电台作过一系列国语广播讲课，并带孩子们一同去参加，在对话节目孩子们表演听众，有时候唱歌，他的广播教学一向生动活泼。
赵元任编写的〈新国语留声片课本〉，有他发音的“新国语留声片”以及他的一系列推广活动，对推广国语标准音起了很大的作用，而国语标准音以致成为后来推广的“普通话”，对现代汉民族共同语的发展和形成，对于后来的一系列语文改革是最重要的第一步，赵元任对此作了重要贡献。
在国语运动中，赵元任热衷于创制国语罗马字罗拼音方案的活动。他早在《中国语言的问题》第四篇“改革的建议”中就提出中国文字拉丁化问题及自己的方案。 当时有人反对，他与之进行辩论，并阐明自己的论点。回国后，他与“数人会”的刘法农、黎锦熙、钱玄同、汪怡、林语堂等人取得共识，共同研究拟定了国语罗马字拼音方案。在蔡元培的支持下，终于在1928年9月26日由当时的政权机关正式公布。赵元任的心情是多么激动呀，他在日记中用国语罗马字写下了他的激情：G.R.yu jeou yueh 26 ryh gong buh le.Hooray !!!(国语罗马字已于9月26日公布了，好哇！！！)
用白话文代替文言文是五四新文化运动的重要内容之一。赵元任在《中国语言的问题》文章后，就讨论过文言言和白话文问题。他还指出写的白话文和说的白话（口语）不一样，他更强调口语，即活的语言。为此他进行过多种尝试。
一个尝试是用白话翻译小说。赵元任在大学读书时曾被英国作家路易斯加乐尔的《阿丽思漫游奇境记》和走到镜子里》两部儿童小说所迷恋，早就想将这两部书翻译成中文。他探索用白话文，并且是用口语翻译。他于1922年在第一部书的译者序中说：“这书要不是用语文体（白话文）很难译到‘得神’，所以这个译本亦可以做一个评判语体成败的材料”。他不仅在翻译一部文学作品，而且是用译著来证明白话语体文能成功地表面优美的文学著作。原著里有些字是作者为了表面儿童的心理、思维和语言而编造出来的，是有趣的文字游戏。为此，赵元任下了很大的功夫，译得极为传神，以中文的“文字的游戏”保持了原著的风格。1932年初又译完第二部《走到镜子里》。赵元任说：“在这本书里，我把双关语译成双关语，韵脚译成韵脚，在《阿丽思漫游奇境记》里，我没有能做得那么好。”第二部书的最后清样毁于战火（1932年上海商务印书馆在日本侵略中国的“一二八”事件中被烧时，赵元任著清样在其中被毁），一直等到1968年，经过整理残余的手稿和重新翻译一部分，才作为《中国话的读物》中第二卷在美国出版。
另一种尝试是将活的语言（北京口语）搬上舞台。1927年，赵元任将另一位英同作家A.A.Milne 的剧本“The Camberley Triangle”用北京口语编制成中文，剧情做了一些更改，改名为《最后五分钟》。他亲自导演，请几位清华学生表演，并在清华学校旧礼堂公开演出。随后他又将脚本写成汉语与国语罗马字对照版本，亲自写序，并附学术论文“北京语调的研究”由中华书局出版。这本书既是话剧的国语（口语）脚本，又是推广国语罗马字的读物，书后所附研究北京语调的学术论文又是他的语言研究成果家。如此有趣的著作只有幽默风趣如他的人才写得出来。30年代初，他参加由中国现代戏剧熊佛西和余上沅组织的“北平小剧院”活动。他从推广国语，提倡白话语体文，研究语调的兴趣出发参加戏剧导演，甚至亲自登台表演。一次他的熊佛西上台合演《挂号信》，赵元任扮演教授，熊佛西演学生，为了使教授显得更加老成持重，上台前，赵元任在自己的眼镜上又加了一付黑眼镜。熊佛西上台发现赵元任戴着两付眼镜，竟笑得下不起腰，不能再演下去了。幸好那次只是彩排。当年风华正茂的赵元任与当代戏剧家挚友们，就是这样热情地投入了影响深远的国语运动。
音乐创作与《新诗歌集》的出版
赵元任热爱音乐，可以说音乐是他生活中不可缺少的一部分。他从小受到家庭的熏陶，父母亲都很喜欢昆曲，母亲教他吟诗，父亲教他吹笛子。赵元任音乐创作虽然是业余的，但他对音乐有过正规的训练。他在中小学时就借阅音乐书籍，英语老师卡弗尔常邀他到家中，使他有机会跟卡弗尔夫人学弹钢琴。留学美国期间，他从来没有放松选修音乐方面的课程。他踏踏实实学过传统的和声学、对位学和作曲等。大学一年级他就购买了一部旧钢琴，正式学习钢琴，并认真练习。著名音乐家贺绿汀说：“他(赵元任)对音乐爱好虽然是业余的，但下了功夫。一切基础音乐知识都掌握了，还经常在钢琴上分析一切他能弹的古典乐派、浪漫乐派甚至近代作品。他的这些活动是研究、分析、学习，也是他的娱乐鉴赏。”他从学生时代就开始音乐创作。1913年，他把中国民间音乐《老八板》和《湘江浪》两曲改编为风琴曲。1914年，还以一首焰口调(和尚念经调)改编为齐唱，并填词和配钢琴伴奏，歌名《尽力中华》。同年谱写钢琴曲《和平进行曲》。虽然这都属于学生时代的练习作，但他在中国音乐史上创了两个第一：谱写了第一首改编来自民间音乐的风琴曲和第一首创作的钢琴曲。
他的最有影响的作品集要算是1928年出版的《新诗歌集》.歌集中收集了他20年代谱写的14首歌曲，胡适作词6首，刘半农3首(包括译词1首)，徐志摩、周若无、刘大白及赵元任自己各作1首。除了《瓶花》里的半首，他们都在尝试采用白话的新体诗，表达了五四时代的新思想，所以歌集标示“新诗”。赵元任不仅为新诗谱曲，在音乐方面也进行了新的尝试。《也是微云》胡适作词，赵元任作曲。胡适提倡白话文，不但散文用白话写，连诗歌也要用白话写,《也是微云》就是他的一个新尝试。在音乐方面，赵元任的新尝试利用中国的传统吟诗的基本旋律和风格来唱，然后再加上和声.《教我如何不想他》刘半农作词，赵元任作曲，这是歌集中流传最广的一首歌曲。贺绿汀说：“它是一首艺术歌曲。也许带点‘洋味’,但最主要的还是在旋律上有中国民族特点，并与语言结合得很密切,深刻地抒发原诗意境和情绪。也许可以说，抒发了刘半农、赵元任那个时期中国知识分子思想感情的特点。”赵元任创作的合唱曲《海韵》是徐志摩的诗。贺绿汀说：“这首合唱曲表现了复杂的感情变化和戏剧性的发展，表现了诗人的疑惧、忧虑、劝告、恐怖和女郎令人不可捉摸的飘逸的情绪。这部音乐作品用合唱和钢琴伴奏来描写诗人情绪的变化和黄昏中大海从宁静发展到狂风大浪，与女郎的歌声形成鲜明的对照；一直到女郎被大海吞没，最后剩下诗人的悲伤和大海的宁静。这一切都是在一首合唱曲中表现出来。作曲者如果没有多方面的修养、音乐专业的知识和细心的布局安排，就不可能创作出这样的作品来的”。
赵元任在《新诗歌集》谱头语里介绍“这个集子里的路素是Schubert(舒伯特)，Schumann(舒曼)艺术歌那一派的东西，是给一般好乐的人唱奏的，也可以作高等音乐教材之用。里头伴奏的音乐也都是当音乐作品来作的”。歌集中每首歌的音乐都有或多或少的说明。在《新诗歌集》长达万言的序言中，赵元任表达了自己的音乐思想和观点，是他最重要的一篇音乐论文。序言共分五个部分：I．吟跟唱和；Ⅱ．诗跟歌，(他用了许多生动的例子说明吟与唱的区别，诗与歌的区别)；Ⅲ．“国乐”跟“西乐”，(他分析了“国乐”跟“西乐”的异同。指出中国音乐的个性和特性，也分析了中国音乐程度不及西方的地方，他说：“咱们得在音乐的世界上先学到了及格程度”，然后再加上中国的特别风味儿，作为有个性的贡献，“达到这种情形，是中国音乐发展上应取的目标”)；Ⅳ．本集的音乐，(他指出中国音乐程度不及外国的地方关键就在和声。他作了一种“中国化”的和声试验，在字音和乐调的关系上也做了一点试验。他说融会贯通了中西音乐，“稍微做了一点新试验”，自己在行为上“还是恋恋不舍的渐趋国化”)。V．尾声，(批评一种“博物院的中国”观点，指出某些人只愿意“看着中国老是那个样子，还是拖着辫子，还是养着皇帝”，还是“吟吟嗡嗡地叹诗念经”，他指出“我们中国的人要在中国过人生常态的日子，我们不能全国一生一世穿了人种学博物院的服装，专预备着你们来参观!”)。他的音乐创作反映了五四以来一代要科学、要民主、要改造社会的进步人士的思想感情，所以很有影响。可以说《新诗歌集》是体现了五四精神的近代中国的第一本歌曲集。
1987年上海音乐出版社出版了由赵元任的大女儿赵如兰编辑的《赵元任音乐作品全集》，收入音乐作品共132首。除了《新诗歌集》中的，还包括早年学生时代的作品，反映社会现象和事件的作品，如《呜呼三月一十八》、《老天爷你年纪大》、《西洋镜歌》(进步电影《都市风光》主题歌)；抗战时期所作的爱国歌曲，如《看，醒狮怒吼》、《抵抗》、《我们不买日本货》等；儿童教育歌曲，如陶行知作词的《儿童节歌曲集》；大众教育的歌曲，如《糊涂老》(反对封建迷信)、《车水歌》、《读书好》等；还有专门为一些学校、社团和运动会写的歌曲。从这些歌曲中看到反映他那个时代的中国社会背景、政治状况及大家所关心的社会问题等。
音乐是赵元任家庭生活的一部分。他谱写的许多三部合唱曲都是跟女儿们在家唱着玩儿的，女儿们小学课本中的儿歌，拿回家就变成合唱曲，后来女儿多了，就谱写四部合唱，但男声只一部。一家开车旅行，一路歌声不断，从不觉得旅行的疲劳。就是在日寇侵华逃难期间，在昆明当时家里没了电，还能听到赵元任跟他女儿们在黑暗中合唱。他专门为女儿们谱写了不少歌曲，其中最有趣的《唱、唱、唱》是1930年谱写的一首轮唱歌：“我先唱，你后唱，咱们调儿是一样，就是你总跟不上……，”歌的结尾是“这个歌儿并不长。”后来加上转调唱：“来换，跟我转，换个调儿转来转去转不完……”，结尾跟着变成：“这个调儿有点儿长。”第二年又加了一个中间声部，结尾就不得不唱：“这个歌儿真是长，真是长，真是长！”，从这些合唱中，人们可以认识一位幽默的音乐家、亲切的父亲，他给家庭带来多么大的欢乐! 1992年，为了纪念赵元任100周年诞辰，四个女儿在清华大学纪念会上合演了当年与父亲一起唱过的这首《唱、唱、唱》。
他的音乐创作主要在30年代，那时他的朋友提供新诗词，他谱曲。1931年，徐志摩还没能听到《海韵》的公演，因飞机失事遇难，赵元任悲痛万分。1934年，刘半农又病逝，他无限悲痛，写了一副对联悼念挚友：
十载凑双簧，无词今后难成曲；
数人弱一个，教我如何不想他。
上联写两人自1924年相识之后在歌曲方面的合作，下联写两人在刘半农发起的“数人会”中为国语运动的共同努力，如今朋友去了，他引用他们合作的歌曲名“教我如何不想他”，表达了他们之间的真挚友谊。
写到“无词今后难成曲”，他感慨无限1随后赵元任出国了，他的音乐创作就不多了，主要活动在语言学。
语言学研究和方言调查
赵元任曾提出一方面要历史地科学地研究中国语言问题，另一方面要进行建设性的改革。赵元任的国语运动活动，是他进行中国语言问题改革方面的一部分。他时时刻刻地考虑着历史地科学地研究中国语言问题。1921年，赵元任跟美国说再见才一年，就带着新婚妻子又去美国了。他给朋友写信说：“有人问我为什么又到美国?有些人认为我是去住或死在那里，其实是一回事。也有人认为我主要是去录制(国语)留声片的唱片。有些人认为我是被哈佛大学邀请去教哲学和中国语的。还有些人认为是去英国进修语音学路过美国。所有这些都有一定的不确切性在里头，因为我没有暴露出真正的目标。我是绕地球旅行到中国去，而在美国遇到了困境(搁浅在美国)”，写得很幽默。实际上他是说他没有偏离从事中国语言学研究的大目标。他想出国再学习，于是他接受了哈佛大学的聘请任教。在美国三年，欧洲一年再回国。 (从北京出发，路经美国“逗留”三年，再经欧洲“略停”一年，回到北京，环绕地球旅行整整一周)。
他在哈佛大学任教，带着到纽约哥伦比亚公司录制国语唱片的任务。那就是1922年，他第一次用人工国语的“老国音”录制由商务印书馆出版的那套唱片。他在哈佛大学教中国语是他第一次教外国人学中国语，把中国语当作一门外语来教，与在国内教汉语有很大的不同，为此他用英文编写《中国国语留声片教材》(APhonographCourse in the Chinese National Language)，这次他没有再用“人工国语”，而改用北京语音录制唱片。
1924年至1925年他和夫人带着美国出生的两个女儿如兰和新那到欧洲一年。将幼女们寄托在巴黎附近农村人家后，就到欧洲各国旅行，拜访著名的汉学家和语言学家。他们在法国的时间最长，在巴黎大学注册听课，凡在巴黎大学开课的语言学家，他必往聆听，不在巴黎者也要前去请教。当时有Paul Pelliot、AbbeRouselot、Henri Maspero、Hubert Octave Permot、JosephVendryes等。英法之间只隔一个英吉利海峡，交通方便，赵元任往返多次，拜访了国际语音协会创始人之一的丹尼尔?琼斯(DanielJones)，访问实验语音学家史逖文?琼斯(StephenJones)，并在琼斯实验室做了一段实验，听了詹慕斯(LloydJames)等专家的课，会晤基本英语创建人奥格登(O．K．Ogden)。到德国汉堡拜访语音学家海因尼兹(WilhelmHeinitz)并参观了他设备精良齐全的语音实验室，留下深刻的印象。在瑞典与汉学家高本汉(Bernhard Karlgren)的几次会晤，更加难忘。他说他们第一次的会晤，高本汉谦虚镇静，很像一位中国学者，谈话时不专断，不坚持己见。高本汉中国话说得很好，由于在山西时间很长，说中国话略带山西口味。但当他们开始讨论有关语音学理论时，高本汉说：“咱们还是改用英语谈吧!这样对我更省力一些”!赵元任那时已经在国内拜读过高本汉的巨著《中国音韵学研究》法文原文本，他们一同讨论将这本巨著翻译成中文的可能性。高本汉从赵元任身上也看到“中国新兴的一班学者，他们的才力学识既比得上清代大师，同时又能充分运用近代文史语言学的新工具”。此后，他们一直保持通信联系，并商定由赵元任、罗常培和李方桂三位新兴的中国语言学家翻译这本巨著。1928年高本汉来信给赵元任，不仅要求赵元任做翻译，还要求他负责重编。赵元任乐意地接受了，几位译者花了数年的努力，改正错误、加入新材料，改用国际音标注音，一部分重编。这部译作获得原作者高度评价。
在欧洲这一年，赵元任夫妇到各地旅游，也算补度他们的蜜月吧。他们应罗素之邀，到偏远的乡间别墅拜访罗素夫妇。在英国看了不少莎士比亚和萧伯纳的戏剧。他们游览了瑞士的幼女岭，欣赏了那里的雪山美景。他们会见了许多中国留欧学生，与在德国的陈寅恪、傅斯年、徐志摩和俞大维等相晤甚欢，往往谈到深夜，甚至于凌晨。在法国巴黎会见新婚张奚若夫妇。几经周折找到刘半农一家，他们第一次见面，便谈得非常融洽，他们有很多共同的兴趣，相见恨晚。赵元任参加刘半农的博士答辩，并拍摄答辩情景的珍贵照片。两家原本打算一同回国，后来因为法国最高文艺学院公布授予刘半农语言学专奖，临时决定刘家推迟回国，赵元任一家按照原计划起程回国。旅欧一年，两个女儿托给法国人照料，结果只会说法国话了。回到清华，赵元任一边忙工作，一边不得不替只会说法语的女儿们和只会说苏州话的保姆间做翻译，真是忙得不亦乐乎了。
1925年6月，赵元任一家抵达北京，他正式就任清华国学研究院导师。梁启超和王国维已先到达，陈寅恪第二年8月到，一时形成以拥有“四大导师”而引以为豪的清华国学研究院鼎盛时期。赵元任时年33岁，是导师中最年轻的一位，开设方言学、普通语言学、语音学课程，同时他指导学员进行的专题研究范围有中国音韵学、中国的乐谱乐调、中国现代方言学等，在大学部讲过逻辑学、音乐欣赏课程。他虽然主修数学和哲学，但对语言问题一直有兴趣，也从未停止研究工作。从到国学研究院起他正式以中国语言学和语音学为学术上的主攻方向了。北京大学王力教授就是当年学员之一，他的论文题目是《中国古文法》。王力回忆：“这篇论文是梁启超、赵元任两先生指导的，梁启超先生在封面上写了一个总批：‘精细妙悟，为斯学辟一新途径。’论文里边还有‘卓越千古，推倒一时’的评语。赵元任先生正相反，他对我的《中国古文法》不曾给予一句褒语。他用铅笔小字做眉批，专找我的毛病，其中最严厉的一句批评的话，就是：‘言有易，言无难。’这六个字后来成为我的座右铭。”
用现代语言学方法对中国方言进行调查研究是赵元任对语言学研究极为重要的贡献。方言调查的目的和意义，他在《现代吴语的研究》序言中指出：“研究中国语言最详细又最多的，大概要推瑞典的中国音韵家高本汉。……不过一个全国的方言调查不是个把人一年功夫或一个人年把工夫可以作得完的。高本汉的所得的材料可以够使他考定隋唐时代的古音的大概，但是假如要作中国的方言志，那还得要许多人许多年有系统的调查跟研究才作得好呐。这种事业的重要，无论是本身的重要，或是在国学上地位的重要，或是应用于教育上的重要，也已经有过好些人谈过的了，可是空谈了许多时候怎么没有结果呐?这大半是因为有几种必需的条件还不能实现。第一，要有永久性的组织跟经费能一致的办这事情，这是无消说的。第二，要有有相当训练的工作者。但这是一种很专门的训练，不是几个月速成科可以练出来的。假如随便到各处走走听听记记，那所得的东西的价值一定等于零，或小于零，因为多错误的记载还不如没有记载。第三，要国内太平，不然最值得调查的区域往往不能去调查。可是要慢慢的等，等到哪一天才可以有大队的语言学人马，大规模的来测量全中国的方言地理呐?所以还是先比较小规模的在一个比较安静的区域里作一点比较简略的研究，至少也可以做一个后来研究的格式。”
1927年他在清华国学研究院时首先选择吴语做第一次的方言调查。常州、常熟、苏州均属吴语，是他从小就熟悉的方言，这给方言调查工作带来很大的方便。他和助理杨时逢亲自到江苏和浙江两省进行实地调查。出发前，他花了一个多月的功夫做准备工作，拟定江浙音表和词汇表，及《北风跟太阳的故事》等做发音材料。10月10日动身离开清华。20年代中国的交通还很困难，一路上需乘坐汽车、火车、轮船、小火轮、小划子等各种交通工具。方言调查必须实地调查获取第一手材料。为此，他不怕辛苦日夜奔跑，12月14日那一天就跑了4个地方，他兴致勃勃，经常干到深夜还看调查报告、写日记，还常带病坚持调查工作。杨时逢回忆：有一次，夜间由无锡赶火车到苏州，短程火车只有四等板椅的统车厢，搭车的人并不多，他们上车后因为太疲倦了，各自带的小提箱做枕头，想休息休息，也因为太困了，不知不觉就睡着了。等醒来时满车漆黑，往外一看前几节车厢已经开走了，只有这节车厢仍然留在原处。他们只好在车上睡到天亮。为了记音准确，他想出很多办法，例如对一种方言他总要找两个人发音。有时找同一人重复读课文或例字表，如果每次读得很自然而且发音不变，他就认为可靠，否则另找发音人。实际的语音都是用国际音标记录，那时他们还不具备录音设备，赵元任身带一个滑动音调管，用来与发音人声调相配，以便准确记录声调。这样的调查工作充分体现他是一位理论与实践并重的语言学家。
在历时两个多月里，他们记录了吴语区33个地方的方言，访问了200多人，记录了63名发音人的话。调查后赵元任经整理、分析和研究写出《现代吴语的研究》专著。这部书为后来的方言调查提供了科学的方法，受到了语言界的推崇。《中国大百科全书》评价“《现代吴语的研究》是中国第一部用现代语言方法研究方言的著作”。
1928年中央研究院(中研院)成立，蔡元培专任中央研究院院长。赵元任的老同学杨杏佛任总干事。第二年傅斯年负责筹备建立历史语言研究所(史语所)，请赵元任来创办史语所语言组。赵元任愉快地接受了。从那时起赵元任正式把语言学作为自己的终生事业。为此，1929年赵元任离开清华(仍然兼课)，正式转到中央研究院历史语言研究所任语言组主任，他的心全扑到筹建语言组的工作中去了。
那时的语言组有一支很强的研究队伍，有语言学家李方桂和罗常培作研究员，逐年招考进来的助理丁声树、吴宗济、董同�、周祖谟和一直跟随他的助理杨时逢等，后来都是在语言学或语音学方面作出成就的专家。赵元任为语言组制订了两大计划，一是在几年之内把全国的汉语方言及非汉语方言都调查遍，整理并建立档案，作以后研究语言的参考资料。二是建造一个一流的语音实验室，这是他一生的理想和抱负。在他主持语言组工作时，他领导调查汉语，李方桂则负责非汉语方言调查。他亲临实地进行调查工作。1929年，一个人调查广东和广西粤语，这次意外的收获是记录了百余首广西瑶歌。1934年与罗常培和杨时逢调查了安徽的徽州话，他们第一次带上从美国刚运回的新的录音设备。赵元任夫人是安徽人，这次同往，大家还一同游览黄山。1935年，与李方桂和杨时逢调查江西57处方言，赵元任劳累过度而病倒，夫人赶到南昌来接他。1936年与杨时逢和葛毅卿调查湖南75处方言。最后一次是1936年，调查湖北的64处方言，杨时逢、丁声树、吴宗济同往。这些到外地实地调查方言，他统称为方言调查“田野”工作。随后抗日战争爆发，中断了他的“田野”工作。除《现代吴语的研究》外，他的方言调查专著有：《钟祥方言记》、《湖北方言调查报告》(合著)、《中山方言》、《台山语料》、《绩溪岭北音系》等。除汉语方言记录外，他还做了藏语和瑶语歌曲的记音，并发表《第六代达赖喇嘛仓洋嘉错情歌》(合著)和《广西瑶歌记音》专著。
1934年中研院史语所迁到南京新建的大楼，赵元任亲自规划和建立语音实验室，并亲自监督建造工程。隔音材料，仪器设备等都由他亲自挑选和购买，部分是他1933年在美国时购买并运回国的。科学的进步使录音设备日新月异，他使劲紧迫，从在广州时用蜡筒开始，经过光铝片，涂面铝片，出什么买什么。南京的语音实验室有四大间，隔音效果很好。室内装备有当时最先进的录音设备、音浪机、留声机等几十种仪器。
赵元任主持语言组工作期间，曾于1932年至1933年请假一年半，接替梅贻琦在美国的清华留美学生监督处主任工作。清华要梅回国出任清华大学校长。赵元任当时本不太想离开正在进行的语言组各项工作，但考虑到可以与美国语言界的专家进行学术交流，为正在建设的语音实验室购置仪器设备，他就答应去了，这是他短期去美的真正兴趣所在。他在美国到各地视察清华留美学生，关心他们的学习和生活。同时拜访了美国语言界的专家教授，如美国方言调查主任库拉斯(HansKurath)，语言学家伯拉克(BernardBloch)。拜访耶鲁大学描写语言学派大师萨丕尔(EdwardSapir)教授时，给他留下深刻的印象。萨丕尔问了常州话的几个要点，大约一个钟头，就把常州的音位系统差不多弄清楚了，简直要说常州话了。在纽约一次基本英语会议上与奥格登(Ogden)和理查德(Richards)教授等会晤。到芝加哥拜访另一位描写语言学派大师、结构主义创始人布龙菲尔德(LeonardBloomfield)教授，他后来读了布龙菲尔德送他的专著《语言论》(Language)，非常敬佩，后来赵元任经常向他请教，他说自己在语言研究方面受到布龙菲尔德一定的影响。1933年，赵元任在美国为语音室订做、订购仪器等语音室所需要的仪器和设备。仪器的验收、搬运、托运等都亲自出马。仪器带回国后立即用于方言调查工作中。
1936年语音实验室已初具规模，完成了不少语言研究工作，录制成千张方言调查铝片音档。赵元任开始筹划福建方言调查的工作计划。此时不少国外专家学者前来访问和参观。可以说，他们开展的语言研究工作与所建的语音实验室在国外已享有一定的声誉。夏威夷大学教授参观后，来函请赵元任到夏威夷大学做访问教授，并许以高薪。赵元任客气地回信谢绝了。方言调查工作，民众教育的罗马字化工作都需要在国内进行，他无暇旁顾。
30年代赵元任发表了很多篇重要的语言学论文，其中1934年在《中研院史语所集刊》用英文发表的“音位标音法的多能性”，1957年全文转载在美国语言学家马丁?裘斯(MartinJOOS)编的《语言学论文选》中。裘斯说早期音位学，很难想得出一篇比赵的文章更好的。这篇论文现在已成为音位理论的经典著作之一。1930年发表的“一套标调的字母”是赵元任设计的一套五度制标调字母，为记录和研究汉语(以及其他有字调的语言)的声调提供了准确而方便的工具。很多研究语言的人用这套标调的字母但不知其来历。相隔50年后(1980年)《方言》杂志重新发表此文，并将这篇用国际音标拼写的英文著作改用英文拼写发表，大大方便了读者。30年代发表的语言学文章还有“听写倒英语”、“中国字调跟语调”、“中国方言当中爆发音的种类”等重要语言学佳作。
赵元任从来都喜欢语言，语言“好玩儿”，是他生活的乐趣。1929年他第三个女儿出生，助理杨时逢的大女儿也在同年出生。给孩子取什么名字呢?这位语言学家，跟他的助理搬出国语罗马字音节表格，发现len，sey(汉语拼音为lén sèi)两个音节从没有对应的汉字。就这样决定了给三女儿取名叫"Lensey”。杨时逢如法炮制，给女儿取名叫Nairdey(汉语拼音读nái dèi)。当时两位玩语言游戏的爸爸就没有想到孩子长大上学报名时怎么办。到Lensey上小学时，赵元任就用len的反切音“莱痕”、sey的反切音“思媚”拼起来，加上姓组成五个字的汉字姓名“赵莱痕思媚”，赵元任解释说，“莱”是孩子祖母的名字，“莱痕思媚”意思是说孩子具有祖母的思想与美貌。人们经常要问这名字是哪儿来的。许多年后，傅斯年在一本"BookofOdes”中查出“来思”两个字，建议Lensey中文名改用“赵来思”，现在英文名仍保持用"Lensey”不变，家里人仍按国语罗马字的发音lensey来称呼她。
1930年12月17日，赵元任的同学挚友胡适40岁生日，他代表朋友们写了一首祝贺词，请毛子水用毛笔书写在宣纸上，裱好送给胡适。诗是这样写的：
胡适说不要过生日
生日偏偏到了
我们一班爱起哄的
又来跟你闹了
今年你有四十岁了都
我们有的要叫你老前辈了都
天天儿听见你提倡这样那样
觉得你真是有点儿对了都
你是提倡物质文明的咯
所以我们就来吃你的面
你是提倡整理国故的咯
所以我们就都进了研究院
你是提倡白话文学咯
我们就罗罗嗦嗦的写上了一大片
我们且别说带笑带吵的话
我们也别说胡闹胡搞的话
我们并不会说很妙很巧的话
我们更不会说“倚少卖老”的话1
但说些祝颂你们健康美好的话
这就是送你们一大家大大小小的话
适之老大哥嫂夫人 四十双寿
拜寿的是谁呢?
一个叫刘复* 一个叫李济*
一个叫容庚* 一个叫赵元任*
一个叫徐中舒* 一个叫赵万里*
一个叫顾颉刚* 一个叫毛子水
一个叫丁山* 一个叫裘善元*
一个叫商承柞* 一个叫陈寅恪*
一个叫傅斯年 一个叫罗辛田*
一个叫唐擘黄* 一个叫李方桂
有星儿的夫妇同贺，没星儿的“非常惭愧”2
1.“倚少卖老”是有人形容胡先生的话。
2．写字的时候问毛子水有没有太太？他说“非常惭愧”。
这首诗全用口语，充满赵元任的幽默，也只有他才能写出来。
回顾30年代，赵元任不论在语言还是音乐方面，全心投入改革和创造。语音实验室的建成和方言调查工作的进行，体现了赵元任的远大抱负和工作热忱。他们一家迁居到南京，盖了自己的房子，打算永久住下去。后来发生了一系列事变，不得不改变他们的计划。
1937年8月13日，日本帝国主义侵略者进攻上海，战火逼近，全家人随机关迁往内地，开始了逃难的生活。他的方言调查工作中断，语音实验室不能迁走，只好丢下，把能搬动的仪器及录制音挡唱片、书籍和资料运往内地。在兵荒马乱中赵元任跟夫人商量将他从1906年开始写的30余年的日记和多年拍摄的几千张珍贵照片寄往美国老同学BobKing家，得以保存下来。至于家里的东西几乎全部丢下，没有带出来。8月赵元任又患恶性疟疾，由大女儿如兰陪伴先到长沙，随后夫人带其他三个女儿迟几天也来到长沙。在长沙，仅呆了4个多月，他送女儿们上学读书，自己还继续做他的研究工作。即使长沙开始挨轰炸，跑警报，他还是断断续续地尽可能地做些研究工作。战火逼近长沙，史语所决定继续内迁，部分先到桂林，语言组决定直迁昆明。他们先将语言组的书约120包邮寄昆明。随后于1938年元月赵元任和老朋友章元善组织几家人共27人，带着语言组的仪器设备离开长沙，历经辛苦，几经周折，抵达昆明。一到昆明，他把行程经历写了一封很详细的长信介绍给准备陆续到昆明来的朋友们。他们在拓东路找到住所和办公地方，长沙邮寄的书也陆续抵达。杨时逢一家和丁声树与赵元任同路来昆明，随后吴宗济与董同�也抵达昆明。尽管环境条件很艰难，赵元任和同事们立即进行中断了的工作。《湖北方言调查报告》就是那个时候整理完成的，后来几经波折，于1948年出版。
在昆明，赵元任才听说南京的消息：家中的一切都毁了。在给老朋友胡适的信中说：“房子无确息，听说大部被抢一空。我的书除手头常用语言书，余皆是‘goner’(无可挽回的东西，下同)，esp．（特别是)多年的乐谱等。日记及自拍的snapshots(照片)则在BobKing处了。所以说声去，什么都得从头儿买起，就是好多东西都买不着了。我曾经有个创刊号集，有几十种期刊的创刊号，现在除《科学》有四本在重庆，余皆是goner了”。对于一位学者来说，这是一段极为伤心的历史。
1938年赵元任接夏威夷大学邀请到夏威夷大学任教一年。遂向中研院史语所请假获准。8月，携全家离开昆明，经过香港出国。