在那个交通闭塞，生活条件艰苦，社会治安也很不好的年代，搞方言调查是一件既特别辛苦，也是件很危险的事。
方言调查对调查人的要求特别高，论是专业水平还是人品。
而且方言调查还要特别讲求方法，比如李方桂。
导师萨皮尔是如何指导李方桂做调查的呢？对此，李方桂作了如下描述：“我们同发音人坐在一起，老师问他怎么说这个、怎么说那个……发音人就把问题译成他的语言。他说，我同老师各自都记下来。整个过程老师并没有看我的笔记，也没有问我……发音人说什么，你就记下来，千万不要学着他说。如果你必须学着他说的话，必要等着他把这一串话说完了以后，再仿着他说。记完后，你可以问他，是这样说吗……你要听得好，不要老仿着他说，你也许会说，他也许改正你一回、两回，第三回再他就也许说OK，你就那样说吧……有时候当然也可以请他再说一次，可是别叫他重复太多，一方面他累了，二方面他烦了。”
在经历了如此的田野调查、资料整理的专门训练后，萨皮尔说：“好了，你可以出师了。你完全熟悉如何发问、如何处理资料、如何对付发音人了。”显然，这一过程中“音”始终处在最重要地位。在没有录音机的时代，李方桂练就了耳听手记的“录音”本领。
1929年回国后，李方桂将这种本领应用到了中国少数民族语言调查、整理与研究之中，凭借着自己的语言天分和扎实的听音、记音能力，缜密的思维和精确的分析，为中国少数民族语言尤其是中国西南地区的侗语、傣语研究建立了不朽功勋。据前中央研究院院士丁邦新统计，李方桂曾在云南、广西、贵州等地调查侗傣方言20余种，足迹遍及中国西南部，堪称“国际侗傣语语言学界的第一人”。他的著作《比较台语手册将傣语分为3支：以泰国标准语为代表的西南支、以广西龙州土语为代表的中支和以云南剥隘话为代表的北支，并拟测了古傣语的声母、韵母、声调系统。
抗日战争时期，李方桂为暂避战火而徙居西南，这为这位深谙田野调查之道的语言学家大展身手提供了不可多得的地域优势和丰富的少数民族语言资源。其间，他进行了四五次田野工作，曾至贵州调查侗水语、苗瑶语，到四川调查嘉戎语。据其妻子徐樱回忆，李方桂调查时常要带上其得意弟子，有一次他带学生马学良至云南路南县彝族撒尼语区调查，桌椅、床凳，只能睡地板、吃烟熏的食物。
方言调查工作大都按照赵元任所拟计划进行，从1934年到1937年，语言组全部研究人员参加了语言调查工作。汉语方面的调查由赵元任直接领导，非汉语方面的调查由李方桂负责。
在史语所迁台以前的20年里，语言组的学者们在全国范围内进行了广泛的语言和方言的调查。其中比较重要的，在汉语方面，有湖北、湖南、江西、四川、云南、福建、广东等省的全省性汉语方言调查。在少数民族和其他语言方面，有广西、贵州、云南、四川等地的僮侗语、苗瑶语、藏缅语的调查。主持这些调查的赵元任、李方桂，参加调查的丁声树、董同和、吴宗济、张琨、杨时逢等，都是很有成就的语言学家。他们所调查的湖北、湖南、四川、云南等地的汉语方言，和龙州土语、武鸣土语、莫话、水语、么些话、西藏口语等非汉语的材料，都已有专书出版。
语言组还在南京的北极阁建立了语言实验室，用科学实验的方法对各地语言进行分析。
据杨时逢回忆，“语音实验室的建造，共分为四大间，关于设计、绘图等一切，也都是赵先生亲自策划的。曾经在美国订购隔音纸板及其他隔音设备，如双层玻璃窗、四层隔音板门等。室内的四面墙壁及天花板地板，全部都用八层隔音纸板铺成，下面加上地毯。隔音的完备，真是以复加了。又向国外订购语音实验的各种仪器，如最新式的录音机数架（那时录音用的仪器非常笨重，如一个很大的扩音器，一个大的十二寸的电动转盘，另外发音的电容微音器，还用上两个大水电池），都是灌制铝片音档的仪器。此外还有，音浪计（记声调用的）、音叉，留声机及其他实验仪器数十种，在当时差不多是应有尽有了。”
语音实验室成绩斐然，“调查的语言都灌制铝片音档，将近千张。此外并购置各国语言会话留声片二十余套（每套大约二十四大张），还有中国各地戏剧、相声唱片，都是为研究方言之用，也有六、七百片。……凡参观史语所的人，除了看古物及藏书外，语音实验室也是他们所赞赏的，在当时可以称谓东南亚首屈一指的了。”
语音实验室的建立是赵元任对中国语音学的一大贡献。大量音档的灌制为深入而精确的语音研究提供了材料，语言组利用实验室完成了不少研究语言材料的工作。遗憾的是，由于中日战争战事频仍，史语所被迫撤退到后方，研究工作中断。
赵元任和第二组的研究。开启了中国语言学的一个新时代。在此之前，清代朴学家通常进行的语音分析并未凭借近代科技，中国的语音学带有很大的主观性。而赵元任将自然科学的理论方法和设备技术运用于语音学研究，使中国的语音研究走向科学化和精确化。