1901年，李石曾、夏坚仲、张静江等人官费赴法留学。两年后，李石曾的好友吴稚晖由于宣传反清，被清廷追捕，亡命英国，他与几名留英学生一边做工，一边求学。1907年，他赶赴法国巴黎与李石曾等人汇合在一起试验节俭生活。同年，蔡元培与同学数人自费赴德，实行俭学。在这些人的试验倡导下，一股俭学风在留欧学界兴起。而当时的中国教育无论在数量还是质量上都是很落后的，广大青年求学就业的要求远远不能得到满足，对去法国留学很感兴趣，认为法国是资产阶级自由、平等、博爱理论的摇篮，资产阶级文明的样板，要建立共和国，向国内输入世界文明，必须去法国留学。但政府财政紧张，无法官费派遣，于是1912年2月，蔡元培、吴玉章、李石曾、吴稚晖等人发起组织了留法俭学会，该会的宗旨是：“以节俭费用，为推广留学之办法；以劳动朴素，养成勤洁之性质。”规定“自往留学者，或尽义务于本会者，无论男女少长均得为本会会员。”会约中还提出入会会员要填写入会志愿书，要遵守会中的纪律，如不狎妓、不赌博、不吸烟、不饮酒、不做一切丧生耗财之事。同时会员要承担会中的义务，准备一定的学费，还讲明了赴法留学的程序、所学课程、所需衣物以及注意事项等等。俭学会主要任务是负责向想要赴法俭学者做介绍和联络工作，会址设在北京，只有一间办公室，室内有一张办公桌和一部电话。俭学会成立后，编印了《法兰西教育》一书，分普通教育与高等教育(指一般的小、中、大学)、科学教育与文学教育(即文科和理科学校)、卫生教育与实业教育(包括医科、农业、工业、工程)、美术教育与音乐教育、教育学与群学教育(系指师范学校和社会学校)等内容。介绍了法国教育的情况。1912年5月15日，《北京日报》刊出了俭学会的特别广告，欢迎青年入会。上海的《民立报》也刊出了吴稚晖的《答友人同学留法俭学会书》，宣传说法国是当时世界上的民智民气先进之国，社会风气简朴，科学文化发达，要向西方学习，以留学法国为最合适，具体办法是俭学式留学，每年仅用五六百元钱，是留学英美费用的1/3，以此为动员广大青年赴法俭学大造舆论。
为了落实留法俭学会的工作，由李石曾、吴稚晖、汪精卫、吴玉章、张继等人发起在北京成立了留法预备学校，由齐如山主持校务。当时的教育总长蔡元培大力支持，并专拨一校舍给他们。这所学校除华人教师外，法国人铎尔孟自愿担任教师，凡俭学会会员均可入此校，以六个月为一期，期末进行考核，及格者发给证书，定期赴法。每个学生可在学校预备一至二年。学校所开课程为法文、中文、算学及应用学识，旁及公共卫生及欧洲风俗。该校实行男女同校，学生要遵章守法刻苦求学。为养成勤俭的习惯，“校中同学皆轮流值日，自操工作，除庖人以外，别无佣工”。学校有严格的纪律，注意改良气质，造成纯正的品格。1912年5月26日该校正式开学，招收了郑毓秀、徐海帆等60多人，到11月底，这些学生完成预备学业如期毕业，取道西伯利亚乘火车赴法留学。1913年6月初，第三班学生20余人又完成预备学业，踏上赴法留学的征途。与富家子弟相比，许多较为贫苦的青年成了留学生，这在中国影响是很大的。在1913年这批俭学生中，有北京贫儿院两人，一个叫张守正，一个叫杨宏远，都刚12岁，另外还有北京平民学校两位女教员。出发那天，平民学校有40多人前去车站送行，他们唱着自编的歌曲，气氛隆重热烈。
第二批俭学生到法国后，分别进入普通中学和实业学校俭学。当时留法俭学会发起人的计划是很宏大的。据吴稚晖说：“昨日与校中主持人齐如山先生闲谈，在发起人张静江、李石曾、汪精卫、褚重行先生之意：彼等在法国，希望于五年内，将有3000学生由俭学会西去。”留法俭学会的工作对推动赴法俭学活动起了很大的作用，其后不久，四川由吴玉章、黄复生等人发起成立了留法俭学会，在成都也办了一所预备学校，方法与北京留法预备学校大致相同；上海由吴稚晖、张静江发起成立了留英俭学会。在留法俭学会的组织下，短短几年留法人数达120多人，还有举家赴法俭学的。后来，留法工作由留法勤工俭学会来进行。
1909年，李石曾、齐如山等人在巴黎创设了中国豆腐公司，所生产的豆腐很受法国人士欢迎。后来，李石曾从家乡河北高阳招来工人30多人进入他创办的豆腐厂生产各种豆制品。当时这些华工只念过小学和私塾，不懂法文，工艺知识也很差，为了提高他们的文化知识进而提高劳动效率，李石曾便让他们白天做工，工余组织他们学习法语和科学知识，这样华工既有了经济收入，又提高了工艺水平，尤其是了解了当时世界上一些先进的科学知识和各种社会思潮，这是在国内所不能达到的。1913年法国地浃泊人造丝厂需要工人，由齐如山以“劝工公司”的名义，从国内招来48名工人。到厂后他们白天做工，工余学习，效果显著。这种被称为“以工兼学”的制度得到了蔡元培、李石曾等人的赞赏。他们参观了该厂，并写文章介绍这一做法，认为“以工兼学”有能使华工开阔眼界、受到教育、学到技术、赚到金钱等八大好处。这一制度为家境贫寒而又想外出求学的青年开辟了一条光明的道路。
也就在这时，爆发了第一次世界大战。战争中的法国急需大量从事生产劳动和后方勤务的工人，于是提出在中国招募华工，北洋政府答应了这一要求。李石曾趁机以俭学会名义同法国招工局谈判，并达成协议由俭学会代为向国内招工，并提出了四条招工条件，其中规定：华工与法国工人必须同等待遇，须设工人教育。法方同意了这些条件。而此时，在法国的俭学生李广安、张秀波等人总结多年的实践经验，把“俭学”和“以工兼学”结合起来，提出了“勤工俭学”的口号，并在1915年6月发起成立了留法勤工俭学会，以“勤以工作，俭以求学，以进劳动者之智识”为宗旨。该会会员中，以工求学者为实行会员，资助以工求学的为赞助会员。此会一成立，入会者很踊跃，最多时达近千人。勤工俭学会广泛开展宣传和华工教育活动。在宣传方面，他们出版了《勤工俭学传》，每月一期，用中文和法文刊出，内容为介绍艰苦劳动自学成才的名人事迹、宣传勤工俭学的意义。还发行《华工杂志》，每月两期，反映华工的呼声，宣传开展勤工俭学的重要性，月发行量达二三千份。第一次世界大战爆发后的数年，陆续赴法的华工达15万人之多，他们到法国后，有的修路，有的运输粮食弹药，有的在工厂制造枪炮，有的挖战壕，有20000多人在战争中献出了自己的生命。当时，法国工厂的生产工艺和设备比较先进，而大批华工的知识水平较低，工作起来困难较大，加上语言不通，写信看报、记账交往等都不方便，于是在法方的协助下，开展了对华工的教育。教育以业余为主，形式有以下几种：
a 在华工的居住地开设补习学校，学习中文、法文及机械知识，教师大都由留法的中国俭学生担任。这样的学校后来发展到20多处。
b 在住所及厂内开课讲授，每天工作七小时，上课一小时，不扣工资，教员多是本厂重要的工程师。学习工厂管理，组织效率及机械、冶金、钢铁的性质，英文等课程，仿照大学制度。一些有条件的工人还组织起来，集体聘教师直接到宿舍授课。
c 成立华工学校。华工学校由华法教育会与留法勤工俭学会合办，于1916年4月3日开学，第一期招收学员24人，都是有一定文化基础的华工。课程设法文、中文、算学、普通理化、图画、工艺、卫生、修身与公共组织等科。蔡元培编辑了德育和智育讲义40讲。法国政府对此十分支持，专拨校舍，并每年给予一万法郎的经费。
华工教育的逐步展开，使勤工俭学从理论宣传转到了实际行动，并逐渐得到发展。广大华工“以勤工之积储，为求学之资斧”，集工学于一身，显示了“亦工亦学”的强大生命力，为赴法留学高潮的到来奠定了基础。