王国维与罗振玉是浙江同乡，二人不仅仅是儿女亲家，罗振玉对王国维来说，是老师，是挚友，对王国维有知遇之恩。
1896年，罗振玉在上海组创学农社并设立农报馆，编辑出版《农学报》，需要聘用翻译人员，以便把欧美及日本的农科书籍和农学书报介绍到中国来，乃于1898年6月以私人资本在上海新马路梅福里开设东文学社。
据罗振玉的外孙刘蕙孙讲，戊戌年正月初二，罗到《时务报》馆给馆主汪康年拜年，进门以后，阒然无人，一直走到楼上，见一小房间里有个人，桌上放一包花生米，摊着一本书自斟自酌，不觉有点奇怪。进房一看，其人读的是《文选·两都赋》，斟的是绍兴酒。益觉奇怪，进而问询，那人乃起身让坐，原来是《时务报》校对员海宁人王静安（王国维字静安），对坐攀谈，觉得此人才华和学养都不平凡。继又看到他为同舍生撰题的扇面上有咏史绝句，其末句为“千秋壮观君知否，墨海西头望大秦”，乃“大异之”，认为他确有过人之才，遂劝他入东文学社，并说王有秀才功名，可以直接进入师范班。又说，他身为公学监督，愿助一臂之力。王说：“奈生计何！”罗乃问明每月工资30元，遂说：“你去读书可也，我在《农学报》馆给你挂个名，闲时写写文章即可，月薪40元，则家用及本人生活都可以维持了。”王遂入东文学社学习。是年王国维才22岁，他后来能够成为大学者，跨进东文学社门坎这一步，实在是一个难得的契机。王国维非常感激，当年曾写诗以“匠石”隐喻罗振玉：“匠石忽顾视，谓与凡材殊。”
1911年11月，罗、王二人联袂东渡。之前，王国维的兴趣本来在西方哲学，到这时断然转向了国学。据刘蕙孙回忆，这也是罗振玉力劝王国维的结果。
从二人相识开始，王国维的大多数重要活动几乎都与罗振玉密切相关。留学日本，系罗氏资助之；到南通师范学院讲学，系罗氏推荐之；入京任晚清学部官员，系罗氏带领之；乃至于王国维先学西学，后转而专治国学，也是罗振玉相劝之功……徐中舒《王静安先生传》记：“辛亥之役，罗氏避地东渡，先生亦携家相从，寓日本之西京。罗氏痛清室之沦亡，于西洋学说尤嫉恨之。至是乃欲以保存旧文化之责自任，且劝先生专治国学。先生乃大为感动，遽取前所印《静安文集》尽焚之。”
罗振玉学问不及王国维，但在其他方面则长袖善舞，当过末代皇帝的老师，参与重要的政治活动，还有很强的经营手腕……他对王国维有恩，但也让王国维做了许多事情。而王国维性格忧郁悲观，埋首学术，不问功利，是典型的学者气质，人称他“老实到像火腿一般”。据说，罗振玉不少重要的学术成果其实本是王国维的，有人讲罗振玉的《殷虚书契考释》，剽窃了王国维的研究成果；有人讲王国维投水自尽乃罗振玉所逼……
无论如何，在王国维的长子亡故之前，王国维与罗振玉之间的关系一直是非常好的。当罗振玉将自己的女儿嫁给王国维的长子后，双方自然是亲上加亲，像一家人。
王国维的长子潜明是个不愿依赖父辈、喜欢过独立生活的人。1919年9月，他在与罗振玉三女孝纯婚后不久，从上海工部局所办育才公学肄业，并由校方介绍，考入了海关。翌年，调至天津海关，寄居嘉乐里岳父家中。不久，海关新建公寓落成。罗氏念小两口才结婚，尚无生活经验，劝他不要急于另立小家庭。王国维也来信对他说，你刚入海关，工薪有限，还是住在岳父家中，既可节省开支，又彼此有所照应，要他听从罗氏劝告。但王潜明还是执意迁出罗宅，搬入公寓，过起了独立的小家庭生活。
1925年5月底，潜明奉调上海海关。翌年9月26日，在上海病逝，年仅27岁。那位做了遗孀的孝纯，时年仅24岁，与潜明完婚八载，先后生有二女，王国维十分喜爱。不幸的是，两位宝贝孙女均已在1924年夭亡。
王国维是在料理潜明丧事后，于10月15日自沪乘车返京。其间还托人在海宁为潜明购置了墓地。在处理潜明后事过程中，发生了一些“误会”，不仅激化了所谓婆媳家庭矛盾，还致使罗、王两亲家为潜明遗款的收存问题，打起了笔墨官司！
原因是罗振玉在潜明医疗问题上曾指责过女儿“偏执”，所以王国维在潜明遗款的问题上，也以长辈的身份不客气地批评了长媳“无理”，并请罗氏喻以“正理”。孰料，罗振玉非惟不“喻”，反过来还予以袒护。笔墨官司愈打愈烈，最后终于导致了罗、王“三十年金石之交”破裂！
按照这期间罗、王来往书信落款时间，大致三天一信，六天一往返，由龃龉而交绝，历时20天。从书信行文口吻看，王国维始终珍惜旧谊，而罗氏则咄咄逼人，直至最后一信，说自己发断交信“殊非我心所欲”，似乎透出了些许悔意，但仍指责王国维“来书严峻”。
罗振玉的侄子罗守巽晚年说：先伯父（罗振玉）性子急，脾气大，待人处事欠冷静。两亲家晚年失和，同他的这个“脾气”有很大关系。但真正的原因是，罗振玉认为，王国维来信中自称“我辈皆老”，这不是由女及父，在批评他做父亲的不是，尤其是信中十分严正地讲到“蔑视他人人格”，实际上是批评他父女俩有悖“圣人之教”。
据罗振玉的长孙罗继祖当时已经十四五岁，据他说，姑母（即罗孝纯）婚后与潜明继母潘氏夫人关系处得不好，中间又受到仆妇们的挑拨，以致婆媳“感情冷淡”。潜明病亡，王国维夫妇到上海主丧；罗氏“痛女心切”，也赴沪探视，两亲家因而发生争执，事情越闹越僵。他这样追述罗、王争执经过：潘夫人处置善后偶尔失当，姑母泣诉于祖父，祖父迁怒于王先生，怪他偏听妇言，一怒而携姑母大归。……三十年夙交感情突然破裂，原因是祖父脾气褊急，平日治家事事独断，而王先生性格却相反，平日理头治学，几于不过问家政，一切委之阃内。……事情闹僵，又没有人从中转圜，以至京津虽密迩，竟至避面，直到王先生逝世。
不过，这都是出于罗氏后人的申述。“罗王交恶”，表面上看起因于潜明“遗款”问题，却非出“一时之误会”，乃是由于心中早有不满。在此之前，至少有两件事情颇使罗氏耿耿于怀。
一件是1923年5月，王国维入小朝廷不久，书告罗氏：自己的《观堂集林》已在沪装订，打算将其中的精印本“进呈”博仪。罗亦趁此将他自己的《殷虚书契前后编》及《考释》从天津寄到北京，请王国维托书店做了黄绫套代为“奏呈”。这使初入“南书房”的王国维颇感为难。因为他知道罗振玉与小朝廷内郑孝胥等人有矛盾，便复信表示：为避嫌，拟待“数月以后”再办。罗很生气，当即回信，要王不必做书套代呈了，将原书交人“携津”。
另一件是潜明在天津海关工作时，小两口皆暂住罗宅，故王国维常去天津看望，而两亲家见面的话题则是溥仪及小朝廷内的人事纷争。罗氏及荐王入“南书房”的升允以“老派”自居，要联名上奏折参劾以郑孝胥为首的“新派”，让王代呈。王国维回京以后，却听到了自己的老朋友金梁及溥仪的岳父（婉容之父）荣源对升、罗二人“结党”的议论。他既怕罗氏知道了引起“盛怒”，又怕亲家因而受到中伤，故写信婉言劝罗改“奏”为“函”，建议不必向“皇上”呈奏折，可直接致信荣源，较为妥帖。这本出于好意，罗氏却很不高兴。
以上两事，罗、王之间已埋下了“嫌隙”。由潜明丧事而致罗氏发出“绝交书”，乃是“冰冻三尺，非一日之寒”，尤其与升、罗引荐王入小朝廷，而王不尽听命，关系极大。
再就罗、王两家关系而言，直到潜明病重，潘氏夫人与罗宅亲家母之间，应该说是处得比较好的，对长媳也一直很关心。所以，王东明（王国维长女）不同意说她母亲潘氏夫人处理善后失当，认为这是没有根据的“臆断之辞”；因潜明丧事而罗、王误会以致绝交，“毋宁说是偶发事件较为合理”。那时，王东明女士也已十几岁了，犹能记当时情景，说：父亲最爱大哥，大哥病逝，给父亲很深的打击，已是郁郁难欢，而罗振玉先生又不声不响地偷偷把大嫂带回娘家，父亲怒道：“难道我连媳妇都养不起？”然后把大哥生病时的医药花费全汇去罗家，他们寄回来，父亲又寄去，如此往复两回，父亲生气得不言语，只见他从书房抱出一叠信件，撕了再点火焚烧。我走近去看，见信纸上款写着：观堂亲家友（有）道……
但罗氏的那封“绝交书”和其他一些信件被完整地保存下来。王东明读到“绝交书”后感慨万分，说：任何一句，无不伤人自尊，不是常人所能忍受的。也由此，使我想到被父亲焚去的信件，当有更甚于此者。再从父亲给罗氏的信来看，无不婉转谦抑，委曲求全，未发现有恶言相向的。我常常痴想，如果二人不失和，父亲伤心时得到挚友的劝解慰藉，迷惘时获得劝解宣泄，或可打消死志，拉一把与推一把，其结果就不可以道里计了。
当误会发生后，罗振玉带着爱女孝纯先行返津。王国维虽至为难堪，但仍认为只是一种暂时现象。所以，他在妥善处理潜明丧事的同时，又尽其所能为安排好长媳未来的生活，办了两件事：首先是立嗣。由于潜明无后，决定将次子高明的长子庆端过继。其次是恤寡。办理潜明的海关恤金等遗款，委托在沪的老友金颂清，通过银行将款全数汇至天津罗家。
1926年10月24日，王国维写信给罗振玉：“维以不德，天降鞠凶，遂有上月之变。于维为冢子，于公为爱婿，哀死宁生。父母之心，彼此所同。不图中间乃生误会，然此误会久之自释，故维初十日晚过津，亦遂不复相诣，留为异地相见之地，言之惘惘。”又说：“初八日在沪，曾托颂清兄以亡儿遗款汇公处，求公代为令嫒经理。今得其来函，已将银数改作洋银二千四百二十三元汇津，目下当可收到。而令嫒前交来收用之款共五百七十七元（镯兑款二百零六元五角，海关款二百二十六元五角，又薪水一个月一百四十三），今由京大陆银行汇上。此款五百七十七元与前沪款共得洋三千元正，请公为之全权处置，因维于此等事向不熟悉，且京师亦非善地，须置之较妥之地，亡男在地下当感激也。”
王国维在信中流露出想要化解误会的心意，且汇款给罗振玉，并用“求公代为令嫒经理”、“请公为之全权处置”等委曲求全的语句，表达了自己的诚意。
王国维又派了男仆冯友专程赴津，将从上海运回的潜明夫妇的家具送至罗宅。然而，冯友从天津返回时，带来了罗氏的拒款信。罗振玉以自己女儿的名义，将钱退回。王国维不甘心，10月25日，又致罗振玉信，仍请罗将钱收下，说：“令嫒声明不用一钱，此实无理，试问亡男之款不归令嫒，又当谁归？仍请公以正理谕之。我辈皆老，而令嫒来日方长，正须储此款以作预备，此即海关发此款之本意，此中外古今人心所同，恐质之路人无不以此为然也。京款送到后，请并沪款一并存放，将原折交与或暂代为收存，此事即此已了，并无首尾可言。”
罗振玉仍不领情，再次将钱退回。一而再地被拒绝，王国维觉得自己最看重的人格受到了侮辱。他生气得不言语。女儿王贞明看见父亲从书房抱出了一叠信件，撕了再点火焚烧。王贞明走近去看，见信纸上款写着：观堂亲家有道……
10月31日，他又一次写信给罗振玉，说：“亡儿遗款自当以令嫒之名存放。否则，照旧时钱庄存款之例，用‘王在记’亦无不可。此款在道理、法律，当然是令嫒之物，不容有他种议论。亡儿与令嫒结婚已逾八年，其间恩义未尝不笃，即令不满于舅姑，当无不满于其所天之理，何以于其遗款如此之拒绝？若云退让，则正让所不当让。以当受者而不受，又何以处不当受者？是蔑视他人人格也。蔑视他人人格，于自己人格亦复有损。总之，此事于情理皆说不去，求公再以大义谕之。此款即请公以令嫒名存放，并将存据交令媛。如一时不易理谕，则暂请代其保存。”
直到此时，罗振玉才收下此款，回信说：“拟以二千元贮蓄为嗣子来日长大婚学费，馀千元别有处置之方法，以心安理得为归，不负公所托也。”
虽然如此，二人的心结一直未能打开。1925年8月上旬罗振玉六十大寿的时候，王国维还专程到天津祝寿并写诗贺之，诗尾有“百年知遇君无负，惭愧同为侍从臣”句。不料，刚刚不过一年光景，二人关系竟发生如此巨变。此事无疑在王国维心中留下巨大的阴影。
半年以后，罗振玉接到亲家去世的噩耗，赴京为之经纪丧事，又在津为之刊印遗著，看来是痛感了这一点的。晚年追忆往事，罗氏在自己的书斋“鲁诗堂”里曾对孙儿辈说：静安以一死报知己，我负静安，静安不负我。
王国维逝世当天，其姨甥、清华研究院助教赵万里给在天津的罗振玉拍了电报：“师于今晨在颐和园自沉，乞代奏。”罗振玉甚为悲痛，即于6月4日派其子赴京奔丧，据在清华研究院办公室工作的王国维第三子贞明，给其执事于上海邮务局的二哥高明的信中透露，罗本拟亲来北京清华园，因家人“恐彼来此有所感或有他变，故不肯放他来京。”
罗振玉后又代王国维给溥仪上了一道遗折，溥仪下旨为王国维赐谥号“忠悫”。其实这封遗折是罗振玉感念他与王国维的友谊，对于两人失和之事甚感愧疚，为了弥补自己的歉意，不惜冒着欺君的罪名为他谋求谥法，因此让他的第四个儿子模仿王国维的笔迹作了个“遗折”。罗振玉又在天津日租界日本花园内设“忠悫公”灵位，广邀中日名流学者公祭，罗还亲撰《祭王忠悫公文》，最早发表在天津《日日新闻》上，赞颂王国维的“完节”和“恩遇之隆，为振古所未有”。
公祭后罗振玉旋即赴京，参与处理后事。他带着溥仪的“谕旨”，从清室驻北京办事处领得贰千圆赏银，全数交给了王国维夫人潘夫人，自己又另外送上一份在亲友中间数额最高的葬礼银一千元。从各个角度讲，均不失三十年友谊的情份。
王国维的家属子女依父亲的意愿，不请风水师择坟，也不挑选“吉日”，而在清华外面七间房买块地安葬，“坟是清华的泥水匠做的，立了一个碑，上书宣统皇帝加予的‘谥号’王忠悫公，坟地四面都种了树”。
此后，罗振玉主持了王国维遗著的校理和编辑出版工作，将其已刊和未刊的著作分编四集，以《海宁王忠悫公遗书》为书名出版，尽了对逝者的一份情谊。