王国维先后结过两次婚。第一次在1896年，当时他20岁，因受甲午战败的刺激，一心想到日本去留学。可是他父亲坚决不同意，说现在首要的是“求度衣食”，至于求学，那是十年后的事情。王国维只好谨遵父命“成家立业”——他结了婚，并且到本城沈家去当塾师。
王国维的新婚妻子姓莫，她家世代经商，家境似乎比王家要好一些。王、莫两家早就定了亲，当王国维十四岁便以“海宁四才子”之首名震乡里的时候，他的岳父对这个未来的女婿简直是赞不绝口。老泰山当然不会想到，女儿出嫁之后，女婿却因“家贫不能以资供游学，居恒怏怏”，并且两年后就去上海《时务报》馆打工，从此与他的妻子当了十年的“牛郎织女”。
王国维与这位莫氏夫人的感情非常好，尽管找不到任何直接的文字证据，但我们从他留下的那些温柔缠绵的词中，还是不难看到这位身在他乡的牛郎对家中织女的殷切思念：
王国维在苏州师范教书时经常“填词自娱”，也常在词中表达队妻子的四面，如三迭的《西河》：
垂柳里，兰舟当日曾系。千帆过尽，只伊人不随书至。怪渠道着我侬心，一般思妇游子。
昨宵梦，分明记，几回飞度烟水。西风吹断，伴灯花摇摇欲坠。宵深待到凤凰台，声声啼鸩催起。
锦书宛在怀袖底，人迢迢，紫塞千里。算是不曾相忆。倘有情，早合归来，休寄一纸无聊相思字！
自从王国维22岁离开家乡，此后便奔走东西、辗转南北，回海宁的时候很少。在家呆的最长的一次是为亡父“守制”——从1906年8月到1907年4月，总共八个月的时间。当时家乡父老曾联名邀请他出任海宁州劝学所学务总董，他坚决地推辞了。谁知他回到北京才三个月，便得到妻子病危的消息，又匆匆赶回来，十天以后，妻子就去世了。
妻子去世后，王国维徘徊在江边，面对潮涨潮落，他心中一片空虚，眼前却尽是妻子临终的情景，于是写下了《虞美人》：
杜鹃千里啼春晚，故园春心断。海门空阔月皑皑，依旧素车白马夜潮来。
山川城郭都非故，恩怨须臾误。人间孤愤最难平，消得几回潮落又潮生？
夫人莫氏扔下了三个男孩，最大的八岁，最小的才三岁。王国维把孩子们托给继母叶太夫人照料，暂时回到他供职的学部，但他始终打不起精神来。
王国维为妻子写过许多悼亡词：
胡适曾说，读了王国维的词，起先以为他是个风流才子，后来见了他才知道不是那么回事。王国维于词，多是发自肺腑的哀歌。
几个月后，王国维的继母叶太夫人也离开了人世，这回连孩子也没人照管了。亲戚们都劝他再娶，他自己则拿不定主意。最后，由他的岳母莫太夫人作主，为他续定了一门亲事。
王国维的第二任妻子姓潘，是前妻莫氏的远房表亲，据王国维的女儿王东明说是莫氏的表甥女。这位潘氏夫人就像苏东坡的第二任妻子一样，一辈子辛辛苦苦、任劳任怨，为丈夫操持家务、养育孩子，是标准的贤妻良母。除了前妻所生的三个儿子外，潘氏后来又生了三个儿子、五个女儿（其中夭折两个）。王国维一生不问家务，家中事无巨细，全归潘氏料理。从王国维致罗振玉的信中可以看到，潘氏在王家实在是个顶梁柱。有一次她害牙疼，疼得要命，可当孩子们一个接一个地发烧时，她的牙病竟“霍然而愈”！
罗仲安谈到王家事时说“家中遇有纠纷，先生不作左右，袒护潘夫人，人谓其如‘金人’”，王国维的女儿王东明女士解释“金人”指王国维沉默不语，只是缄默。
潘氏对前妻生的三个儿子如同己出。王国维50岁自杀时，他的第三子贞明还不到娶亲的年龄，后来贞明的婚事，也是潘氏一手操办的。老二高明曾告诫他的妻子：“吾辈弟兄，赖继母抚育成长，费尽心思。汝须尽子妇之德，毋得相慢！”
这个不幸而又坚强的妇人在丈夫死后独自支撑着多子女的家庭，她比王国维多活了将近半个世纪，据陈鸿祥《王国维传》：“潘夫人名丽正，1975年病卒于台北医院。”