总司令朱德找来正在做出发准备的罗贵波，听取汇报后再度明确，罗贵波的任务主要是进入越南了解情况：“看看他们需要什么援助，采取什么样的援助方式为好。”朱德叮嘱罗贵波说，要严守行动保密，入越以后，他的身份只能在越南少数领导人中间公开。
1950年1月13日，刘少奇再次和罗贵波谈话。
刘少奇回顾了他和胡志明的交往。20世纪20年代的中国大革命时期，刘少奇在广州认识了作为共产国际代表鲍罗廷翻译兼秘书的胡志明。胡志明在广州创办了培养越南革命青年干部的“特别政治训练班”，常常邀请刘少奇、周恩来、李富春、彭湃等人讲课，当时刘少奇专讲工人运动。1938年，在延安，刘少奇又和秘密前来的胡志明见过面。延安一别，已经十多年了。
不过刘少奇也说，他和胡志明相识虽早，后来也有接触，但毕竟不很熟悉。解放战争中，中越边境地区两党之间有些联系，部队之间也有联系，我军的地方部队，即桂滇黔纵队，在困难的时候曾经转移到越南境内，受到了他们的保护和帮助。但是，中越之间这种联系不是固定的、正式的，“你去越南后要建立两党中央之间的联系”。
刘少奇嘱咐说：“你去越南这件事绝对保密，到越南后的工作方式由越南党中央确定，在适当的时候回国汇报。赴越联络代表在越南工作期间的待遇，请胡志明主席和越南党中央按照越南干部的标准供给。”说着，刘少奇拿起毛笔，为罗贵波书写了致越共中央的介绍信：
越共中央：
兹派罗贵波同志前来与你们联络，希予接洽。我们给予罗贵波同志的任务，由罗同志面告。特此介绍并致敬礼！
中国共产党中央委员会 刘少奇
在此之后，刘少奇又有了新的考虑，他提起毛笔，为罗贵波写了第二封致胡志明的介绍信：
兹介绍我们的一位省委书记和军队中的政治委员罗贵波同志，到你处担任中共中央联络代表。带助手和随员共八人。
中共中央秘书长 刘少奇
中央军委为罗贵波配备了一部电台，谷密云任台长，还有报务员薛培芝、机要员张思智，以及警卫员武怀德。
罗贵波挑选李云扬作为他此行越南的主要助手。
李云扬，1912年生，广东台山县人，青年时曾留学日本，于1936年由著名共产党人林基路介绍在日本东京加入中共。抗战爆发后他到延安抗大任教，1939年随陈潭秋、毛泽民、林基路等去新疆。1942年新疆军阀盛世才追随蒋介石掀起反共高潮，将在新疆工作的共产党代表逮捕，李云扬也被投入监狱，直到1946年6月才出狱。
1946年7月，李云扬回到延安后任第359旅旅长王震的秘书，此后转战至山西吕梁军区，和罗贵波一起工作。新中国成立前夕，李云扬来到北京，在中共中央组织部工作。此时，准备进入广东的叶剑英正从各地急调广东籍干部，李云扬也被选中。由于一时未能成行，李云扬就先到华北中学担任副校长，主持校务。
罗贵波打听到李云扬在北京的地址，匆匆赶到华北中学，对李云阳说：“现在解放了，有那么多的工作等待我们去做，你还是跟我到越南去一趟吧。”
李云扬欣然应诺：“那好呀！我们是老搭档了，你要我去我就去。”据李云扬回忆，罗贵波找他谈话的时候，尚无“顾问团”的名称，当时叫做“联络组”，对外称“华南工作团”。李云扬到罗贵波身边后，即负责与李班和阮德瑞的联系，安排出使越南的细节。
由李班、阮德瑞陪同，罗贵波一行于1950年1月16日乘火车离开北京南行。临行前，他们的队伍里又增添了一位越南人刘德福，他是越南总工会执行委员会书记，来北京出席亚洲、非洲的工会会议后回国。刘少奇在次日将罗贵波的姓名用电报正式通知越方，并告知说，罗贵波一行“经汉口、广州、南宁、龙州，然后进入越南，大概需一个月才能到达。”
在此之前，刘少奇已与罗贵波南下沿途所经之处的中南局和广西、云南省委联系，要求给予帮助。1月11日，刘少奇致电中南局第一书记兼司令员林彪：“中央已决定派罗贵波到越南，不日即从北京起身，并同越南代表一路回去。他们经过武汉及广西时当与你们接洽，并和你们建立电台联络，以便于他们到达越南后我方与越南党的联系，并实现对他们系统的帮助。目前你们可令前方给他们一些临时帮助，数目由前方与越南商定（后）电告。”
果然，罗贵波一行到达武汉后，林彪对此事非常重视，特地在汉口设宴招待。