中英联合联络小组这个临时性的外交机构很有些特殊性，在世界外交史上也不多见。双方的代表处都以香港为驻地。
　　
　　这个机构的构想可以追溯到1984年4月11日中英关于香港前途问题举行的第12轮谈判，当时，中方向英方提出“中英联合委员会草案”，英方代表担心此举会造成1997年前中英共管香港事务，使港督沦为“跛脚鸭”，极力反对。直至同年6月第16轮谈判，双方决定成立起草正式文件的工作小组，商讨联合机构的组织草案，英方对此态度仍不积极。
　　
　　7月28日，中国政府代表团团长周南带着邓小平的指示，向英国外交部副次官柯利达提出联合联络小组进驻香港的最终方案，并告知必须年底就签正式协议，否则英方须承担谈判破裂的风险。
　　
　　英国首相撒切尔夫人听取了正在北京访问的外交大臣杰弗里•豪及港督尤德的汇报，决定妥协。由于英方曾经顾虑中方一旦在香港设立联合联络小组，中方代表处就可能变成“第二个权力中心”，特别要求在附件二里写入“联合联络小组是联络机构而不是权力机构，不参与香港或香港特别行政区的行政管理，也不对之起监督作用。联络小组的成员和工作人员只在联合联络小组职责范围内进行活动”。这段话对中方本来就不存在困难，既然对方坚持，写上了更显得接受方的大气。