古代卢森堡属高卢地区，臣民属比利时部族，公元前1世纪为罗马恺撒军团征服。公元5世纪法兰克人侵入，成为法兰克王国一部分。法兰克王国分裂后，卢森堡被划分到洛林王国。公元10世纪时，这里是神圣罗马帝国封给阿登伯爵西格弗里德的领地。963年阿登伯爵的弟弟西热弗鲁瓦在阿尔泽符河畔的古罗马大道上，选中一峻峭而又曲折的峡谷建立城堡。邻近有个守护台，是3世纪加利安皇帝在位时兴建的，法兰克人叫它卢西林堡胡克，意即小要塞城堡，西热弗鲁瓦也就给自己的要塞取了这个名字，这便是卢森堡名称的由来。1047年吉赛贝尔特时期又修建和加固了加堡。1060年西热弗鲁瓦的后裔康拉德成为神圣罗马帝国的卢消堡伯爵，卢森堡领地基本形成。

1136年那慕尔伯爵亨利四世，绰号叫“瞎子”，继承其同母异父兄弟，获得了卢森堡。他曾力图向北扩张，但遭到失败。1194年亨利四世因女儿王位继承权问题同其外甥博杜安的联盟在梅海涅河岸的诺维尔发生战斗，结果失败。他的女儿埃尔姆赞德被剥夺了继承权。但后来埃尔姆赞德同蒂博结婚，于1199年收复卢森堡。蒂博战死后，埃尔姆赞德又同林堡的瓦尔兰结婚，瓦尔兰带来阿尔隆侯爵地作为赠礼。由于这门婚事的关系，卢森堡才采用了林堡的纹章作为自己的纹章，但卢森堡是旁系，故由儿子亨利·勒·布隆代尔添上了几条天蓝颜色，以示与林堡的纹章有所区别。从13世纪起，卢森堡的国玺便用蓝、白、红三种颜色的丝缓带系住;这便是卢森堡国旗的由来。