俄国国徽上的双头鹰图案，本是罗马帝国的君士坦丁大帝（Constantinus，Flavius Valerius）设计的，象征罗马帝国东西两部分领土的统一。君士坦丁在306到310年为罗马副帝，310到337年为罗马正帝。他受其母亲海伦娜太后（基督教尊其为圣徒，拿破仑被流放的圣赫勒拿岛就是以她的名字命名的）的影响而信奉基督教。他是罗马帝国第一位信仰基督教的皇帝，曾经颁布了承认基督教合法地位的《米兰敕令》。公元330年，他迁都拜占廷，并将其改名为君士坦丁堡，宣布这里是第二罗马。他在军事、政治、经济、宗教等方面改造了罗马帝国，奠定了以东方为中心的罗马帝国拜占廷时代的基础。他设计了双头鹰徽记，象征帝国的东西两部分领土地位平等、神佑“东西两罗马”——罗马城和君士坦丁堡城。公元395年，东西罗马分裂后，东罗马帝国继承了这个标志，象征只有拜占廷才是东西两罗马帝国的唯一合法继承者，西罗马帝国则恢复了早期的帝国鹰徽，不久就被日耳曼蛮族灭亡了。

公元1453年，“第二罗马”君士坦丁堡沦陷。君士坦丁十一世在城中战死。他的侄女索非亚逃到了罗马。长大成人后，于1472年嫁给了莫斯科领主伊凡三世。伊凡三世是俄罗斯历史上最著名的君王之一，被视为俄罗斯国家的奠基人。他在迎娶索非亚公主的同时，宣布自己是拜占廷帝国的继承者，同时继承了拜占廷帝国的国徽，并且宣布莫斯科为“第三个、也是永久的罗马”。伊凡三世还给自己冠以“TSAR（恺撒的俄语发音）”的头衔，因此，俄罗斯的“沙皇”称号，也自其开始。伊凡三世统一了雅罗斯拉夫尔、诺夫哥罗德、特维尔、彼尔姆、梁赞等诸侯国。1480年，他打败了阿赫马德汗，停止对金帐汗国（Golden Horde）的纳贡，结束了两个半世纪的蒙古人统治，赢得了独立的地位。新的国家成立了，并且获得了其他欧洲国家的承认。1497年，伊凡三世颁布了全俄罗斯法典（Sudebnik)，建立了古俄罗斯的政府机构。在这部法典中，规定了拜占廷的双头鹰国徽为俄罗斯国徽，并且将其图案刻在了俄国国玺上。同年，一面镀金的双头鹰徽记被安放在了克里姆林宫的斯巴斯基塔楼（Spasskaya Chamber）上。俄罗斯获得了象征自己国家的标志。同样在这部法典中，他还限制了农民的流动，规定只有在圣尤里节（俄历11月26日）前后两周期间，农民才可离开土地四处走动，开辟了俄罗斯的农奴化进程。

从1539年开始，莫斯科大公国的国徽图案发生了变化。1562年，伊凡四世（伊凡雷帝）在双头鹰的胸部增加了一块盾牌，中央是基督教经典中著名的“圣乔治（俄语称为圣格奥尔基）骑士屠龙”的画面。同时，双头鹰头部王冠上也增加了十字架的标志。在这个时期不同版本的俄罗斯国徽中，王冠的数目并不完全一样。有的是一个，有的是两个。

沙皇费多尔•伊万诺维奇统治时期，东正教势力在俄国上升。1589年，沙皇在双头鹰的两个脑袋中间增加了基督教圣地—各各他（Golgotha）圣墓十字的图案，增加了国徽的宗教意味。就在同一年，设立了全俄罗斯东正教大牧首的神职地位，总领全体东正教信徒，并且在俄罗斯建立了教堂自治制度。直到十七世纪中叶，这个标志还随处可见。

随着米哈伊尔•费奥多罗维奇•罗曼诺夫被俄罗斯领主会议推举加冕为沙皇，俄国历史上的“空位时代”在1613年结束。俄罗斯开始向西方的强国——瑞典和波兰张望。俄国国徽图案再次被改变。1625年，首次出现了三个王冠的图案。1645年阿列克谢即位后，这个徽记开始经常使用。1654年，乌克兰和俄罗斯合并，新的双头鹰国徽被挂上了斯巴斯基钟楼——沙皇已经改变了鹰徽的图案。原来拜占廷风格的老鹰被神圣罗马帝国风格（西罗马风格）的雄鹰取代。收拢的鹰翅变成了展开的鹰翅。大家可以比较一下和上面国徽中双头鹰的不同。1667年，同波兰争夺乌克兰的战争结束，鹰爪中增加了权仗和宝球的图案。1667年12月14日，第一部关于沙皇称号和国徽的专门法律被制订出来。其中规定，“双头鹰是沙皇和大君阿列克谢•米哈伊洛维奇陛下，大俄罗斯、小俄罗斯（乌克兰）、白俄罗斯的独裁者和保护者，全俄罗斯沙皇的君权标志”、“三个王冠，代表沙皇陛下征服的三个强大而光荣的王国——喀山、阿斯特拉罕和西伯利亚”。

彼得大帝时期，俄罗斯国徽又发生了变化。1698年，环绕双头鹰的胸颈部，增加了圣徒安德烈的标志——交叉的斜十字（在西方被称为安德鲁十字）。值得一提的是，1710年，距离彼得大帝被俄国元老院授予“俄罗斯帝国皇帝”称号之前差不多整整十年，双头鹰上面就加上了皇冠的标志。

从这个时期开始，帝国双头鹰由棕色改为黑色。
1721年，俄罗斯改为帝国。1726年，叶卡捷琳娜一世女皇规定双头鹰国徽的底色为黄色。1729年颁布的法令，规定俄罗斯国徽图案为：“黑色的双头鹰，位于黄色背景上，头顶为帝国皇冠的图案，胸部是红色盾牌，中央为圣乔治，黄色披风，白马，下方为被打败的黑龙。鹰的左爪托宝球，右爪托权仗” 。安娜女皇邀请一个瑞典雕刻师将其刻为国玺。作为图案主体的双头鹰的形状就此被固定下来，一直到1856年，都没有发生大的变化。
沙皇保罗一世在俄国历史上被认为是一个神智不健全的皇帝。他率领俄国参加了第一次反法战争，从法国手中夺到了马耳他岛，并得到了马耳他骑士团授予的大十字勋章，并被尊为马耳他骑士团领主。1799年他签署命令，将马耳他十字的图案加入到国徽中。1800年，这个疯癫的沙皇又设计了一个“节日国徽”。九个盾形纹章，四十三个小型国徽，环绕着中央的双头鹰大国徽。整个国徽背景是马耳他大十字，下方是圣安德烈十字，背景是猩红色、金黄色的流苏、白底加黑色圆点的帷幔，上面是三顶俄罗斯帝国皇冠，背景左右还有两个标准尺寸的双头鹰，然后由天使长迈克尔（米哈伊尔）和加布里埃尔手扶这面大纹章。这个疯狂的纹章方案被设计出来之后不久，他就在圣彼得堡的“工程师棱堡”中，被心怀不满的贵族们用枕头闷死了。他的儿子亚历山大一世（可能在幕后策划了这起事件）签署命令，取消了这个花里胡哨的国徽。

这个时期的俄国国徽有许多版本。有的头上有一顶皇冠，有的有三顶皇冠。有的双头鹰，鹰爪上不是权仗和宝球，而是闪电和花环。鹰的翅膀形状也有不同。欧洲大陆的时尚，决定了俄罗斯国徽的风格变化。 尼古拉一世时期，有两种国徽共同存在：一种是简单的双头鹰—圣乔治纹章图案（双头鹰的样子是下图左边翅膀张开的那个图案）。还有一种是复杂化的国徽，见下面右图。俄罗斯历史上的各王国、公国、地区，还有代表新征服领土的纹章被加了上去：左翼（图片的右侧）从上到下是波兰王国（今天的波兰国徽也是这个图案，红色天幕下的白鹰）、克里米亚汗国、 芬兰（红地上的金色狮子，和今天芬兰国徽图案基本相同）；右翼是早先被征服的喀山、阿斯特拉罕和西伯利亚汗国。也有的版本，右翼是古俄罗斯的三个主要组成部分——基辅、弗拉基米尔和诺夫哥罗德的纹章。胸部的圣乔治盾牌被红底蓝色的圣安德烈十字环绕。