俄国国徽上的双头鹰图案，本是罗马帝国的君士坦丁大帝（Constantinus，Flavius Valerius）设计的，象征罗马帝国东西两部分领土的统一。君士坦丁在306到310年为罗马副帝，310到337年为罗马正帝。他受其母亲海伦娜太后（基督教尊其为圣徒，拿破仑被流放的圣赫勒拿岛就是以她的名字命名的）的影响而信奉基督教。他是罗马帝国第一位信仰基督教的皇帝，曾经颁布了承认基督教合法地位的《米兰敕令》。公元330年，他迁都拜占廷，并将其改名为君士坦丁堡，宣布这里是第二罗马。他在军事、政治、经济、宗教等方面改造了罗马帝国，奠定了以东方为中心的罗马帝国拜占廷时代的基础。他设计了双头鹰徽记，象征帝国的东西两部分领土地位平等、神佑“东西两罗马”——罗马城和君士坦丁堡城。公元395年，东西罗马分裂后，东罗马帝国继承了这个标志，象征只有拜占廷才是东西两罗马帝国的唯一合法继承者，西罗马帝国则恢复了早期的帝国鹰徽，不久就被日耳曼蛮族灭亡了。
公元1453年，“第二罗马”君士坦丁堡沦陷。君士坦丁十一世在城中战死。他的侄女索非亚逃到了罗马。长大成人后，于1472年嫁给了莫斯科领主伊凡三世。伊凡三世是俄罗斯历史上最著名的君王之一，被视为俄罗斯国家的奠基人。他在迎娶索非亚公主的同时，宣布自己是拜占廷帝国的继承者，同时继承了拜占廷帝国的国徽，并且宣布莫斯科为“第三个、也是永久的罗马”。伊凡三世还给自己冠以“TSAR（恺撒的俄语发音）”的头衔，因此，俄罗斯的“沙皇”称号，也自其开始。伊凡三世统一了雅罗斯拉夫尔、诺夫哥罗德、特维尔、彼尔姆、梁赞等诸侯国。1480年，他打败了阿赫马德汗，停止对金帐汗国（Golden Horde）的纳贡，结束了两个半世纪的蒙古人统治，赢得了独立的地位。新的国家成立了，并且获得了其他欧洲国家的承认。1497年，伊凡三世颁布了全俄罗斯法典（Sudebnik)，建立了古俄罗斯的政府机构。在这部法典中，规定了拜占廷的双头鹰国徽为俄罗斯国徽，并且将其图案刻在了俄国国玺上。同年，一面镀金的双头鹰徽记被安放在了克里姆林宫的斯巴斯基塔楼（Spasskaya Chamber）上。俄罗斯获得了象征自己国家的标志。同样在这部法典中，他还限制了农民的流动，规定只有在圣尤里节（俄历11月26日）前后两周期间，农民才可离开土地四处走动，开辟了俄罗斯的农奴化进程。
从1539年开始，莫斯科大公国的国徽图案发生了变化。1562年，伊凡四世（伊凡雷帝）在双头鹰的胸部增加了一块盾牌，中央是基督教经典中著名的“圣乔治（俄语称为圣格奥尔基）骑士屠龙”的画面。同时，双头鹰头部王冠上也增加了十字架的标志。在这个时期不同版本的俄罗斯国徽中，王冠的数目并不完全一样。有的是一个，有的是两个。
沙皇费多尔?伊万诺维奇统治时期，东正教势力在俄国上升。1589年，沙皇在双头鹰的两个脑袋中间增加了基督教圣地—各各他（Golgotha）圣墓十字的图案，增加了国徽的宗教意味。就在同一年，设立了全俄罗斯东正教大牧首的神职地位，总领全体东正教信徒，并且在俄罗斯建立了教堂自治制度。直到十七世纪中叶，这个标志还随处可见。
随着米哈伊尔?费奥多罗维奇?罗曼诺夫被俄罗斯领主会议推举加冕为沙皇，俄国历史上的“空位时代”在1613年结束。俄罗斯开始向西方的强国——瑞典和波兰张望。俄国国徽图案再次被改变。1625年，首次出现了三个王冠的图案。1645年阿列克谢即位后，这个徽记开始经常使用。1654年，乌克兰和俄罗斯合并，新的双头鹰国徽被挂上了斯巴斯基钟楼——沙皇已经改变了鹰徽的图案。原来拜占廷风格的老鹰被神圣罗马帝国风格（西罗马风格）的雄鹰取代。收拢的鹰翅变成了展开的鹰翅。大家可以比较一下和上面国徽中双头鹰的不同。1667年，同波兰争夺乌克兰的战争结束，鹰爪中增加了权仗和宝球的图案。1667年12月14日，第一部关于沙皇称号和国徽的专门法律被制订出来。其中规定，“双头鹰是沙皇和大君阿列克谢?米哈伊洛维奇陛下，大俄罗斯、小俄罗斯（乌克兰）、白俄罗斯的独裁者和保护者，全俄罗斯沙皇的君权标志”、“三个王冠，代表沙皇陛下征服的三个强大而光荣的王国——喀山、阿斯特拉罕和西伯利亚”。
彼得大帝时期，俄罗斯国徽又发生了变化。1698年，环绕双头鹰的胸颈部，增加了圣徒安德烈的标志——交叉的斜十字（在西方被称为安德鲁十字）。值得一提的是，1710年，距离彼得大帝被俄国元老院授予“俄罗斯帝国皇帝”称号之前差不多整整十年，双头鹰上面就加上了皇冠的标志。
从这个时期开始，帝国双头鹰由棕色改为黑色。
1721年，俄罗斯改为帝国。1726年，叶卡捷琳娜一世女皇规定双头鹰国徽的底色为黄色。1729年颁布的法令，规定俄罗斯国徽图案为：“黑色的双头鹰，位于黄色背景上，头顶为帝国皇冠的图案，胸部是红色盾牌，中央为圣乔治，黄色披风，白马，下方为被打败的黑龙。鹰的左爪托宝球，右爪托权仗” 。安娜女皇邀请一个瑞典雕刻师将其刻为国玺。作为图案主体的双头鹰的形状就此被固定下来，一直到1856年，都没有发生大的变化。
沙皇保罗一世在俄国历史上被认为是一个神智不健全的皇帝。他率领俄国参加了第一次反法战争，从法国手中夺到了马耳他岛，并得到了马耳他骑士团授予的大十字勋章，并被尊为马耳他骑士团领主。1799年他签署命令，将马耳他十字的图案加入到国徽中。1800年，这个疯癫的沙皇又设计了一个“节日国徽”。九个盾形纹章，四十三个小型国徽，环绕着中央的双头鹰大国徽。整个国徽背景是马耳他大十字，下方是圣安德烈十字，背景是猩红色、金黄色的流苏、白底加黑色圆点的帷幔，上面是三顶俄罗斯帝国皇冠，背景左右还有两个标准尺寸的双头鹰，然后由天使长迈克尔（米哈伊尔）和加布里埃尔手扶这面大纹章。这个疯狂的纹章方案被设计出来之后不久，他就在圣彼得堡的“工程师棱堡”中，被心怀不满的贵族们用枕头闷死了。他的儿子亚历山大一世（可能在幕后策划了这起事件）签署命令，取消了这个花里胡哨的国徽。
这个时期的俄国国徽有许多版本。有的头上有一顶皇冠，有的有三顶皇冠。有的双头鹰，鹰爪上不是权仗和宝球，而是闪电和花环。鹰的翅膀形状也有不同。欧洲大陆的时尚，决定了俄罗斯国徽的风格变化。 尼古拉一世时期，有两种国徽共同存在：一种是简单的双头鹰—圣乔治纹章图案（双头鹰的样子是下图左边翅膀张开的那个图案）。还有一种是复杂化的国徽，见下面右图。俄罗斯历史上的各王国、公国、地区，还有代表新征服领土的纹章被加了上去：左翼（图片的右侧）从上到下是波兰王国（今天的波兰国徽也是这个图案，红色天幕下的白鹰）、克里米亚汗国、 芬兰（红地上的金色狮子，和今天芬兰国徽图案基本相同）；右翼是早先被征服的喀山、阿斯特拉罕和西伯利亚汗国。也有的版本，右翼是古俄罗斯的三个主要组成部分——基辅、弗拉基米尔和诺夫哥罗德的纹章。胸部的圣乔治盾牌被红底蓝色的圣安德烈十字环绕。
俄罗斯在1855年到1857年进行了纹章改革。神圣罗马帝国风格的双头鹰被普鲁士风格的老鹰所取代。大家观察鹰翅和鹰尾的形状就可以看出两者的区别。同时，与西欧类似主题的纹章风格接轨，圣乔治的头部改为朝左。鹰翅上的纹章发生了变化。左翼从上往下为阿斯特拉罕、西伯利亚、格鲁吉亚和芬兰，右翼为喀山、波兰、克里米亚和“大公国联盟（基辅、弗拉基米尔、诺夫哥罗德）”的纹章。1857年，俄罗斯参议院签署法令，接受这个图样作为俄罗斯国徽的图案，并规定了大国徽、普通国徽和小国徽在不同场合的使用规则。
1882年7月24日，亚历山大三世沙皇在彼得霍夫签署了关于帝国国徽的新法令。沙皇保罗一世设计的那个纹章学家的噩梦——所谓“节日国徽”被接受作为俄罗斯帝国的大国徽使用。 但是做了一些改动：马耳他大十字被取消了。背景的猩红色、金黄色流苏也拿走了。左右还有两个标准尺寸的双头鹰也取消了。同时还增加了象征新近征服的中亚地区各国的纹章。
1883年2月23日，俄国沙皇亚历山大三世签署命令，恢复旧国徽的使用。但是双头鹰头顶上皇冠的颜色由金色变成银白色。
1906年，最后一道有关国徽使用规则的法令被签署。随着日俄战争的失败、社会矛盾的加剧、改革家斯托雷平的被害、“恶僧”拉斯普廷在宫廷里的得势，俄罗斯上流社会歌舞升平的年代结束了。在盛大隆重的罗曼诺夫王朝三百周年庆典（1613—1913）之后，俄罗斯迎来了它的血腥时代。
1917年“二月革命”后，俄罗斯成立临时共和政府。皇室的双头鹰图案因为凝聚了俄罗斯帝国450年的传统，不好贸然宣布废弃。但是，双头鹰上所有象征俄罗斯帝制的皇冠、权仗、宝球、纹章、绶带、徽记、圣符……，全部被取消了。日耳曼风格的双头鹰形状，也恢复成传统的拜占廷风格。这个图案曾经用在临时政府签发的俄国护照封面上。甚至十月革命之后，直到1918年7月24日，革命后的红色俄罗斯还在使用这个图案。
1918年夏天，布尔什维克们决定和传统的俄罗斯决裂。教堂和修道院被关闭，皇室和贵族们被全家枪毙，商人和教授们被逮捕，大批珍贵的宗教文物和文献被焚毁……，甚至有人说，要拆除所有“封建”的俄罗斯时代建造的工厂和铁路，重新修建新苏联的工厂铁路。在这种情况下，俄罗斯的国徽也不能幸免。
新的国徽完全和历史、传统、民族决裂，变成政治性很强的符号。中央是红色盾牌和镰刀锤子的图案，上书RSFSR (Russian Soviet Federative Socialist Republic)的大字，两旁扶持盾牌的由天使长变成了小麦穗。下面的缎带上是俄文的“全世界无产者，联合起来！”。1972年，五角红星——古代是火神伏尔甘的标志——被加了上去。1992年，苏联灭亡前夕，就象东德灭亡之前从国旗上取消镰刀锤子国徽的预兆一样，俄罗斯国徽上的镰刀锤子也被“俄罗斯联邦”的单词取代。
1990年11月5日，俄罗斯苏维埃社会主义联邦共和国政府成立特别委员会，开始着手设计新的国旗和国徽。该委员会决定将俄罗斯历史上的白蓝红三色旗作为国旗，红色背景的金色双头鹰为新的国徽（这个时期，波罗的海三个加盟共和国已经把社会主义色彩浓厚的国旗国徽换成了1940年之前的老国旗国徽）。1993年，叶利钦总统签署法令，正式将俄罗斯历史上的白蓝红三色旗作为国旗，使用红色背景的金色双头鹰为新的国徽。
新国徽保留了许多不平凡的俄罗斯历史标志。但是它们被赋予了新的政治涵义。彼得大帝加在双头鹰头上的三顶皇冠被保留了下来，作为俄罗斯联邦整体团结的象征，权仗和宝球象征国家的权力，圣乔治屠龙的纹章作为捍卫正义、惩处邪恶、保卫祖国、追求自由的标志。俄罗斯古老而光荣的历史在这里凝结，并且将在新的一千年中焕发出新的活力。
从某种意义上来说，现在的俄罗斯是文化意义上的罗马帝国传承。