“宰相”一词，是对历史上主持朝政、掌握朝廷大权的职官的一种通称，并不是一种具体职官的名称。
在秦代，可称为“宰相”的职官其实就是“丞相”一职。汉代也有“丞相”一职，不过为了分割丞相之权，又出现了“左丞相”、“右丞相”的官职。
宋代的文武大权掌握在设于禁中的中书门下(简称“中书”)和枢密院两个部门，中书省和枢密院这“二府”也有分工，中书省掌管行政，枢密院掌管军队调遣、配备和给养。中书侍郎加“同中书门下平章事”成为宰相，加“参知政事”衔就是副宰相，又称为“执政”。
宰相和“参知政事”合称“宰执”，对国家大政方针起着重要的作用。如宋代推行庆历新政的范仲淹即于庆历三年(公元1043年)任参知政事(副宰相)。欧阳修也曾任过枢密副使、参知政事的职务。北宋变法运动的领袖王安石在神宗熙宁二年(公元1069年)任参知政事。
神宗元丰改制后，尚书左仆射兼门下侍郎，尚书右仆射兼中书侍郎成为宰相，门下侍郎、中书侍郎和尚书左、右丞相则为副宰相。南宋孝宗时，宰相分为左右丞相，南宋末年的民族英雄文天祥便做过右丞相之职。
辽金时代也是分设宰相府和枢密院二府，但大权掌握在少数民族贵族统治者手中，汉人只是副职。辽的大权掌握在皇族耶律氏和后族萧氏手中；金的大权掌握在皇族完颜氏手中。
明太祖为了加强皇权，于明初洪武十三年(公元1380年)废中书省及丞相之职，设立华盖殿、谨身殿、武英殿、文华殿、文渊阁、东阁等大学士，为皇帝的顾问，并任用这些大学士在内廷讨论政务，草拟诏敕，处理军政大事，实际上成了“内阁”，是管理全国政务的最高机关。
仁宗之后，内阁的权位日益增高，入阁的大学士成了实际上的宰相，首席大学士称“元辅”或“首辅”，把持着内阁大权。
清代初期在八旗制的基础上，凡军国大事都要经过议政王各大臣讨论通过。同时又设立了“南书房”掌管内阁事务，并设“南书房行走”之职，是实际宰相。
雍正七年，设立军机房；三年后正式改称办理军机处，简称为军机处。任职人员为皇帝宠臣，如亲王、大学士、尚书等，称为军机大臣，通称大军机。实际上也是宰相之职。戊戌变法时被害六君子之一的谭嗣同就曾任过军机处的章京。
至清末，改革官制，成立责任内阁，所属外务部、民政部、度支部、学部、法部、陆军部、海军部、邮传部、农工商部、理藩部共十部，长官称大臣，十部大臣都是国务大臣。
