Толкин начал работу над историями, которые в будущем легли в основу «Сильмариллиона», ещё в 1914 году, замыслив их как английскую мифологию, объясняющую происхождение английской истории и культуры. Первую историю — «Падение Гондолина» — он закончил в конце 1916 года.
Первой законченной версией «Сильмариллиона» были «Наброски мифологии» (англ. Sketch of the Mythology), написанные в 1926 году. «Наброски» были 28-страничным рефератом, написанным для того, чтобы объяснить события, предшествующие истории Турина, Р. У. Рейнолдсу — другу Толкина, которому он посылал некоторые из своих текстов. «Наброски» Толкин развил в более полную версию «Сильмариллиона» — «Квента Нолдоринва» (англ. Quenta Noldorinwa). «Квента Нолдоринва» стала последней завершённой непосредственно Толкином версией «Сильмариллиона».

В 1937 году, Толкин отправил своему издателю, George Allen & Unwin, неполную, но уже несколько развитую версию «Сильмариллиона», озаглавленную «Квента Сильмариллион» (англ. Quenta Silmarillion), однако издательство отклонило эту работу, признав её невнятной и «слишком кельтской». Вместо публикации «Квента Сильмариллион» издатель попросил Толкина написать продолжение "Хоббита". Толкин начал было править «Сильмариллион», но вскоре действительно приступил к написанию продолжения, ставшего впоследствии «Властелином Колец». Он возобновил работу над «Сильмариллионом» лишь после завершения «Властелина Колец» и очень желал опубликовать оба произведения вместе. Но, когда стало ясно, что это не представляется возможным, Толкин полностью посвятил своё время подготовке «Властелина Колец» к публикации.

В конце 1950-х годов Толкин вернулся к «Сильмариллиону», однако основная масса его трудов того времени была более посвящена теологическим и философским подтекстам его работ, нежели повествованиям. В это время он много писал на такие темы, как природа зла в Арде, происхождение орков, привычки и обряды эльфов, природа и значение перерождения Эльдар, а также об истории «плоского мира» и происхождении Солнца и Луны. В любом случае, помимо одного-двух исключений, в последние годы своей жизни он внёс в свой легендариум совсем немного изменений.

В течение нескольких лет после смерти своего отца Кристофер Толкин занимался составлением повествования «Сильмариллиона». Намерениями Кристофера Толкина являлись максимальное использование поздних работ Толкина и обеспечение наибольшей возможной внутренней непротиворечивости произведения (а также непротиворечивости «Властелину Колец»), хотя он признавал, что полной непротиворечивости добиться, видимо, невозможно. Как объясняется в «Истории Средиземья», Кристофер использовал множество источников для своей работы, где возможно полагаясь на тексты, написанные позже «Властелина Колец», но иногда обращаясь даже к таким ранним произведениям, как «Книга утраченных сказаний» 1917 года для заполнения имеющихся пробелов в повествовании. В одной из глав «Квента Сильмариллион» («О разорении Дориата»), к которой Толкин не прикасался с начала 1930-х годов, Кристоферу пришлось составлять повествование практически с нуля. Окончательный результат, который включал генеалогии, карты, алфавитный указатель и первый напечатанный список эльфийских слов, был опубликован в 1977 году.

«Сильмариллион» представляет собой сборник мифов и легенд Средиземья, описывающих с точки зрения Валар и эльфов историю Арды с момента её сотворения. Если во «Властелине колец» действия разворачиваются в конце Третьей — начале Четвёртой эпохи Средиземья, то «Сильмариллион» рассказывает о более ранних событиях.

Книга не имеет единой сюжетной линии, и состоит из нескольких больших частей:

Айнулиндалэ (музыка Айнур) — сказания о сотворении мира, которое произошло с помощью Музыки, созданной Айнурами по велению Эру Илуватара. Сказание представлено как легенда о сотворении Арды, принадлежащая перу эльфа Румила из Тириона и созданное в Первую эпоху. Сотворение мира описывается как воплощение музыкальных тем, предложенных Илуватаром Айнурам. Всего было три темы: Первая тема создала Землю (Эа), вторая определила очертания Земли (Арды), а в третьей теме Айнуры участия не принимали — в этой теме Илуватар лично сотворил Детей Илуватара и определил их судьбу.

Валаквента — вторая часть «Сильмариллиона». Эта часть представляет собой собрание характеристик основных божественных существ Эа: Валар, Майар и Врагов. Перечисляются Валар «в порядке их могущества», описываются их родственные связи, выполняемые ими функции, перечисляются и характеризуются Майар, в том числе Мелиан и маги.

Квента Сильмариллион - история Сильмариллов - волшебных драгоценных камней, сотворённых Феанором и похищенных Мелькором. В этой книге также описана и вся история Первой эпохи Средиземья.

Акаллабет — четвёртая часть книги, повесть об основании и падении Нуменора. По одной из версий толкиновских легенд, написана Элендилом. Эта часть повествует об истории острова Нуменор. Здесь говорится о славной истории расы людей, их достижениях и подвигах, а также о падении Нуменора, который был разрушен Эру Илуватаром из-за того, что люди вознамерились силой проложить себе дорогу в Валинор. После этого Валинор был сокрыт, и дорогу туда могли найти лишь эльфы.

О Кольцах Власти и Третьей Эпохе - в этой части описывается история появления в Средиземье Колец Власти. Здесь можно узнать, что Кольца Власти были выкованы великим эльфом-кузнецом народа нолдор Келебримбором, но при этом ему помогал Саурон, из-за чего он и смог выковать Кольцо Всевластья. Также выясняется, что три эльфийских кольца остались им нетронутыми, а также указаны их владельцы: кольцо Воздуха (Вилья) было даровано Гил-Галаду (позже его получил Элронд), кольцо Воды (Нэнья) получила Владычица Галадриэль, а кольцо Огня (Нарья) — Кирдан Корабел. (Последний отдал своё кольцо Гэндальфу.) Далее в этой части кратко пересказываются события, описанные во «Властелине Колец».