Параллельно с этими дискуссиями в декабре 1937 года Толкин начал «нового Хоббита». После нескольких неудачных попыток история начала набирать обороты, из простого продолжения «Хоббита» превратившись скорее в продолжение неопубликованного «Сильмариллиона». Замысел первой главы возник сразу в готовом виде, хотя причины исчезновения Бильбо, идея о важности Кольца Всевластья и название романа прояснились только к весне 1938 года. Сначала Толкин хотел написать ещё один рассказ, в котором Бильбо, истратив все свои сокровища, пустился в новые приключения, но, вспомнив кольцо и его силу, решил вместо этого написать о нём. В начале главным героем был Бильбо, но потом автор решил, что история слишком серьёзная для такого комичного и весёлого персонажа. Толкин рассматривал возможность отправить в путешествие сына Бильбо, но возникали вопросы: где была его жена? Как Бильбо отпустил сына в столь опасное путешествие? В итоге Толкин решил продолжить традицию древнегреческих легенд, в которых артефакт, обладающий магической силой, получает племянник главного героя. Так возник хоббит Фродо Бэггинс.

Будучи перфекционистом, Толкин писал медленно. Его литературная работа часто прерывалась академическими обязанностями, в частности, Толкин должен был экзаменовать студентов (даже первая фраза «Хоббита» — англ. «In a hole in the ground there lived a Hobbit» — была написана на чистой странице экзаменационной работы одного из студентов). В течение большей части 1943 года Толкин не работал над текстом, но продолжил работу в апреле 1944. Главы из романа Толкин посылал своему сыну Кристоферу, служившему в Африке в английских ВВС, и Клайву Льюису. В 1948 году история была завершена, но до 1949 года продолжалось редактирование ранних частей «Властелина колец».