Начинал карьеру в составе квартета братьев Уильямсов, которые помогли Бингу Кросби записать в 1944 году один из его крупнейших хитов, «Swinging on a Star». C 1952 года выступает сольно. В 1956 году впервые попал в верхнюю десятку Billboard Hot 100 с вокальной версией инструментальной композиции «Canadian Sunset», а в следующем году отметился уже на первом месте с «Butterfly», исполненной в манере, напоминающей Элвиса Пресли.

В 1960-е годы Уильямс стал вести собственное телешоу и переключился с молодёжного рынка синглов на рынок альбомов, ориентированный на более взрослую аудиторию. Пиком его карьеры стал 1971 год, когда он записал песню «Speak Softly Love» для оскароносного фильма «Крёстный отец» и выпустил ещё один шлягер, остающийся его визитной карточкой, — «Where Do I Begin».

В 1975 году Уильямс развёлся со своей супругой — певицей Клодин Лонже. В 1991 году женился на Дебби Мейер. Содержал собственный музыкальный театр — «Moon River» в городе Брэнсон (Миссури) (англ.)русск..

Скончался после продолжительной борьбы с раком мочевого пузыря 25 сентября 2012 года в 84-летнем возрасте.