Иван Шишкин родился в купеческой семье в небольшом городе Елабуге Вятской губернии.
Отец художника, Иван Васильевич, был весьма уважаемым в городе человеком: несколько лет подряд избирался городским главой, провел в Елабуге деревянный водопровод на собственные средства и даже создал первую книгу об истории города.
Будучи человеком разносторонних увлечений, он мечтал дать сыну хорошее образование и в 12 лет отправил его в Первую казанскую гимназию.
Однако молодой Шишкин уже тогда интересовался искусством больше, чем точными науками. В гимназии ему было скучно и, не закончив обучение, он вернулся в родительский дом со словами, что чиновником делаться не хочет. Тогда же начали формироваться его взгляды на искусство и призвание художника, которые он сохранил на протяжении всей жизни.
Мать Шишкина, Дарью Александровну, расстраивала неспособность сына к учебе и домашним делам. Она не одобряла его увлечения рисованием и называла это занятие «пачкотней бумаги». Отец хоть и симпатизировал страсти Ивана к прекрасному, также не разделял его отстраненности от жизненных проблем. Шишкину приходилось прятаться от родных и рисовать при свечах по ночам.
Всерьез о профессии художника Шишкин задумался впервые, когда в Елабугу приехали московские живописцы, чтобы расписать иконостас местной церкви. Они и рассказали ему о Московском училище живописи и ваяния — и тогда Шишкин твердо решил следовать за своей мечтой. С трудом, но он уговорил отца позволить ему уехать, и тот отправил художника в Москву, надеясь, что из сына однажды вырастет второй Карл Брюллов.
В 1852 году Шишкин поступил в Московское училище живописи и ваяния, где обучался под руководством художника-портретиста Аполлона Мокрицкого. Тогда в своих еще слабых работах он мечтал приблизиться к природе настолько, насколько возможно, и постоянно зарисовывал интересные ему виды и детали пейзажа.
Не останавливаясь на достигнутом, в 1856 году Шишкин поступил в Императорскую Академию художеств в Санкт-Петербурге, где быстро зарекомендовал себя как блестящий студент с выдающимися способностями.
В 1860 году Шишкин окончил академию с большой золотой медалью и отправился за границу.
После шести лет заграничных путешествий Шишкин вернулся в Россию. Первое время он жил в Петербурге, где встречался со старыми товарищами по академии, которые организовали к тому моменту Санкт-Петербургскую артель художников (позднее — Товарищество передвижных художественных выставок).
В 1868 году Шишкин впервые женился. Его супругой стала сестра друга, пейзажиста Федора Васильева — Евгения. Художник любил ее и родившихся в браке детей, не мог надолго уезжать от них, так как считал, что без него дома обязательно произойдет что-то ужасное. Шишкин превратился в нежного отца, чуткого мужа и радушного хозяина, в доме которого постоянно гостили приятели.
В 1870-х годах Шишкин еще сильнее сблизился с передвижниками, став одним из учредителей Товарищества передвижных художественных выставок. Его друзьями были Константин Савицкий, Архип Куинжди и Иван Крамской.
Однако вторая половина этого десятилетия стала тяжелым временем в жизни Шишкина. В 1874 году умерла его жена, отчего он замкнулся, его характер — и работоспособность — стали портиться из-за частых запоев. Спасла его привычка к труду: из-за своего самолюбия Шишкин не мог позволить себе упустить то место, которое он уже прочно занимал в художественных кругах, и продолжал писать картины, которые становились все популярнее благодаря передвижным выставкам.
А в 1880-х Шишкин женился на красавице Ольге Лагоде, своей ученице. Вторая жена его тоже скончалась, буквально через год после свадьбы — и художник снова ушел с головой в работу, которая позволяла ему забыться. Современников картины Шишкина поражали тем, как легко и свободно он экспериментировал, добиваясь при этом потрясающей реалистичности.
В 1894 году Иван Иванович начал преподавать в Высшем художественном училище при Академии художеств. Ученики безмерно уважали Шишкина, несмотря на то, что он исповедовал иные эстетические принципы, придерживался иной художественной системы. Молодежь вдохновлялась его мастерством, а сам он в тот период «первым и лучшим» художником называл Валентина Серова.
В марте 1898 года Шишкина не стало. Он умер за мольбертом, во время работы над новой картиной. Художника похоронили на Смоленском православном кладбище в Санкт-Петербурге, но в 1950 году его прах перенесли вместе с памятником на Тихвинское кладбище Александро-Невской лавры.