По решению суда Григоренко был признан душевнобольным, лишён воинских званий и 14 августа 1964 годаэтапирован в Ленинградскую специальную психиатрическую больницу. Весной 1965 года, вскоре после отставки Н. С. Хрущёва, Григоренко был освобождён, но не восстановлен в воинском звании. Чтобы прокормить семью, был вынужден работать швейцаром, грузчиком в овощном магазине

Написал известную самиздатскую работу о первых месяцах войны и ответственности Сталина за трагедию поражений того времени (в связи с обсуждением книги историка А. М. Некрича «22 июня 1941 года»). Отмечал, что

накануне войны войска западных приграничных военных округов, незначительно уступая по численности вероятной армии вторжения противника, в военно-техническом отношении были значительно сильнее её. Но — квалифицированные командные кадры были изъяты из армии почти полностью и подвергнуты репрессиям различной степени. На их место пришли в большинстве люди малоквалифицированные и просто в военном отношении неграмотные, зачастую — абсолютные бездарности. Авторитет командного состава в связи с этим, а также вследствие психоза борьбы с «врагами народа», резко снизился, дисциплина пришла в упадок.

В 1967 встречался со студентами МГУ, в неофициальном порядке читал им лекции по истории Великой Отечественной войны. Резко осудил вторжение советских войск в Чехословакию в 1968.

После первого опыта создания «Союза борьбы за возрождение ленинизма» разочаровался в подпольных методах борьбы, был сторонником активной и гласной общественной деятельности диссидентов, заявляя:

Власть, родившаяся в подполье и вышедшая из него, любит в темноте творить свои чёрные дела. Мы же стремимся вынести их на свет, облучить их светом правды. Власть, стремясь уйти из-под света, изображает наши действия, как нелегальные, подпольные, пытается загнать нас в подполье. Но мы твёрдо знаем, что В ПОДПОЛЬЕ МОЖНО ВСТРЕТИТЬ ТОЛЬКО КРЫС

(эта фраза стала названием его книги воспоминаний ).

Решительно поддержал национальное движение крымско-татарского народа, способствовал его активизации. 17 марта 1967 выступил перед представителями крымско-татарской общины, проанализировав причины их неудач в борьбе за возвращение на родину в Крым:

Нам думается, что главная причина этого заключается в том, что вы недооцениваете своего врага. Вы думаете, что вам приходится общаться только с честными людьми. А это не так. То, что сделано с вашим народом, делал не один Сталин. И его соучастники не только живы, но и занимают ответственные посты. А вы обращаетесь к руководству партии и правительства со смиренными письменными просьбами. А так как просят лишь о том, на что безусловного права не имеется, то ваш вопрос преподносится тем, кто его решает, как вопрос сомнительный, спорный. Ваше дело обволакивается не имеющими к нему отношения суждениями. Чтобы покончить с этим ненормальным положением, вам надо твёрдо усвоить — то, что положено по праву, не просят, а требуют! Начинайте требовать. И требуйте не части, не кусочка, а всего, что у вас было незаконно отнято — восстановления Крымской Автономной Советской Социалистической Республики!.

7 мая 1969 во время поездки в Ташкент на процесс крымских татар был арестован и помещён в специальную психиатрическую больницу. Экспертиза в Ташкенте закончилась выводом: «Признаков психического заболевания не проявляет в настоящее время, как не проявил их в период совершения инкриминируемых ему преступлений. Вменяем. В стационарном лечении не нуждается». Новая экспертиза, состоявшаяся в Москве в Институте им. Сербского, привела к заключению о том, что он «страдает психическим заболеванием в форме патологического (паранойяльного) развития личности с наличием идей реформаторства». Был вновь помещён в психиатрическую больницу на принудительное лечение, находился в Черняховской специальной психиатрической больнице.

13 мая 1970 г. к Генеральному прокурору СССР Р. А. Руденко с «Жалобой в порядке надзора» на определение Ташкентского горсуда и Верховного суда УзССР по делу Григоренко обратились M.A.Леонтович, А. Д. Сахаров, В. Ф. Турчин и В. Н. Чалидзе, однако не имеется сведений о том что прокурор как-то отреагировал на это письмо.

В 1971 в самиздате появилась заочная экспертиза, доказывающая факт психического здоровья Григоренко (впоследствии этот вывод подтверждён видными психиатрами США). Автором экспертизы был молодой врач-психиатр Семён Глузман, в 1972 году арестованный и осуждённый на 7 лет заключения и 3 года ссылки (формально — по другому обвинению).

В 1974 под давлением широкой международной кампании протестов освобождён, продолжил диссидентскую деятельность. В 1976 стал членомМосковской Хельсинкской группы, был одним из членов-основателей Украинской Хельсинкской группы, затем её представителем в Москве.17 декабря 1976 года, совместно с другими правозащитниками, Григоренко подписал открытое письмо в защитуВладимира Буковского от клеветы на страницах Литературной Газеты

В конце 1977 выехал с женой в США для операции и свидания с ранее эмигрировавшим сыном. Через несколько месяцев был лишён гражданства и тем самым права возвращения в СССР. В последующие годы он продолжал принимать активное участие в общественной жизни, а также написал книгу воспоминаний.

Во время эмиграции на предложение работы в качестве преподавателя в военной академии Вест-Пойнт ответил отказом:

«Я не могу преподавать своему врагу: я советский — бывший советский — генерал».

Находясь в США, Григоренко обратился с письменным заявлением к руководству Американской психиатрической ассоциации (АПА), в котором просил освидетельствовать его психическое состояние. Многочасовое освидетельствование Григоренко, вопросы врачей и ответы испытуемого были зафиксированы видеокамерой; авторитетные психиатры США не обнаружили у Григоренко каких бы то ни было следов психической болезни.

Посмертная судебно-психиатрическая экспертиза в 1991 году признала заключение о невменяемости Григоренко необоснованным

В 1997 году президент России Б. Н. Ельцин подписал указ «Об увековечении памяти Григоренко П. Г.». Бывший помощник президента Михаил Краснов позднее вспоминал: «Я помню, с каким трудом приходилось пробивать указ о 100-летии юбилея генерала, правозащитника Григоренко, и как в правительстве чиновники, куда послали согласовывать этот проект указа, ответили, что генерал Григоренко так же разрушал армию, как это делает генерал Рохлин» (на самом деле, речь шла о 90-летнем юбилее).

17 октября 1997 года президент Украины Л. Д. Кучма издал указ о награждении Петра Григорьевича Григоренко орденом «За мужество» первой степени (посмертно) «за мужество и самопожертвование, за участие в правозащитном движении». В Киеве именем Петра Григоренко назван проспект, во Львове — площадь.

Имя генерала Григоренко пользуется глубоким уважением в среде крымских татар. 17 мая 1999 года в центреСимферополя на Советской площади по инициативе крымско-татарского меджлиса без разрешения городских властей был торжественно открыт памятник генералу Григоренко. Бронзовый бюст на постаменте изготовил и оплатил внучатый племянник генерала Александр Григоренко. Позднее статус памятника был легитимирован, более того, в 2004 году Симферопольский горсовет принял решение переименовать территорию вокруг бюста в сквер имени Григоренко