Остап остается в Москве. Часто появляется на литературных вечерах, где встречается со своими старыми знакомыми, земляками. К этому времени относится его знаменитая фраза: «Мой папа был турецкоподданным». Остап повторял ее часто, когда заходила речь о воинской обязанности (дети иностранных граждан освобождались от воинской повинности). Эта фраза в 20-х годах была крылатой в Одессе. Илья Ильф и Евгений Петров, чтобы подчеркнуть отношение Остапа Шора к уголовному розыску, вводят в роман ряд намеков и конкретных фраз Бендера, показывающих его профессиональным сыщиком.
А в главе «И др.» Остап Бендер и вовсе составляет протокол с места происшествия. Причем самым профессиональным образом. «Оба тела лежат ногами к юго-востоку, а головами к северо-западу. На теле рваные раны, нанесенные, по-видимому, каким-то тупым орудием». А вот самая известная фраза о ключе от квартиры, где деньги лежат, принадлежала вовсе не Шору, а одному одесскому респектабельному бильярдисту.
После выхода «12 стульев» и «Золотого теленка» Остап Шор разыскал авторов книг. Каково же было удивление Ильфа и Петрова, когда Остап потребовал в довольно наглой форме заплатить ему крупную сумму за списанного с него Бендера. Писатели стали оправдываться. Остап рассмеялся. Друзья засиделись до утра.
По всей видимости, Шор рассказывал о своей жизни. Именно поэтому в знаменитых «Записных книжках» Ильфа появилась запись: «Остап мог бы и сейчас еще пройти всю страну, давая концерты граммофонных пластинок. И очень хорошо бы жил, имел бы жену и любовницу. Все это должно кончиться совершенно неожиданно — пожаром граммофона».
Остап Шор дал новый толчок для соавторов. Ильф и Петров задумали третью часть о похождениях Остапа Бендера, где Бендер был бы прообразом сегодняшних диджеев. Но замыслу не суждено было воплотиться в жизнь. Ильф надолго слег с туберкулезом.
В 1934 году Остап уехал в Челябинск помогать своему другу, директору тракторного завода. В 1937 году директора арестовывают сотрудники НКВД. Остап затевает с ними драку, что было, без сомнения, смелым поступком. Его арестовали, но он опять совершил нечто выдающееся. Выпрыгнул из окна кабинета следователя и сбежал. Но еще далеко до этих событий он сформулировал некоторые свои взгляды, которыми Ильф и Петров наделили и любимого героя. В частности, и для литературного персонажа, и для его прототипа характерна такая фраза: «У меня с советской властью возникли за последний год серьезные разногласия. Она хочет строить социализм, а я нет».
Во время Великой Отечественной войны Остап тщетно пытается пробиться к родственникам в блокадный Ленинград. В конце концов из-за всех мучений у него развилась экзема, которая переросла со временем в рак кожи. Больного Остапа эвакуируют в Ташкент. В эвакуации он работает проводником на товарных поездах.