Среди его предков-дворян числятся немало знаменитых личностей. Самым титулованным из них был основатель рода, в начале XI века пришедший во главе трехтысячной дружины служить к Ярославу Мудрому. Он был племянником норвежского конунга — короля Хакона II. Вельяминовы были в числе претендентов на Земском соборе в 1613 году на русский престол наряду с Романовыми.

Двоюродный дед Петра Сергеевича — Иван Александрович Вельяминов — генерал, член Военного совета при Александре I. А его брат, Алексей Вельяминов, служил начальником штаба у Ермолова, во время Крымской войны командовал Кавказской Черноморской оборонительной линией. В его честь императорским указом Туапсе переименовали в форт Вельяминовский.

В марте 1943 года был арестован по обвинению «в участии в антисоветской организации „Возрождение России“», был приговорён по 58-й статье к 10 годам исправительных работ, и отправлен в пересыльный лагерь в Котласе. По словам драматурга В. С. Фрида, находившегося под следствием в лубянской тюрьме одновременно с отцом Вельяминова, 17-летний Пётр был арестован по одному делу с отцом — бывшим царским офицером.

В лагере до Петра Сергеевича дошла весть об аресте матери. Он был так потрясен известием, что вскрыл себе вены, однако юношу удалось спасти.

В 1952 году был освобождён. После освобождения из лагерей Вельяминов три года проработал в Абакане на лесосплаве.

Играть он начал в самодеятельности, где пел, читал стихи, а также исполнил свою первую роль — Максима Кошкина в «Любови Яровой».

С 1952 года — актёр драматического театра в Абакане, с 1955 года — Тюменского областного драматического театра. Работал также в театрах Дзержинска, Новочеркасска, Чебоксар, Иваново, Перми и Свердловска. Именно в Свердловском театре Петра Вельяминова увидели Валерий Усков и Владимир Краснопольский и пригласили сниматься в многосерийной ленте «Тени исчезают в полдень» в роли председателя колхоза Захара Большакова.

В 1972 году, после успеха фильма «Тени исчезают в полдень», Пётр Вельяминов переехал в Москву и пришёл в труппу театра «Современник». В «Современнике» Вельяминов сыграл в первом режиссерском спектакле Галины Волчек «Восхождение на Фудзияму» и многих других постановках. В 1974 году перешёл в Театр-студию киноактёра.

Несмотря на всенародное признание через кино, власти не забывали о прошлом актера. Так, в 1979 году его не пустили во Францию с делегацией, которая везла туда фильм «Тени исчезают в полдень».

В 1983 году актера реабилитировали.

С 1995 года Вельяминов жил и работал в Санкт-Петербурге, играл в Санкт-Петербургском академическом театре комедии имени Н. П. Акимова.

Актер много читал, любил проводить свободное время на природе, являлся попечителем строительства приюта для бездомных животных в Санкт-Петербурге. Кавалер народного ордена «Созидатель Петербурга» (2002), обладатель титула «Человек года» (2002).

Умер от пневмонии 14 июня 2009 года в Санкт-Петербурге.

17 июня 2009 года в Санкт-Петербургском театре комедии состоялось прощание с актёром, в тот же день он был похоронен на Литераторских мостках Волковского кладбища в Санкт-Петербурге.

У Петра Вельяминова осталось трое детей от двух браков, все они пошли по отцовским стопам и выбрали актерскую профессию.

Петр Вельяминов о себе:

Я — счастливый человек, потому что тяжёлая ситуация не сломила меня. До 50-х годов в лагерях не было разделения на уголовников, дезертиров и политических. Но так получилось, что рядом со мной всегда оказывался человек, который меня спасал. Когда я попал на Урале на строительство гидролизного завода в бригаду малолеток-уголовников, я уже окончательно обессилел — весил 47 килограммов. С дистрофией меня поместили в лазарет. Начальница больницы тоже была москвичкой, и, как оказалось, её дочь училась со мной в одной школе. Благодаря этой женщине я тогда и выжил. Я работал на лесосплаве, бригадиром плотников, нормировщиком. Нормировщик Кармазин, который «держал» в лагере весь механический завод, говорил мне: «Ну, чего ты пойдешь в этот джаз? Песенки петь „До свиданья, мама, не горюй“»? Занимайся этой профессией, и ты будешь сыт и пьян". Но я ушел в оркестр, который сопровождал заключенных на работу, играл на барабане. Музыкальное образование имелось — четыре года музыкальной школы по классу скрипки.