Наименованието на базиликата „Сан Пиетро ин Винколи (от итал. "in vincoli" - "окови") е свързано с легендата за Евдоксия – съпругата на императора на Остготската империя Теодосий (Теодорих) II. По време на поклонничество в Ерусалим според легендата тя намерила оковите (веригите) с които бил окован Апостол Петър. Веригите останали в Константинопол, но няколко брънки от тях били отнесени в Рим от Евдоксия, която на свой ред е подарила на понтифика. И тогава се случило чудото. Когато папа Лъв Велики държал брънките от веригата в ръцете си, те изведнъж се съединили с другите брънки от оковите, които били почитани в Рим като светини, за които се смятало, че принадлежат именно на тези вериги, с които е бил окован Апостол Петър, Христовия ученик! Базиликата на Сан Пиетро ин Винколи получила своето освещение по времето на папа Сикст III, предшественик на Лъв Велики (432-440 г.). На мястото на базиликата преди е имало друга църква с друго название. По време на разкопки са открити находки датирани към III столетие, включени впоследствие в църквата през V век. 

   Най-сериозните реставрационни дела по базиликата били предприети по времето на кардинал Франческо делла Ровере (по късно папа Сикст IV) и след това при кардинал Джулиано делла Ровере, който през декември 1471 година дал името на църквата – „Сан Пиетро ин Винколи”. Реставрацията се организирала от архитекта Бачио Понтели и приключила около 1480 година.

Тук през 1540 г. била изградена гробницата на Юлий II. По договор подписан между гениалния Микеланджело и папата през 1513 г. е трябвало да бъдат изработени 28 фигури и 3 релефа. Но в крайна сметка този замисъл не се осъществил – сега в базиликата могат да бъдат видени всичко на всичко 3 скулптури, една от които е на Мойсей. Останките на Юлий II са изчезнали по време на разграбването на Рим в 1527 година.