Деревянные мосты постоянно требовали к себе внимания, так как дерево гниет быстро и нуждается в постоянной замене, кроме того существовала опасность разрушения от наводнений и других природных катастроф. Мост пришлось заново восстанавливать после урагана, который серьезно повредил его в 1097 году. Также восстановительные работы проводились в 1136 году, когда в пожаре также пострадал практически весь порт. К концу двенадцатого века Лондон представлял собой процветающий город, которому приносила значительный доход торговля шерстью и полотном. Поэтому и появилась идея заменить старый деревянный мост на более долговременную каменную конструкцию, которую было намного дороже строить, но дешевле содержать. Это было время активного строительства громадных замков и соборов, поэтому вполне хватало возможностей возвести такой важный объект, как новый мост. Строительство мостом в Средневековые времена считалось проявлением огромной набожности, и Церковь часто привлекалась к этому делу. Возведением нового каменного Лондонского моста занимался Петер де Коулчерч, священник из Церкви Св. Марии, который руководил последней рекострукцией деревянного моста. Нет точных сведений, когда точно началось строительство, предположительно в 1176 году, длилось тридцать лет и завершилось только в 1209 году, спустя четыре года после смерти Питера. Вероятно, старый бревенчатый мост функционировал на протяжении строительства. Говорят, что мост был построен из шерсти, так как Генри Второй ввел налог на шерсть, дабы добыть средств на возведение, хотя вскоре средства поступили от Архиепископа Кентерберийского и Папского посла.

Мост был около 906 футов в длину и 20 в ширину, имел девятнадцать неравномерно размещенных опор, каждая из которых расположена на больших платформах или волнорезах. Ширина варьировалась на двадцать акров, от 15 до 34 футов, плюс имел место разводная конструкция по направлению к Сауфуоку. Вариации в ширине объяснялись сложностями в поиске твердой почвы для забивания свай. Строительство моста было грандиозным мероприятием, которое являлось в то же время неимоверно опасным , так как более 150 человек погибло за период его возведения. Из-за того, что не было возможности добывать камень на месте, его отовсюду привозили, что увеличивало конечный счет. В основном, в строительстве использовали Кентский известняк, камень из Дорсета и каменную породу из Суррей. Тогда Темза была намного шире, чем сейчас, зависела от приливов и отливов. Поэтому работу приходилось выполнять во время отлива. Нужно отметить, в зимние месяцы существовал риск, что работа будет уничтожена из-за наводнений и обледенений. Способ строения опор известен нам потому, что остались подробные чертежи, сделанные, когда мост демонтировали в девятнадцатом веке. Овал из коротких свай убрали первыми, используя управляемую человеком специальную машину, которая находилась на двух суднах. Тогда их наполняли булыжниками, что дало возможность водрузить технику для установки свай, которая была значительно больше по размерам, чем существующие тогда варианты. Благодаря этому они построили волнорезы, которые защищали сваи от разрушительной силы воды, путем заполнения заранее выкопанных рвов вокруг свай булыжниками. Для возведения устоев моста, каждый камень обрамляли железными скобами, а соединялись они при помощи смолы. Для строительства арок, прибегали к временным деревянным перекрытиям, пока не были завершены работы по возведению каменной арки.

В южной части моста находились две укрепленные башни, на Каменных воротах и Подъемных воротах, которые защищали город от нападений с юга. Возможно, на мосту находились и жилые дома, ведь аренда помогала покрыть издержки на его обслуживание. Кроме того, строение за защитными городскими стенами было гарантией безопасности. По обеим сторонам проездной части находились различные лавки, несколько постоялых дворов, поэтому мост можно было принять за оживленную улицу города. На самом деле, ведь дома так тесно располагались друг к другу, что гости Лондона в позднейшие века удивлялись, что им удавалось найти дорогу к мосту, даже не замечая этого. В средневековые времена в Европе было известно больше сотни населенных мостов, но Лондонский мост был гораздо длиннее остальных и считался одним из чудес средневекового мира.