Сад начал существовать с XIV века, название получил в честь Тайницкой башни. В верхней части сада находится Большой Кремлёвский сквер. На территории произрастает около двух тысяч видов многолетних растений, высажены хвойные и яблоневые деревья, сирень.