Був закладений за проектом архітектора А.В.Беретті в 1839-1852 р. із західного боку будівлі Київського університету. Виконання цих робіт було доручене зав. кафедрою ботаніки університету проф. Р.Е.Траутфеттеру, який був з 1838 р. директором саду. Траутфеттер 22 травня 1839 р. зробив перші посадки майбутньої всесвітньо відомої колекції. В кінці 1841 р. сад отримав статус постійного. З 1908 по 1913 рр. на його території розміщувався і зоологічний парк. З 1914 по 1935 рр. керував садом акад. А.В.Фомін. Уряд Радянської України високо оцінив багатолітню науково-дослідну і організаційну діяльність А.В.Фоміна: після смерті вченого сад був названий його ім'ям. У 1960 р. ботанічний сад ім. Акад. А.В.Фоміна був оголошений пам'ятником садово-паркового мистецтва України, а в 1983 р. віднесений до категорії державних ботанічних садів.