Олег Марков занимал пост в администрации Петербурга еще во времена первого мэра Анатолия Собчака и первого губернатора постсоветского периода Владимира Яковлева.
С 1991 года Олег Марков был зампредседателя Комитета по внешним связям. Позже занимал должность начальника отдела Северо-Западного управления Государственного таможенного комитета.
Должность помощника президента Марков занял в мае 2008 года, а в сентябре получил пост председателя межведомственной комиссии по вопросам предоставления правительственной и специальной связи.