С 1975 года – сотрудник КГБ СССР (Управление КГБ СССР по Ленинграду и Ленинградской области, Первое Главное управление КГБ СССР (разведка).

С 1991 года – сотрудник Службы внешней разведки России (в органах внешней разведки прошел путь до первого заместителя начальника управления).

1998–1999 годы – заместитель директора ФСБ, начальник департамента анализа, прогноза и стратегического планирования ФСБ.

1999–2001 годы – секретарь Совета безопасности Российской Федерации (постоянный член Совета безопасности Российской Федерации).

2001–2007 годы – министр обороны Российской Федерации.

2005–2007 годы – заместитель председателя Правительства Российской Федерации – министр обороны Российской Федерации (с 2006 года – председатель Военно-промышленной комиссии при Правительстве Российской Федерации).

2007–2008 годы – первый заместитель председателя Правительства Российской Федерации.

2008–2011 годы – заместитель председателя Правительства Российской Федерации.

2011–2016 годы – руководитель Администрации Президента Российской Федерации.

2016–н. в. – специальный представитель Президента Российской Федерации по вопросам природоохранной деятельности, экологии и транспорта.