В 1975 году окончил юридический факультет Ленинградского государственного университета. В 1975-78 годах был аспирантом кафедры уголовного права этого университета. В 1978 году получил ученую степень кандидата юридических наук. В 1988 году защитил докторскую диссертацию в Ленинградском государственном университете, став самым молодым доктором наук в области уголовного права на постсоветском пространстве. С 1996 года — профессор. В 1982-1992 годах работал начальником управления по законодательству министерства юстиции и был членом коллегии. С 1992 года по 1996 год работал директором Научно-исследовательского института по проблемам научной экспертизы, криминалистики и криминологии. В 1996-2000 годах преподавал право в различных высших учебных заведениях, а также был проректором по научной части в Высшем дипломатическом колледже (в настоящее время Евразийский университет). 18 апреля 2004 года избран академиком российской Академии проблем безопасности, обороны и правопорядка. По данным Forbes, формально Рагимов пошел в бизнес только в 1999 году, уже после назначения Владимира Путина премьер-министром РФ. Оставил пост проректора Высшего дипломатического колледжа в Баку и возглавил юридический отдел «Лукойл — Азербайджан». Однако сам Рагимов говорит в интервью, что основной его бизнес связан с недвижимостью в России.