رحیمی 35 سال سابقه فعالیت در قوه قضاییه در مشاغل مختلف قضایی را داراست، وی در هشتمین دوره مجلس شورای اسلامی نیز به عنوان نماینده مردم شهرستان ملایر به این مجلس راه یافت، و عضو کمیسیون قضایی و حقوقی مجلس، سخنگوی این کمیسیون و عضو هیئت تطبیق و بررسی مصوبات دولت با قوانین بود.