شهید علی رحیمی در سال 1343 در شهر سرایان از توابع شهرستان فردوس در یک خانواده زحمتکش، کشاورز، مستضعف و مذهبی دیده به جهان گشود. خانواده ی وی به علت علاقه زیاد به اهل بیت و ائمه اطهار نام علی را برای او انتخاب نمودند.
علی دوران کودکی خود را در آغوش و دامن گرم پدر و مادر مذهبی و مومن سپری کرد. در سن 7 سالگی پا به عرصه علم و دانش نهاد و تحصیلات ابتدایی خود را شروع نمود. دوران ابتدایی و راهنمایی را با موفقیت به رغم همه مشکلات اقتصادی به پایان رسانید و وارد دبیرستان گردید. این دوره از تحصیلات ایشان مصادف شد با آغاز مبارزات اسلامی امت مسلمان ایران علیه حکومت ظالمانه طاغوت که می توان آن را به چند دوره مهم فرهنگی، سیاسی، اجتماعی و مبارزاتی تقسیم کرد.
شهید رحیمی با شرکت در هیئت های مذهبی و مداحی و نوحه خوانی الگوی تمام و کامل برای جوانان هم سن و سال خود بود. همیشه در شب های چهارشنبه در جلسه دوره ی قرآن، دعای توسل و شب های جمعه در جلسه دعای کمیل شرکت می نمود. اکثر اوقات مناجات شعبانیه و زیارت عاشورا را قرائت می کرد و خود از مداحان و نوحه سرایان اهل بیت بود.
شهید علی رحیمی در جریان پیروزی انقلاب به علت علاقه زیاد به امام شبانه اعلامیه های ایشان را پخش می نمودند. پس از پیروزی انقلاب اسلامی ایران به رهبری حضرت امام خمینی(ره) فعالیت سیاسی خویش را با حضور در اتحادیه انجمن اسلامی دانش آموزان و عضویت در بسیج مستضعفین آغاز کرد. وی از اعضای فعال انجمن اسلامی دانش آموزان بود. با شکل گیری بسیج به فرمان امام، ایشان به عضویت رسمی این نهاد مقدس مردمی درآمد. با حضور در مراسم بسیج و نگهبانی در آن که از مقتضیات زمان بود باعث جذب و تشویق عده کثیری از دوستان خود به بسیچ گردید. از این جا بود که علاوه بر جدیت در کسب علم و دانش پا به میدان مبارزه و دفاع از کشور اسلامی خود نهاد.
بعد از حمله ناجوانمردانه عراق به ایران احساس وظیقه نمود و جزء اولین نیروهای اعزامی به مرزهای اسلامی ایران برای دفاع از اسلام و ناموس و کشور به مناطق جنگی غرب بود. ایشان بهترین دوران زندگی خود را در مناطق جنگی با تحمل سختی های فراوان سپری نمودند.
در سال 60 برای اولین بار پس از طی آموزش های مقدماتی، نظامی و عقیدتی در تربت جام به عنوان بسیجی با مسئولیت تک تیرانداز به جبهه گیلان غرب در تاریخ 60/5/12 اعزام گردید. در سال 1361 مجددا به صورت داوطلب با مسئولیت آر پی چی زن به جبهه های جنوب کشور اسلامی در جبهه شرهانی اعزام شدند و در تیپ امام صادق گردان صبار سازماندهی شد و در عملیات های والفجر مقدماتی، والفجر یک شرکت کردند.
در سال 1363 بعد از تمام شدن دوره ی دبیرستان از آن جا که سپاه پاسداران را تنها ملجاء خود می دانست به صورت داوطلب، خدمت سربازی را با عنوان پاسدار وظیفه در سپاه شروع کرد و در 62/3/10 آموزش 45 روزه ویژه را در پادگان بیرجند به پایان رساند و پس از آن به منطقه شمال غرب کشور برای مبارزه با اشرار و ضد انقلابیون کومله و دمکرات اعزام گردید و در لشکر ویژه شهدا پس از سازماندهی خدمت مقدس خود را شروع کرد.
شهید علی رحیمی در این دوره دو ساله در ده ها عملیات پاکسازی روستاهای منطقه کردستان و آذربایجان از جمله روستاهای اطراف مهاباد، سردشت، بوکان، میاندوآب، پیرانشهر، مریوان، سقز و سلماس و عملیات نصر، فتح یک، فتح دو، والفجر 4 شرکت کرد و هرگز خسته نمی شد و ایشان به عنوان کمک تیربارچی و معاونت دسته و مسئولیت دسته در گردان حضرت رسول(ص) از لشکر ویژه شهدا خدمت می کردند.
پس از طی دوره سربازی بلافاصله در آزمون تربیت معلم شرکت کردند و جزء پذیرفته شدگان تربیت معلم شهید مفتح فردوس در رشته آموزش ابتدایی در سال 1364 بودند ولی از آن جا که شهید علی رحیمی بارها در جبهه های جنگ حضور داشتند و صفا و معنویت میدان های جنگ را دیده بودند پس از پذیرفته شدن در تربیت معلم نتوانست به خود بقبولاند که تنها به کسب علم و دانش بپردازد و بلافاصله از تربیت معلم در سال 1364 به همراهی تعداد زیادی از برادران دانشجو به جبهه اعزام شدند.
شهید قبل از اعزام با نوحه خوانی در نمازخانه تربیت معلم شهید مفتح فردوس عده زیادی را جذب اعزام کرد و این بار با مسئولیت معاونت گروهان الحدید وظیفه الهی خویش را انجام می داد.
شهید علی رحیمی در 64/11/21 در عملیات والفجر هشت که منجر به آزادی فاو گردید در جزیره بوارین به شهادت رسید و مفقود گردید.
ایشان در وصیت نامه اش خطاب به پدر و مادر می نویسد اگر جنازه ام به دستتان نرسید ناراحت نباشید زیرا خودم بهتر می خواهم. گویا از این موضوع خبر داشته است. سرانجام پس از سال ها انتظار پدر و مادر پیکر ایشان در تاریخ 76/4/17 همزمان با سالروز رحلت نبی اکرم(ص) و شهادت امام حسن(ع) و امام رضا(ع) به دوش امت قدرشناس سرایان تشییع شد.