অধ্যাপক আলী আশরাফ ছাত্রাবস্থায় রাজনীতি শুরু করেন। তিনি উনসত্তরের গণঅভ্যুত্থান ও একাত্তরের মুক্তিযুদ্ধে সক্রিয় অংশ নেন। সত্তরের নির্বাচনে স্বতন্ত্র প্রার্থী হিসেবে প্রথম নির্বাচন করেন। স্বাধীনতার পর ১৯৭৩ সালের প্রথম জাতীয় সংসদ নির্বাচনে স্বতন্ত্র প্রার্থী হয়ে ফের নির্বাচন করেন। সেই নির্বাচনে আওয়ামী লীগ প্রার্থী হাজি রমিজ উদ্দিনকে পরাজিত করে প্রথমবার সংসদ সদস্য হন।

এরপর বলা চলে সবক’টি নির্বাচনেই তিনি প্রার্থী হন। শুধু বিতর্কিত ১৯৮৮ ও ১৯৯৬ সালের ১৫ ফেব্রুয়ারির নির্বাচন ছাড়া। ২০১৪ সালের ৫ জানুয়ারির নির্বাচনে বিনা প্রতিদ্বন্দ্বিতায় আওয়ামী লীগের প্রার্থী হয়ে নির্বাচিত হন।

১৯৭৩ পরবর্তী সময়ে সংসদ সদস্য পদ থেকে ছিটকে পড়লেও আদর্শের আওয়ামী লীগ ছাড়েননি আলী আশরাফ। তিনি উত্তর জেলা আওয়ামী লীগের প্রতিষ্ঠাতা সভাপতি ছিলেন। কেন্দ্রীয় আওয়ামী লীগের অর্থ ও পরিকল্পনা সম্পাদকও ছিলেন। ২০০০ সালে হয়েছিলেন ডেপুটি স্পিকার।

কুমিল্লা চান্দিনা উপজেলার প্রত্যন্ত অঞ্চল গল্লাই গ্রামে ১৯৪৭ সালের ১৭ নভেম্বর এক সম্ভ্রান্ত মুসলিম পরিবারে জন্মগ্রহণ করেন মো. আলী আশরাফ। পিতা মরহুম মাওলানা ইসমাইল হোসেন মুন্সী ছিলেন একজন প্রখ্যাত ইসলামি চিন্তাবিদ ও আধ্যাত্মিক সাধক। মা মরহুমা শামসুন্নাহার বেগম। শিশুকালেই পিতৃহীন হন আলী আশরাফ।

দোল্লাই-নবাবপুর উচ্চ বিদ্যালয়ে থেকে ১৯৬২ সালে মেট্রিকুলেশন পাস করেন। তখন বঙ্গবন্ধুর সঙ্গে সাক্ষাৎ হয় এবং বঙ্গবন্ধুর কথায় ছাত্রলীগের রাজনীতিতে জড়িয়ে যান। কুমিল্লা ভিক্টোরিয়া কলেজে অনার্সে পড়ার সময় ঢাকায় ছাত্রলীগের কনফারেন্সে আসেন। বঙ্গবন্ধু তাকে দেখে চিনে ফেলেন এবং বলেন, ‘এই ছেলে, তোমার বাড়ি কুমিল্লা না? এ কথা শুনে আলী আশরাফ বিস্মিত হন। বঙ্গবন্ধুর প্রতি তার অগাধ ভালোবাসা আরও গাঢ় হয়ে যায়।

১৯৬৫ সালে ঢাকা বিশ্ববিদ্যালয়ে অর্থনীতিতে ভর্তি হন। ঢাকা বিশ্ববিদ্যালয়ে বিভিন্ন আন্দোলন ও সংগ্রামে সক্রিয় অংশগ্রহণ করেন। ১৯৬৮ সালে পড়ালেখা সম্পন্ন করে ত্যাগ করেন ঢাকা বিশ্ববিদ্যালয়।

১৯৬৮ সালে জীবনের প্রথম কর্মজীবনে যোগদান করেন ব্যুরো অব ইকনমিক রিসার্স এর গবেষণা কর্মকর্তা হিসেবে। কিছুদিন বাংলাদেশ প্রকৌশল বিশ্ববিদ্যালয় (বুয়েট) এ খণ্ডকালীন শিক্ষক হিসেবেও কাজ করেন। ছিলেন মুজিবনগর সরকারের পররাষ্ট্র মন্ত্রণালয়ের বহিঃ প্রচার বিভাগের পরিচালক। পরবর্তী সময়ে ফরিদপুরের জেলা প্রশাসকের দায়িত্বও পালন করেন। বিশ্বব্যাংক, আইপিও এবং ওআইসি পার্লামেন্টারি ইউনিয়নের কার্যকরী কমিটিতে সংসদ সদস্য হিসেবে তিনি দেশের প্রতিনিধিত্ব করেছেন।

তিনি ১৯৮২ সাল থেকে ২০১২ সাল পর্যন্ত ৩০ বছর এফবিবিসিআই নির্বাচনী বোর্ডের চেয়ারম্যান, বিজিএমইএর দুই বার নির্বাচনী বোর্ডের চেয়ারম্যান, বাংলাদেশ কোল্ড স্টোরেজ অ্যাসোসিয়েশনের সদস্য, ঢাকা চেম্বার অব কমার্স অ্যান্ড ইন্ডাস্ট্রিজের দীর্ঘ ১২ বছরের পরিচালক, বাংলাদেশ অর্থনীতি সমিতির সাবেক ভারপ্রাপ্ত সভাপতি ও আজীবন সদস্য, বাংলাদেশ রেড ক্রিসেন্ট সোসাইটির আজীবন সদস্য, ঢাকা কাব লিমিটেডের আজীবন সদস্য, ঢাকা বিশ্ববিদ্যালয় অ্যালামনাই অ্যাসোসিয়েশনের আজীবন সদস্য ছিলেন।