কলেজটি প্রতিষ্ঠিত হয় ১৯৬৯ সালে ১৬ই জুলাই এবং ২রা আগষ্ট যশোর বোর্ডের অনুমোদন লাভ করে। কলেজটির প্রতিষ্ঠাকল্পে জনাব রফিউদ্দীন সরদার, হাজী মকবুল হোসেন, নূর মোহাম্মদ সরদার এবং মাসুদুন্নবী চৌধুরী ওরফে পান্নূ মিয়া, শামসুর রহমান, আসাদুজ্জামান কাটু মিয়া প্রমুখ কয়েকজন উৎসাহী কর্মী যথেষ্ট পরিশ্রম ও ত্যাগ স্বীকার করেন। কলেজটির জন্য স্থানীয় ব্যবসায়ী জনাব খোন্দকার মোশাররফ হোসেন অনেক অবদান রাখেন। সেই জন্য তাঁর নামেই কলেজটির নামকরণ হয় ‘খোন্দকার মোশাররফ হোসেন কলেজ’। ১৯৭৫ সালে কলেজটি রাজশাহী বিশ্ববিদ্যালয় হতে স্নাতক পর্যায়ে অনুমোদন লাভ করে। ১৯৮৩ সালে তৎকালীন পৌর চেয়ারম্যান জনাব এম এ ওয়াদুদ হুলা মিয়া কলেজটি সরকারী করনে মাহামান্য রাষ্ট্রপতি জেনারেল হুসাইন মোহাম্মদ এরশাদকে অনুরোধ করেন এবং পরবর্তীতে কলেজটি সরকারী করণ হয়। বর্তমানে কলেজটি অনার্স কোর্স চালু হয়েছে।