क्षेत्रीय ग्रामीण बैंक को एक अध्यादेश के प्रावधानों के तहत सितंबर 1975 में RBI अधिनियम, 1976 को पारित कर दिया और स्थापित किया गया था।
यह इसलिए स्थापित किया गया था क्योंकि कृषि और अन्य ग्रामीण क्षेत्रों के लिए पर्याप्त बैंकिंग और क्रेडिट की सुविधा प्रदान कर सके। उन्होंने इस नरसिहं समिति की सिफारिश के तहत इंदिरा गांधी की सरकार के कार्यकाल के समय लागू किया गया क्योंकि उस समय 70 प्रतिशत भारत के लोग गरीबी की रेखा से नीचे थे।
क्षेत्रीय ग्रामीण बैंक की विकास की प्रक्रिया सन 2 अक्टूबर 1975 में शुरू हुई थी और इसकी शुरुआत देश का पहला क्षेत्रीय ग्रामीण बैंक जिसका नाम है प्राथमा बैंक से हुई जिसकी अधिकृत पूंजी 5 करोड़ रुपए थी। और सन 2 अक्टूबर 1976 में और 5 क्षेत्रीय ग्रामीण बैंकों की शुरुआत हुई।
जिसकी अधिकृत पूंजी 100 करोड़ थी। क्षेत्रीय ग्रामीण बैंक केंद्र सरकार, राज्य सरकार और प्रायोजक बैंक के स्वामित्व थे।