أنشئت الجامعة في 24 محرم 1417هـ الموافق 12 يونيو 1996م بموجب القرار الجمهوري رقم (91) لسنة 96م. كخامس جامعة حكومية في الجمهورية اليمنية، وبدأت تمارس نشاطها العلمي والبحثي كجامعة مستقلة اعتباراً من العام الجامعي 1996/1997م.

وجاء إنشاء الجامعة تلبية لحاجة المجتمع في محافظة إب بمساحتها الشاسعة ومديرياتها المتعددة التي تتميز بكثافة سكانية مرتفعة، ولتخدم كافة محافظات الجمهورية اليمنية من خلال توفير كوادر مؤهلة علمياً وعملياً في مختلف الكليات والتخصصات.

وتمثلت النواة الأولى لتأسيس وإنشاء الجامعة من خلال كلية التربية في مدينة إب التي تم افتتاحها عام 1988/1989م، وكلية التربية في مديرية النادرة التي تم افتتاحها عام 1993/1994م ككليات تابعة لجامعة صنعاء، والمعهد الزراعي الذي كان تابعاً لوزارة الزراعة في ذلك الحين، حيث ضمت الكليتان والمعهد الزراعي الى كيان جامعة إب وكونوا مع عدد من الكليات الجديدة اللبنة الأولى التي بموجبها أنشئت الجامعة وتم افتتاحها بقوام ست كليات على النحو الآتي : (كلية التربية – إب ، كلية التربية – النادرة ، كلية الزراعة والطب البيطري ، كلية الاقتصاد والعلوم الإدارية ، كلية العلوم ، كلية الآداب).

سميت جامعة إب باسم مدينة إب التي تعتبر مركز محافظة إب.

شهدت الجامعة منذ العام الجامعي الأول لإنشائها 1996/1997م إقبالاً شديداً من طلبة محافظة إب وبقية محافظات الجمهورية ذكوراً وإناثاً والذين وجدوا في جامعة إب ضالتهم لتلبية تطلعهم للدراسة والتأهيل الجامعي في مختلف التخصصات العلمية التي كان يصعب الالتحاق بها لكثير من الطلبة خصوصاً الطالبات،  مما دفع قيادة الجامعة لمواكبة الحاجة والطلب المتزايد في سوق العمل على مستوى محافظة إب والمحافظات المجاورة ومحافظات الجمهورية بشكل عام، ومن خلال الدراسة الميدانية خطت الجامعة خطوات التطور الأولى لها من خلال افتتاح كلية الهندسة والعمارة في العام الجامعي 1998/1999م ، تلاها افتتاح كلية طب الأسنان في العام الجامعي 2000/2001م، واستمرت الجامعة في تأدية رسالتها التعليمية حتى قضت الحاجة الملحة لتلبية احتياج المجتمع بافتتاح كليات جديدة تمثلت بكلية الطب والعلوم الصحية، والكلية النوعية بمديرية السدة في العام الجامعي 2016/2017م، وكلية القانون في العام الجامعي 2017/2018م، ليكون إجمالي عدد الكليات التابعة للجامعة  منذ إنشائها حتى الآن إحدى عشرة كلية موزعة في نطاق الحرم الجامعي بمدينة إب، وعدد من مراكز مديريات المحافظة. 

صاحب ذلك التطور إنشاء وافتتاح عدد من المراكز البحثية والخدمية والاستشارية والتطويرية التي يعود نفعها بشكل مباشر وغير مباشر على الجامعة، والطالب، والعملية التعليمية، والمجتمع المحلي باعتبار ذلك يصب في بوتقة تحقيق أهداف الجامعة، والمراكز التابعة للجامعة على النحو الآتي: (مركز الاإستشارات الهندسية، مركز الأبحاث الزراعية، مركز اللغات والترجمة، مركز الحاسوب وتقنية المعلومات، مركز الإرشاد النفسي، مركز التطوير وضمان الجودة، مركز البيئة والأمن الكيميائي، مركز التأهيل والبحوث).

وبناءً على التطور العلمي والأكاديمي والبحثي الذي شهدته الجامعة خلال السنوات السابقة في مختلف التخصصات العلمية بدأت ثمارها تزداد من خلال إفتتاح عدد من برامج الماجستير في كلية التربية – إب، وكلية الآداب، وكلية العلوم الإدارية، وكلية التربية – النادرة، بالإضافة الى عدد من برامج الدكتوراه في كلية التربية – إب، وكلية الآداب.

تطرح جامعة إب حالياً (65) برنامجاً أكاديمياً معتمدة في كلياتها الإحدى عشر : كلية الطب والعلوم الصحية، كلية طب الأسنان، كلية الهندسة والعمارة، كلية العلوم، كلية الزراعة والطب البيطري، كلية التربية – إب، كلية التربية – النادرة، كلية الآداب، كلية القانون، كلية السدة النوعية، منها (50) برنامج أكاديمي بكالوريوس، و(13) برنامج ماجستير، و(2) دكتوراه.

الجامعة عضو اتحاد الجامعات العربية، و اتحاد الجامعات الإسلامية، واتحاد الجامعات العالمية، وترتبط بروابط متميزة ووثيقة مع مختلف الجامعات اليمنية والعربية والدولية.

كما أن الجامعة عضو في المجلس العربي لتبادل تدريب طلاب الجامعات العربية وتشارك في ملتقيات هذا المجلس وتدرب كل عام مجموعة من الطلاب المتفوقين من خلال عروض التدريب التي تتبادلها مع الجامعات العربية الأعضاء في المجلس.

تتصدر الجامعة المركز الأول على مستوى الجامعات اليمنية في استخدام برنامج شئون الطلاب الإلكتروني ، حيث تم تطبيقه بارتباط مباشر مع وزارة التعليم العالي والبحث العلمي عن طريق نيابة شئون الطلبة في الجامعة.

حصلت الجامعة على المركز الأول كأفضل جامعة في مستوى الأداء والتزامها بتطبيق نظام الجودة والاعتماد الأكاديمي في برامجها بين كافة الجامعات الحكومية والأهلية اليمنية خلال العام 2017م.