قال عنه عمر بن الخطاب وهو يجود بأنفاسه: «لو كان أبو عبيدة بن الجراح حيا لاستخلفته فإن سألني ربي عنه قلت: استخلفت أمين الله، وأمين رسوله». وقال عنه: «لو كنت متمنيا ما تمنيت إلا بيتا مملوءا برجال من أمثال أبي عبيدة».
من أشهر ما قال أبو عبيدة بن الجراح خطبته في أهل الشام وهو أميرهم:
«يا أيها الناس إني مسلم من قريش وما منكم من أحد، أحمر، ولا أسود، يفضلني بتقوى إلا وددت أني في إهابه»
.
لقبه النبي محمد صلى الله عليه وسلم بـ(أمين الأمة) في حديثه: