كان علي قاضي عمر على المدينة ويقال في بعض المصادر التاريخية أن عمر لم يكن له قاضي [92]، وكان يستشيره عمر في كثير من القضايا والأمور الفقهية والسياسية ويعمل بمشورته [93]، فيروى في تاريخ الطبري أن علي اقترح على عمر البدء باستخدام التقويم الهجري [94]. كما يروى أنه استشار علي بن أبي طالب في تسلم مدينة بيت المقدس من الروم فأشار عليه بالذهاب بنفسه لاستلامها فأخذ بمشورته وولاه على المدينة في غيابه [95][96]. وفي العديد من المواقف المعقدة التي احتاجت دراية بالأحكام الفقهية كان علي بن أبي طالب يقدم لعمر الحكم الإسلامي فيها، حتى قال عمر في ذلك: «لولا علي لهلك عمر» [97]، وينسب لعمر كذلك أنه قال «أعوذ بالله أن أعيش في قوم لست فيهم يا أبا الحسن».[98]
تذكر مصادر أخرى مثل الكامل وأسد الغابة أن عمر تزوج أم كلثوم بنت علي بن أبي طالب [99][100]. وكان عمر قد قام برد العقارات بفدك وخيبر إلى علي والعباس وبني هاشم [101]، وكذلك كان عمر يضع علي بن أبي طالب في المرتبة الثانية في عطايا بيت المال بعد العباس عم محمد. حين كان يحتضر، رشح عمر ستة للخلافة من بعده منهم علي بن أبي طالب [102].