في زمان حكومة سلمان المدائن (والتي قبلها سلمان من عمر بإذن علي (عليه السلام) ) كتب له الخليفة وأمره بأن يستقصي أثر حذيفة الحاكم السابق للمدائن ويبحث في أعماله وسيرته.

فأجابه سلمان جواباً مؤلماً قال فيه : " .... وامرتني أن أقص أثر حذيفة وأستقصي أيام أعماله وسيره ثم أعلمك قبيحها وحسنها وقد نهاني الله عن ذلك يا عمر في محكم كتابه حيث قال : {يَا أَيُّهَا الَّذِينَ آمَنُوا اجْتَنِبُوا كَثِيرًا مِنَ الظَّنِّ إِنَّ بَعْضَ الظَّنِّ إِثْمٌ وَلَا تَجَسَّسُوا وَلَا يَغْتَبْ بَعْضُكُمْ بَعْضًا أَيُحِبُّ أَحَدُكُمْ أَنْ يَأْكُلَ لَحْمَ أَخِيهِ مَيْتًا } [الحجرات : 12].

وما كنت لأعصي الله في أثر حذيفة وأطيعك ... فأشهد أني سمعته (صلى الله عليه واله) يقول : من ولي سبعة من المسلمين بعدي ثم لم يعدل فيهم لقي الله وهو عليه غضبان ، فليتني يا عمر أسلم من إمارة المدائن مع ما ذكرت اني ذللت نفسي وامتهنتها ، فكيف يا عمر حال من ولي الأمة بعد رسول الله (صلى الله عليه واله) ؟ وإني سمعت الله يقول : { تِلْكَ الدَّارُ الْآخِرَةُ نَجْعَلُهَا لِلَّذِينَ لَا يُرِيدُونَ عُلُوًّا فِي الْأَرْضِ وَلَا فَسَادًا وَالْعَاقِبَةُ لِلْمُتَّقِينَ} [القصص : 83] , وتحسر سلمان الفارسي رضوان الله عليه عند موته.

فقيل له : على ما تأسفك يا أبا عبد الله ؟

قال : ليس تأسفي على الدنيا ولكن رسول الله (صلى الله عليه واله) عهد إلينا وقال : لتكن بلغة أحدكم كزاد الراكب وأخاف أن نكون قد جاوزنا أمره وحولي هذه الأساود.

وأشار إلى ما في بيته وإذا هو دست وسيف وجفنة.