ברחבת הכניסה לבניין מוצב קטע מרהיב ביופיו של רצפת פסיפס, שהובא מבית-הכנסת העתיק של חמת גדר (שהייתה בזמנו עיר מרחצאות רומית). הפסיפס שמתוארך לראשית המאה החמישית שוחזר על-ידי רשות העתיקות והוצב ברחבה לפני הכניסה הראשית לבניין. במרכז הפסיפס, המעוטר  בשני אריות ושני ברושים, מופיעה כתובת נדירה בארמית המציינת את שמות התורמים לבניית בית-הכנסת. קטע הפסיפס נתגלה בשנת 1932 על ידי פרופ' סוקניק מן האוניברסיטה העברית (אביו של יגאל ידין). הוא הוצב בכניסה לבניין בשל מספר סיבות:

1. משולבות בו שלוש כתובות המתארות תרומות אזרחי העיר לבניית בית-כנסת מקומי. הכתובות מרמזות על כך שגם הקמתו של מבנה בית-המשפט העליון מקורהּ בתרומה.
2. אחד התורמים לבניית בית-הכנסת מכונה "ארדה". לדעת החוקרים הכוונה היא לאיש שמקצועו הוא "אדריכל", והרי מבנהו של בית-המשפט העליון נודע בין היתר בזכות תכנונו הארכיטקטוני יוצא הדופן.
3. בפסיפס מתוארים אריות, שהם כידוע סמל העיר ירושלים.