יחד עם ריבוי תלמידי הישיבות שהולך ומתרבה בקרב בני הציבור הציוני-דתי, שהבליט את הצורך בהקמת ישיבה גבוהה נוספת, וכחלק ממלאכת השיפוט התורנית בבית הדין הגדול, יזם הרב לוז את הקמת ישיבת 'תפארת ישראל' שתשים לנגד עיניה את השאיפה לרומם את מערכת המשפט התורנית ואת הופעת התורה במדינת ישראל על כל חלקיה, תוך כדי שימת דגש בלימוד על חלקי התורה השונים.

היוזמה במקורה הייתה להקים את הישיבה בחצרות בית ה', ברובע היהודי בירושלים, ועל מנת שתהווה כנדבך ממלכתי של בית הדין הגדול ושל בתי הדין בישראל בכללותם, אבל בשל קשיים טכניים מובנים של משאבים, ותנאי המקום, וכדומה, הוחלט להתחיל בהקמת הישיבה ביישוב יד בנימין כחלק מחזון ארוך טווח, וכיישוב שמתאים ביותר לרעיונות הכלליים של הישיבה, בריבוי התורה וגווניה המצויים ביישוב.

כבר בשלבי ההקמה הראשוניים של הישיבה הצטרף אל היוזמה הרב משה אמסלם, שנרתם בשותפות מליאה עם הרב לוז למימוש החזון הגדול של הישיבה. כחלק מהרעיון לכלול ב'תפארת' גוונים תורניים שונים וחיבורים רבים צורפו לגרעין המייסד נציגים מבתי הכנסת השונים שביישוב, שבכללם בית הכנסת הקהילתי, הוותיקים, המרכזי האשכנזי, המרכזי הספרדי, התימני, ועוד.

ראוי לציין את תרומתו הגדולה של הרב אריאל פיקסלר בשלבי ההקמה, בשנה שקדמה לפעילותה של הישיבה, הן בהכנת תשתיות אירגוניות, והן כשהוא מכתת רגליו לכמה ישיבות תיכוניות\קטנות להביא את דבר הקמתה של הישיבה לתודעה בקרב תלמידים רבים.