רצועת ההרים המרכזית נמשכת מהר חרמון ורמת הגולן בצפון-מזרח, דרך הרי הלבנון (הנמצאים בתחומה של לבנון), הרי הגליל, הרי שומרון, הרי יהודה והרי הנגב. את רצועת ההרים קוטעות שתי רצועות של עמקי רוחב: בצפון – העמקים יזרעאל, חרוד ובית-שאן, ובדרום – בקעת באר-שבע, בדרומה של ישראל נמצאים הרי אילת-תמנע, שהם שונים משאר ההרים בישראל.
כיצד נוצרו רכסי ההרים בישראל? היווצרות ההרים היא תוצאה של תזוזת לוחות כדור הארץ, הלוחות הענקיים הבונים את הקרום הסלעי של כדור-הארץ.
לפי תיאוריות מדעיות שונות, לפני כ-200 מיליון שנה החלו הלוח האפריקני-ערבי והלוח האירופי-אסיאני להתרחק זה מזה. כתוצאה מכך נוצר ביניהם אוקיינוס רחב ידיים, "אוקיינוס תטיס", אשר כיסה את מרבית השטח באזור. במשך מיליוני שנים שקעו באוקיינוס הזה חומרים שונים, אשר עם הזמן הפכו לסלעי המשקע הבונים כיום את רוב שטחה של ישראל. לפני כ-90 מיליון שנה שינו לוחות אלה כיוון והחלו להתקרב זה לזה, ולבסוף החל תהליך איטי של התנגשות ביניהם, שנמשך 70-80 מיליוני שנה. להתנגשות בין הלוחות היו 2 תוצאות עיקריות:
- שכבות סלעים אדירות התקמטו, התרומם הקימוט האלפיני, ונוצרו מערכות גדולות של רכסי הרים, שהגבוהים שבהם הם הרי האלפים. רוב רכסי ההרים של ישראל והעמקים שביניהם הם חלק מהקימוט האלפיני, אך הם נמוכים מהרי האלפים מאחר שהיו רחוקים ממוקד ההתנגשות בין הלוחות.
- אוקיינוס תטיס נסוג והצטמק ונשאר ממנו רק שריד קטן, ים התיכון. על מורדות ההרים שהתרוממו מתגלות כיום שכבות של סלעי המשקע ששקעו בעבר באוקיינוס תטיס.
בנוסף לתהליך הראשי של יצירת רכסי ההרים בישראל, התפתחו באזור גם שברים מקומיים שיצרו הרים בודדים כמו מצדה ותבור, ואזורים הרריים נרחבים יותר בגליל ובכרמל.
מרבית הסלעים הבונים את הרי ישראל הם סלעי משקע ימיים, בהם גיר, דולומיט, קירטון, חרסית, צור. כן מצויים בישראל סלעי משקע אגמיים (כמו חוואר) ויבשתיים (כמו אבן חול), וכן סלעי יסוד – הן סלעי פרץ (בזלת) והן סלעי תהום (גרניט).