בתוך האוכלוסייה היהודית בעולם קיימות חלוקות אתניות מובהקות, שרובן בעיקר תוצאה של הסתעפות גיאוגרפית מאוכלוסייה ישראלית מקורית, והתפתחויות עצמאיות שלאחר מכן. מערך של קהילות יהודיות הוקם על ידי מתנחלים יהודים במקומות שונים ברחבי העולם הישן, לעתים קרובות במרחקים גדולים זה מזה, וכתוצאה מכך בידוד יעיל ולעיתים ארוך טווח. במהלך אלפי שנות הפזורה היהודית הקהילות היו מתפתחות בהשפעת הסביבה המקומית שלהן: פוליטית, תרבותית, טבעית ואוכלוסית. כיום ניתן לראות ביטויים של הבדלים אלה בקרב היהודים בביטויים תרבותיים יהודיים של כל קהילה, כולל מגוון לשוני יהודי, העדפות קולינריות, פרקטיקות ליטורגיות, פרשנויות דתיות, וכן דרגות ומקורות של תערובת גנטית.
לעתים קרובות מזוהים יהודים כשייכים לאחת משתי קבוצות עיקריות: האשכנזים והספרדים. אשכנזים, או “גרמניים” (אשכנזים שפירושם “גרמניה” בעברית), נקראים כך המציינים את מוצאם התרבותי והגיאוגרפי היהודי הגרמני, ואילו ספרדים, או “היספנים” (ספרד שפירושו “ספרד / היספניה” או “איבריה” בעברית) , נקראים כך המציינים את מוצאם התרבותי והגיאוגרפי היהודי הספרדי / פורטוגלי. המונח הנפוץ בישראל בקרב רבים מאלה הנקראים בספרות רחבה ספרדים, הוא מזרחים (שם “מזרחיים”, מזרחי הוא “מזרח” בעברית), כלומר בהתייחס לאוסף המגוון של יהודי המזרח התיכון וצפון אפריקה שהם לעתים קרובות, כקבוצה, המכונה יחד ספרדים (יחד עם ספרדים כראוי) מסיבות ליטורגיות, אם כי קבוצות יהודיות מזרחי ויהודים ספרדים נבדלים מבחינה אתנית.
קבוצות קטנות יותר כוללות, אך אינן מוגבלות, יהודים הודים כמו בני ישראל, בני מנשה, יהודי קוצ’ין ובני אפרים; הרומניוטים של יוון; יהודי איטליה (“איטלקים” או “בנה רומא”); התאימנים מתימן; יהודים אפריקאים שונים, לרבות ביתא ישראל של אתיופיה; ויהודי סין, בעיקר יהודי קייפנג, וכן קהילות שונות אחרות, אך כעת כמעט נכחדו.
החלוקה בין כל הקבוצות הללו היא משוערת וגבולותיה לא תמיד ברורים. המזרחים, למשל, הם אוסף הטרוגני של קהילות יהודי צפון אפריקה, מרכז אסיה, קווקז ומזרח התיכון שאינן קשורות זו לזו יותר מאשר לאחת מהקבוצות היהודיות שהוזכרו קודם לכן. אולם בשימוש מודרני, המזרחים מכונים לפעמים ספרדים בשל סגנונות דומים של ליטורגיה, למרות התפתחות עצמאית מימי ספרדים. כך, בקרב מזרחים ישנם יהודים מצרים, יהודים עירקים, יהודי לבנון, יהודים כורדים, יהודי מרוקו, יהודי לוב, יהודי סוריה, יהודים בוכרים, יהודי הר, יהודים גרוזינים, יהודים איראנים, יהודים אפגנים ועוד. התימנים מתימן נכללים לעיתים, אם כי סגנון הליטורגיה שלהם הוא ייחודי והם נבדלים ביחס לתערובת שנמצאה בקרבם לזה שנמצא במזרחים. בנוסף, יש הבדל בין מהגרים ספרדים שהתבססו במזרח התיכון ובצפון אפריקה לאחר גירוש היהודים מספרד ופורטוגל בשנות ה -90 של המאה העשרים לבין הקהילות היהודיות שהיו קיימות באותם אזורים.
יהודי אשכנז מייצגים את עיקר היהדות המודרנית, עם לפחות 70 אחוז מהיהודים ברחבי העולם (ועד 90 אחוזים לפני מלחמת העולם השנייה והשואה). כתוצאה מהגירתם מאירופה, אשכנזים מייצגים גם את הרוב המכריע של היהודים ביבשות העולם החדש, במדינות כמו ארצות הברית, קנדה, ארגנטינה, אוסטרליה וברזיל. בצרפת עליית יהודים מאלג’יריה (ספרדים) הובילה אותם למספר האשכנזים. רק בישראל אוכלוסיית היהודים מייצגת את כל הקבוצות, כור היתוך שאינו תלוי בשיעור כל קבוצה באוכלוסייה היהודית הכללית בעולם.
