המושג 'יהדות' כפי שהוא משמש היום חודש בשפה העברית בעת החדשה. חז"ל וחכמי ישראל בימי הביניים (רבותינו הראשונים) לא הכירוהו ולא השתמשו בו, להוציא במובן הלכתי, כמו למשל בעניין של גר שטבל שלא לשם קבלת תורה ומצוות, שעליו לחזור ולטבול "לשם יהדות". במובן שמשתמשים במונח זה היום – שהוא, יש להודות, קשה להגדרה חד-משמעית – נזכר המונח 'יהדות' (בשפה היוונית כ-Iudaizmos) פה ושם בספרות היהודית-הלניסטית (וכן בברית החדשה).
אחד מאבות הכנסייה, טרטוליאן (160–220 למניינם), היה הראשון שהשתמש במונח זה שימוש נרחב – לגנאי: בעבורו ה'יהדות' היא דתם "המתנוונת" של אותם היהודים שבעקשנותם לא הכירו באותו האיש ועל כן נדחו מתפקידם כעם נבחר ופינו מקומם לנצרות. הנוצרים המשיכו להשתמש במונח 'יהדות' בשלל השפות האירופיות במהלך כל ימי הביניים ואחריהם כמקבילה ל'נצרות'.
בשפה העברית אנחנו מוצאים שימוש נרחב במונח 'יהדות' בפעם הראשונה אצל דון יצחק אברבנאל (1437–1508), אך עדיין לא במובן המודרני. כאשר אברבנאל כותב למשל (בתקופת גירוש ספרד) על יהודים ש"מחזיקים ביהדותם", הוא מתכוון למי שנישאר יהודי ולא התנצר.
אם כן, באיזה מונח השתמשו היהודים כשביקשו לדבר על היהדות? הם הסתפקו במונחים תורה, תורה ומצוות וכדומה – ולא הכירו את ה'יהדות'. הסיבה לכך היא שבניגוד לנצרות או לאסלאם, שהן בעיקרן שיטות תאולוגיות (המבוססות על מבנה מוגדר של אמונות ודעות), היהודים הם בראש ובראשונה עם, ולא רק דת. הנצרות והאסלאם אינן קשורות לקבוצה אתנית זו או אחרת, הן לא מבוססות על קשרי דם. ה'יהדות', לעומת זאת, כן (על פי רוב), וכשם שלא תמצא למשל צרפתי או אנגלי שידברו על צרפתיותם או על אנגליותם, כך גם ליהודי לא היה טבעי לדבר על 'יהדותו'. הוא היה חלק מהעם היהודי ושמר תורה ומצוות, מי יותר, מי פחות.
רק בסוף המאה ה-18 החל המושג 'יהדות' בשלל השפות האירופיות (Judaism, Judenthum ועוד) לחלחל גם לשיח הפנים-יהודי בשל החלשת התודעה היהודית-לאומית אצל יהודי מערב אירופה. תחילה השתמשו בו המשכילים, שייסדו את מדעי ה'יהדות', ואחר כך הוא התקבל גם אצל שומרי תורה ומצוות, כעולה במובהק מכתבי רש"ר הירש (1808–1888).