אף על פי שאיש לא באמת יודע מתי התגלה סבון, ישנן אגדות שונות סביב ראשיתו.
לפי האגדה הרומית, הסבון נקרא על שם הר סאפו, אתר עתיק של קורבנות בעלי חיים. לאחר הקרבת בעלי חיים, הגשם היה שוטף את השומן והאפר של בעלי חיים, שנאספו מתחת למזבחות הטקסים, עד לגדות נהר הטיבר.
נשים שכיבסו בגדים בנהר שמו לב שאם הן מכבסות את בגדיהן בחלקים מסוימים של הנהר לאחר גשם כבד, הבגדים שלהן היו הרבה יותר נקיים. כך הופיע הסבון הראשון - או לפחות השימוש הראשון בסבון. למרות שהסבר זה נראה אפשרי, מעולם לא נמצאו עדויות להר סאפו האגדי.
המילה "סאפו" מופיעה לראשונה בספר שנכתב בלטינית בשם "היסטוריה של הטבע" על ידי פליניוס האב, איש אקדמיה מפומפיי. זה היה כמו מהדורה מוקדמת של אנציקלופדיות של העולם העתיק, שנכתבו בסביבות שנת 77 לספירה. בספר, כותב פליניוס: סבון (סאפו), המצאה של הגאלים להפיכת שיערם מבריק. הוא עשוי משומן ואפר, הטוב ביותר מאפר עץ בוק ושומן עיזים, וקיים בשתי צורות, מוצק ונוזל.
מתכון הסבון הכתוב המוקדם ביותר היה כתוב על לוחות חימר והוא נזקף לזכות הבבלים הקדמונים. חומר דמוי סבון שנמצא בגלילי חרס במהלך חפירת בבל עיר במסופוטמיה העתיקה, בין נהרות החידקל והפרת, הוא עדות לכך שייצור סבון היה ידוע כבר בשנת 2800 לפני הספירה. הכיתוב במגילות מצביע על כך ששומנים (שנתנו מפרה, כבשה או עז שחוטה) בושלו עם אפר עץ ומים.
מגילה מצרית בשם פפירוס אברס משנת 1550 לפני הספירה מצביעה על כך שהמצרים הקדמונים התרחצו בשילוב של שמנים מן החי והצומח המעורבבים באפר עץ, מה שהיה יוצר חומר דמוי סבון. מתועד היטב שהמצרים התרחצו בקביעות.
משה נתן לבני ישראל חוקים מפורטים המסדירים את הניקיון היגיינה אישית האישי. מדיווחי המקרא עולה כי בני ישראל ידעו שערבוב אפר ושמן מייצר סוג של ג'ל שניתן להשתמש בו על שיער. סבון מוזכר פעמיים בתנ"ך, אך מוסכם על כך שהמילה העברית "בורית", שתורגמה כסבון, היא כינוי כללי לכל חומר ניקוי העשוי מעץ או אפר ירקות.
הרומים היו ידועים בנהנתנות שלהם וכך גם הסבון הפך למאוד פופולרי ברחבי האימפריה הרומית, בסביבות 100 שנה לפנה"ס עד 400 לספירה. כאשר נחפרו הריסות פומפיי, התגלה בהריסות מפעל שלם לסבון.
הרגלי הרחצה בכל רחבי אירופה עלו וירדו עם הציוויליזציה הרומית. כשרומא נפלה בשנת 467 לספירה, כך גם הרחצה. מאמינים שחוסר הניקיון ותנאי החיים הגרועים תרמו לתחלואה רבה של ימי הביניים. עד המאה השנייה לספירה, הרופא היווני, גאלן, המליץ על סבון למטרות רפואיות וניקוי.
רק במאה השביעית הופיעו יצרני סבונים בספרד ובאיטליה, שם נוצר סבון עם שומן עיזים ואפר עץ אשור. באותה תקופה החלו הצרפתים להשתמש בשמן זית להכנת סבון. סבון "מרסיי" מיוצר בדרום צרפת במשך יותר משש מאות שנים. המתכון זכה להכרה רשמית לראשונה בשנת 1688 בתקופת שלטונו של לואי ה-14, "מלך השמש". בסופו של דבר הוצגו ניחוחות והחלו להופיע סבונים מיוחדים לרחצה, גילוח, שמפו וכביסה. יש סיפור שהמלך לואי ה-14 מצרפת הוציא להורג שלושה יצרני סבונים על יצירת סבון שגירה את עורו המלכותי הרגיש מאוד.
האנגלים החלו לייצר סבון במהלך המאה ה-12. בשנת 1633 המלך צ'ארלס הראשון העניק מונופול של 14 שנים לאגודת יצרני הסבון מווסטמינסטר.
לדברי אליסון סים, בספרה "עקרת הבית של טיודור", נשים עשירות מתקופת טיודור (1485-1603) השתמשו בסבון טואלט ריחני או 'סבון קסטיליה' לשטיפתן היומית. הסבון הזה, שנעשה משמן זית ומיובא, היה יקר מאוד. מדריך הוראות משק בית שנכתב בתקופה זו כלל מתכונים לסבון המעידים על כך שאנשים מכל הרמות בחברה התעניינו בהיגיינה אישית. בתקופת שלטונה של אליזבת הראשונה, צריכת הסבון באנגליה הייתה גדולה יותר מאשר בכל מדינה אחרת באירופה. נראה שהמלכה קבעה את האופנה בעצמה, שכן דווח שהמלכה התרחצה כל ארבעה שבועות "בין אם זה הכרחי ובין אם לא".
במאות ה-17 וה-18, בדיוק כשתעשיית הסבון צברה תאוצה באנגליה, היא הפכה לנושא לשורה של הגבלות ומיסוי משתק על סבון. בסופו של דבר, התקופה הוויקטוריאנית הגיעה, ואיתה, עניין חדש בהיגיינה אישית. רק בשנת 1853 ביטלה ביטל ויליאם יוארט גלדסטון (שהיה ראש ממשלת בריטניה 4 פעמים רצופות) את המס על סבון, מה שאפשר לסבון להיות זמין ובמחיר סביר ליותר אנשים.
שתי תגליות של כימאים צרפתים עזרו להעלות את ההתקדמות של ייצור סבון מסחרי. בשנת 1791, הכימאי הצרפתי ניקולא לבלאן גילה תהליך להפיכת מלח רגיל (נתרן כלורי) בסיס שנקרא אפר סודה. מאחר שחומר בסיסי היה קריטי בייצור סבון כמו גם מוצרים אחרים, תגלית זו הפכה לאחד התהליכים הכימיים החשובים ביותר של המאה התשע-עשרה. בשנת 1811 גילה Chevreul את הכימיה מאחורי הקשר בין גליצרין לחומצות שומן. עם כניסתה של המהפכה התעשייתית, הוכנה כעת הבמה לייצור סבון המוני.
במאה ה-19, לואי פסטר הכריז כי היגיינה אישית טובה תפחית את התפשטות המחלות אשר סייעו להגביר את הביקוש לסבון.
