کلمه خربزه در فارسی ریشه‌ای تاریخی و جالب دارد. این کلمه از زبان عربی وارد فارسی شده است. در عربی، خربز (جمع: خَرَابِز) به میوه‌هایی مانند خربزه و هندوانه اشاره می‌کرد. ریشه این کلمه احتمالاً به زبان‌های سامی قدیم برمی‌گردد و به معنای میوه‌های آبدار و شیرین بوده است.
اما یک باور عامیانه وجود دارد که می‌گوید کلمه خربزه از ترکیب دو کلمه خر و بز ساخته شده است! این ایده احتمالاً به دلیل طنز یا شوخی مطرح شده است، زیرا خربزه میوه‌ای است که هم خر و هم بز آن را دوست دارند و ممکن است در مزارع به راحتی توسط این حیوانات خورده شود. با این حال، این موضوع از نظر زبان‌شناسی صحت ندارد و ریشه کلمه خربزه به عربی و زبان‌های سامی قدیم برمی‌گردد، نه به ترکیب نام دو حیوان.