الهندسة الرياضية هي فرع من فروع الرياضيات المعنية بدراسة الأشكال، وقياس الحجوم والمساحات، ودراسة هندسة الفضاء. ويسمى من يدرس في مجال هذا العلم مهندساً رياضياً. ولقد نشأ هذا العلم في الحضارات القديمة باعتباره مجموعة من العلوم العملية حول الأطوال، والمساحات، والحجوم، على يد مجموعة من العلماء الغربيين القدامى مثل طاليس (القرن السادس قبل الميلاد). وبحلول القرن الثالث قبل الميلاد وضع إقليدس المسلمات الأساسية في علم الهندسة الرياضية، حيث أصبحت الهندسة الإقليدية معياراً لقرون طويله.