А что непонятно-то?

Разбираем два случая: когда у нас точка вхождения совпадает с одним из концов отрезка (тривиально) и когда она является основанием перпендикуляра. Во втором случае строим уравнение прямой, перпендикулярной отрезку и проходящей через точку M, и находим точку ее пересечения с отрезком.

Если остались вопросы насчет "а как сделать это?" — пожалуйста, вбейте их в гугл.