В русском языке возможно образование предложного падежа существительного «угол» с окончанием на «у» и на «е».
Правильно
В углу, на углу — форма слова с окончанием на «у» употребляется в большинстве случаев, когда речь идет не о математическом термине.
В углу комнаты стояла большая ваза
Кот сел в углу комнаты и смотрел на телевизор
На углу дома собралась компания молодых людей
Журнал лежит на углу журнального столика
В угле, на угле, о угле — такую форму предложного падежа допустимо использовать когда речь идет о геометрическом понятии «угол». Употребляется только как математический термин. Ударение ставится на букву «е» — в углЕ.
Теорема о внешнем угле треугольника
В угле геометрической фигуры проведена линия
На угле треугольника касательная линия