Обидва слова вживаються в українській мові. Це форми одного слова.
Правильно
Мати – єдиний правильний варіант вимови і написання слова в називному відмінку.
Мати й батько зустріли нас на порозі.
Моя мати зайшла в хату.
Мати купила собі нову сукню.
Матір – єдиний правильний варіант вимови і написання слова в знахідному відмінку.
Матір свою я бачу нечасто.
Приїхав на вокзал,щоб зустріти матір.
Він кликав свою матір, але вона його не чула.