Правильно
Собачий — слово является прилагательным, которое образовано суффиксом «ий». Данный суффикс при добавлении к основе существительных (собач), образует имена прилагательные, которые означают принадлежность, свойственность чему-либо: рыба — рыбий, собака — собачий, медведь — медвежий и т.д. В именительном или винительном падежах подобные прилагательные пишутся без мягкого знака.
Собачий лай всю ночь мешал мне спать.
В этом приюте настоящий собачий рай.
Собачий нюх во много раз превосходит человеческий.
Собачьей — это написание прилагательного «собачий» в форме родительного, дательного, творительного и предложного падежа женского рода. Всегда пишется с мягким знаком. Правила русского языка гласят, что в прилагательных на «-ий» во всех формах, за исключением именительного и винительного падежей единственного числа мужского рода, перед окончанием пишется мягкий знак: медвежьего, птичьего, собачьей.
На соревнованиях собачьей радости не было предела.
У нас нет собачьей расчёски, поэтому шерсть спутана.
В собачьей шкуре моей пояснице гораздо теплее.
| Единственное число | Множественное число | |||
| Мужской род | Женский род | Средний род | ||
| Им. | собачий | собачья | собачье | собачьи |
| Рд. | собачьего | собачьей | собачьего | собачьих |
| Дт. | собачьему | собачьей | собачьему | собачьим |
| Вн. | собачьего; собачий | собачью | собачье | собачьих; собачьи |
| Тв. | собачьим | собачьей; собачьею | собачьим | собачьими |
| Пр. | собачьем | собачьей | собачьем | собачьих |
Неправильно
Собачьий, собачей.