Правильно
Набор инструментов — в данном случае существительное «инструменты» является собирательным и образует множественное число, поэтому в родительном падеже окончание будет «-ов».
Набор инструментов
Дайте мне несколько инструментов
Комплект инструментов
Инструмента — если существительное «инструмент» в предложении описывает единственное число, тогда в родительном падеже окончание будет «-а».
У этого инструмента сломалась ручка
Этого инструмента тут быть не должно
Неправильно
Набор инструмента