Правильно
Заведующая библиотекой — полная форма названия должности, от которой формируются сокращённые варианты. Слово «заведующая» требует к себе вопроса «чем?» (заведовать чем?), соответственно, существительное «библиотека» должно быть в форме творительного падежа. Полное название должности следует использовать в деловом письме.
Нашу заявку подписала заведующая библиотекой.
Договор подписан заведующей библиотекой.
Зав. библиотекой — такое сокращение является нормативным и также может употребляться в деловой речи. Сокращению в данном случае подлежит только первое слово.
Зав. библиотекой им. Островского.
Зав. библиотекой школы №5.
Завбиблиотекой — данное слово есть в некоторых словарях русского языка, однако его следует употреблять только в устной речи. В деловом письме данное сокращение использовать недопустимо.
Мы все поздравили завбиблиотекой с днем рождения.
Завбиблиотекой обещала зайти немного позже.
Неправильно
Заведующая библиотеки, зав. библиотеки, завбиблиотеки.