Правильность написания слова на текущий момент не закреплена ни в одном словаре русского языка.
Правильно
Вайбер — так слово произносится на английском языке, то есть по транскрипции v[ai]ber. В русский язык можно смело переносить это произношение, которое употребляет сам создатель приложения (Игорь Магазинник).
Вибер — так слово произносится многими носителями русского языка (транслитерацией), что также не является ошибкой, поскольку не существует четких правил переноса произношения иностранных слов в русский язык.
«Viber» — это оригинальное название приложения, а значит имя собственное. Названия, как правило, в русский язык переносятся путем транслитерации и читаются по правилам фонетики русского языка. Однако, это вовсе не означает, что именно так слово окончательно закрепится в русском языке, поскольку существует множество примеров, когда иностранные слова, при переносе в русский язык, пишутся или произносятся отлично от языка оригинала (business — бизнес, arrest — арест, interview — интервью, nuance — нюанс, virgin — виргинские и т.д.).
Окончательное решение всегда будет за составителями словарей русского языка, которые путем внесения новых слов определяют правильность их написания и произношения.
Где-то, сейчас не помню где, встречал инфу о том, что Вибер — это фамилия одного из разработчиков программы и поэтому правильно говорить — Вибер