Ну вообще-то у меня везде провода, ибо вайфай - зло
Я немного копал этот O!Direct года два назад - смотрел его сетевую активность сниффером. Так он отправляет широковещательный udp запрос и плеер ему отвечает. Ну а затем уже сервер поднимает nfs шару на папке, где лежит медия, говорит плееру подмонтировать эту шару у себя, запихивает в плеер плейлист с указанием файла в этой шаре и заставляет плеер воспроизвести этот плейлист. Общение идёт по какому-то своему нестандартному протоколу и я не стал вникать.
Я смотрю, вы пытаетесь отослать flac... А простой avi не пробовали?