En realidad, necesitas instalar el MySQL server en tu pc, y (si tenes router) abrirle los puertos para que esten disponibles desde WAN. Despues, en tu aplicacion, necesitas el conector ODBC de MySQL y como parametro de servidor, le indicas la direccion IP WAN de tu pc, o mas bien, podes hacerte un no-ip o dynds por si tenes IP dinamica.
En este caso quedaria asi:
PC Server (mysql) -> (router) -> WAN -> Cliente (app en vb)
Despues, si queres usar phpmyadmin, necesitas instalar Apache o algun otro web server, en conjunto con PHP, para poder ejecutar el script phpmyadmin.
Te conviene usar alguna herramienta que este diseñada para windows, para administrar la base de datos. Yo utilizo TOAD for MySQL y me da buenos resultados. Tambien tenes los MySQL Tools
saludos