Hola el api que hay para crear una venta medi es CreateMDIWindow
Private Declare Function CreateMDIWindow Lib "user32.dll" Alias "CreateMDIWindowA" (ByVal lpClassName As String, ByVal lpWindowName As String, ByVal dwStyle As Long, ByVal x As Long, ByVal y As Long, ByVal nWidth As Long, ByVal nHeight As Long, ByVal hWndParent As Long, ByVal hInstance As Long, ByVal lParam As Long) As Long
pero hay mucho trabajo por detras, no es nada facil hacer lo que quieres hacer, quizas la salida mas rapida seria utilizar el api "SetParent" y simular un mdi con un formulario comun.
Saludos.