chango la clase array es de array en array y el marshal practicamente lo mismo...mmm...te corrijo algo en tu code y es q al estar en .net tienes q usar lo de .net mas halla qque halla soporte para las funciones de vb6....ya te ago el pinvoke del fillmemory asi la uses a esa que esa valida tmb.
Private Sub FillMem(ByRef bytevBuffer() As Byte, ByVal byteData As Byte)
Dim i As Integer
For i = 0 To bytevBuffer.Length - 1 'no usar ubound
bytevBuffer(i) = byteData
Next
End Sub