Para borrar muchos archivos con el uso de comodines (por ejemplo *) se debe seleccionar primero en ese directorio todos los que cumplan con esa condición y luego recorrerlos borrándolos uno por uno.
No existen comodines en el metodo Delete para borrar archivos.
dim path as string ="C:\"
For Each archivo As String In Directory.GetFiles(path, "out*.tmp") File.Delete(archivo)
Next
