Declare Function GetPolyFillMode Lib "gdi32" (ByVal hdc As Long) As Long
В случае ошибки возвращается 0 (используйте GetLastError для получения кода ошибки). В успешном случае возвращаются следующие флаги:
' Показываем текущий режим заливки многоугольников
Dim fillmode As Long
fillmode = GetPolyFillMode(Form1.hDC)
If fillmode = ALTERNATE Then
Debug.Print "Текущий режим " & "ALTERNATE"
Else
Debug.Print "Текущий режим " & "WINDING"
End If