Ich weiß es nicht ganz genau, aber ich nehme an, dass dies durch die Netzwerkvirtualisierung von VMWare kommt. Dem Gastsystem (in dem Fall Kali) steht kein direkter Zugriff auf die Netzwerkhardware (WLAN-Karte / -Chip) zu, sondern es wird eine Netzwerkkarte emuliert. Dadurch können Programme im Gastsystem natürlich auch nicht die physische Netzwerkkomponente manipulieren, wie beispielsweise in den Monitor Mode wechseln. Und da die emulierte Netzwerkhardware dies vermutlich auch nicht unterstützt (ggf. an die Hardware des Hostsystems weiterleitet), ist es halt nicht möglich.
Ich denke, dass die einzige Lösung darin besteht, Kali als Hostsystem laufen zu lassen. Oder das Programm, was du in Kali ausführst, direkt auf deinem Hostsystem (Mac) auszuführen (sofern es eine Mac-Version davon gibt).
Mit freundlichen Grüßen
Jeoni