Wenn man XAMPP auf einen USB-Stick installieren möchte, muss man die Dateien von der Apachefriends-Downloadseite, bzw. SourceForge, unbedingt in das Wurzelverzeichnis des Sticks extrahieren.
Ansonsten lassen sich Apache und MySQL nicht starten.
Apache kann außerdem nicht als Service installiert werden, da der Server absolute Pfadangaben benötigt.