Guck mal in den Server properties.
Bei IP musst du dann natürlich deine Hamachi IP eingeben. Und bist du dir sicher das du die richtigen Ports freigeschaltet hast?
Wenn dein Freund connecten will muss er im gleichen Netzwerk sein und auf deine IP connecten, müsste eig. klappen.
Habt ihr beide die neusten Updates drauf? Also die Beta 1.4_01?
Oder habt ihr vllt. die falsche Server Version?
Ich würd dir Bukkit empfehlen:
Hier is ein kleine Anleitung dazu, aber auf Englisch