Salut,
Je ne suis pas un expert, loin de là, mais je vais tenter deux trois choses :
Déjà est-ce que les DNS sont correctement paramétrés ? je veux dire, outre la zone DNS chez OVH, t'es-tu monté un serveur DNS sur le mini ? C'est plus pratique pour travailler en local.
Toute la partie réseau semble OK.
Le certificat n'est pas reconnu, si c'est bien ce que je pense, c'est normal. Ton certificat, c'est toi qui l'a créé, c'est toi qui l'a signé. Pas un de ces organismes internationaux de type VeriSign ou autre. Donc les navigateurs, qui ne te connaissent pas, ne savent pas que ton certificat est bon, et lèvent une alerte. Il suffit de leur apprendre à te faire confiance, ou du moins à accepter ce certificat. Tant que c'est pour toi, pour des tests, pour du perso, à ta seule utilisation, tu t'en fous. S'il va falloir ouvrir l'accès à tes sites à d'autres personnes, soit tu les préviens, soit tu fais signer ton certificat par un organisme.
Pour ce qui est des AMP (Apache, MySQL, PHP), tout est présent dans OS X Server. Du moins, tout était présent dans Mac OS X Snow Leopard Server, je doute qu'Apple se soit amusé à retirer des fonctions aussi importantes que celles-là. Je pense donc que tu es mal parti en (ré)installant MySQL, puisqu'il était fourni.
Par ailleurs, je ne serais pas surpris (restes de vieux cours de SQL à l'école) que MySQL ait son propre mot de passe. Dans le monde SQL de microsoft, l'utilisateur admin des bases de données par défaut s'appelle sa, comme Sql Administrator. Je n'ai pas accès à mon serveur (pas de manière confortable), mais regarde dans les outils d'administration du serveur - ce doit être l'app Server justement - s'il n'y a pas un service MySQL.
Sur SnowLeoServer, les bases sont toutes rangées dans /var/mysql
Pour la question b), phpmyadmin n'est pas la base de données à proprement parler. Mais ça tu le sais. C'est le petit site qui permet de les gérer. En fait, cette différence est importante, parce que le phpmyadmin, finalement, c'est juste un site, techniquement. Tu le mets donc à la racine de son site. Imaginons que tu crées un dossier mysites dans lequel on trouverait www, test-blog, pourquoi pas phpmyadmin. Tu donnes à ce dossier mysites les mêmes droits que pour le dossier /Library/Webserver (là où sont stockés les sites par défaut) : chez moi, system en lecture et ecriture, admin aussi, et everyone en lecture seule. Attention que les dossiers parents à ton mysites doivent avoir les mêmes droits, du moins en lecture, ne serait-ce que pour accéder à ton dossier de sites.
Ensuite, pour chaque site, dans l'app Server, service Web, tu crées donc un site, et tu le fais pointer vers son dossier : mysites/phpmyadmin où tu auras mis les fichiers php de ce mini site.
Je ne sais pas si je suis clair. Ca fait longtemps que je ne me suis pas créé de petits sites, mais il me semble bien que ça marche comme cela.