On ne peut pas parler d'interdit halakhique strict, néanmoins, pour la sœur, il ne convient pas de se montrer meikel à partir d'un certain âge, disons 12 ans.
Vous devez savoir ce qu'écrit le Rambam sur celui qui fait la bise à sa sœur (pourtant il est clair qu'il ne s'agît pas d'un problème de Hirhourim), cela s'appliquera certainement dans ce cas aussi.
Reste la possibilité de se baigner avec une tenue plus tsnoua que les maillots de bain généralement vendus.
Si la mère refuse de porter un maillot plus tsanoua, généralement ça n'est pas très grave -de nos jours - et pour le tsibour français (tant que les seules personnes qui peuvent la voir sont ses enfants).
Celui qui aurait des hirhourim dans ce cas, devrait aller consulter et se faire soigner.
Donc disons qu'il n'y a pas de issour, mais s'il y a une famille avec frère et sœur, s'ils ont au moins 12 et 13 ans, il convient de respecter la tsniout avec un tee-shirt et un short par-dessus le maillot, voire (-encore mieux) avec ce qu'on appelle un "maillot kasher".
Même si on suppose qu'il n'y a pas de hirhourim, il n'est pas bon qu'un jeune homme voie sa sœur dans cette tenue et ça ne devrait pas arriver lorsqu'ils sont à la maison (elle en serait gênée d'elle-même), dès lors pourquoi cela devrait être différent en vacances?
Elle ne l'est pas car "on" lui a mis en tête qu'à la piscine, il n'y avait pas de quoi être gênée, mais cette idée ne va pas dans le sens de la tsniout et il reste de toute façon mauvais pour un garçon de voir -même sa soeur en maillot.
Il n'y a pas de halakha fixe l'interdisant, mais la tsniout est une mida à développer et cultiver, pas une halakha fixe.
Et pour la sœur, il convient -selon moi- de se montrer un peu rigoureux (même si ce n'est pas totalement comparable au cas d'une piscine avec vis-à-vis où il faudrait imposer un "maillot-kasher", car pour le frère, on pourra se contenter d'un tee-shirt et d'un short en fonction du bon-sens).