Non credo esista una formula precompilata per un caso del genere. E' tuttavia di semplice implementazione.
Consideriamo questo schemino:
La nave viaggia con un angolo

rispetto al Nord (angoli positivi andando in verso antiorario).
Il vento soffia con un angolo

rispetto al Nord (angoli positivi andando in verso antiorario).
Il vento soffia con un angolo

rispetto alla direzione della barca (angoli positivi andando in verso antiorario, ecco perché nella figura ho indicato l'angolo cambiato di segno).
Partiamo con il problema di ricavare la direzione del vento reale, ovvero ricavare l'angolo

noti

ed

.
E' facile dedurre, dalla figura, che vale:

Per quanto riguarda la velocità, devi solo fare opportunamente una pesatura tenendo conto della direzione del vento rispetto alla direzione della nave.
Se sulla nave, che viaggia a velocità

, rilevi una certa

, la vera velocità del vento sarà:

Banalmente se hai vento a poppa, viaggi a velocità X e senti vento Y, la vera velocità del vento è ovviamente X+Y. Se hai il vento a 90°, quello che senti è quello che veramente è, in quanto non hai velocità relativa della tua imbarcazione rispetto al vento.
* ho visto tardi che volevi usare come riferimento il vento che viene da prua e non da poppa. Penso sia comunque semplice adattare le soluzioni qui sopra.