Твоя формула на моем серве близка к правильности. При моем значении хасты по расчету 1,16, реально показывает 1,13, но это заставило меня задуматься, а не стакается ли у нас сова с ретриком, хотя поверить в это очень трудно, ибо на серве не так много подобных багов. Пойду сегодня на манекен в компании с совой, ретриком и шамой))
По формуле второй получается слишком далекое от правильности число, видимо где-то у них был косяк в скобках, знаках...