Как раз таки с умножением у вас и лажа. Истребление уменьшает время каста на 40% от текущего (а не делает время каста равным 40% от текущего как считаете вы), т.е. в вашем случае составит 2,67*(1-0,4) = 1,602с.
Дальше, с учетом модификатора рейтинга скорости также ошибка. В вашем случае он будет равен 2,67/4 = 0,6675. Чтобы получить итоговое время каста вам надо не отнимать от 2,4 (базовое время с учетом истребления) 1,33с, а умножать 2,4 с на модификатор рейтинга скорости - т.е. 2,4*0,6675 = 1,602с.