SPELL_DAMAGE - мгновенный урон от заклинания
SPELL_PERIODIC_DAMAGE - переодический урон от наложенного заклинания (когда на противнике висит какая то дота и она переодически тикает)
SPELL_CAST_SUCCESS - мгновенно применённое заклинание (инстант-касты и потоковые касты)
SPELL_CAST_START - начало каста заклинания
Вообще, алгоритм достаточно просто реализовать:
Каждый SPELL_CAST_SUCCESS и SPELL_CAST_START должен давать 1 стак Неустойчивости при условии, что на игроке есть дебафф Неустойчивая магия.