> Может чтобы прояснить в целом проблему, приведу еще один пример
> (абстрактный):
>
> $$
> A = \sqrt [1[2]3]  {переменная}
> $$
>
> в итоге получиться
> корень степени 1[2 из числа 3 умноженое на
> ]переменная
>
> :(

Выше было уже: превая же закрывающая скобка рассматривается как конец параметра

то есть с точки зрения ТеХ (скобки параметра подчеркнул): \sqrt _[_ 1[2 _]_ 3]
чтобы этого избежать, проводим группировку [1{[2]}3] или [{1[2]3}],
тогда имеем: \sqrt _[_ {1[2]3} _]_