1. настройки -> приложения -> тип содержимого: magnet -> действие: всегда предлагать
Вследующий раз выбираешь другое приложение.
если не идет первый способ
2. в адресной строке вводим about.config -> ищем настройку network.protocol‑handler.expose‑all -> меняем значение на false (правой кнопкой, переключить) -> нажимает на magnet‑ссылку в firefox, выбираем нужный клиент -> снова меняем значение network.protocol‑handler.expose‑all на true ->
alexsey2012, Пирс при каждом запуске должен устанавливать свой обработчик. Попробуйте запустить его с правами администратора, после этого запустите браузер и проверьте.
Еще в вашем случае рекомендую в настройках торрент клиента отключить проверку перехвата magnet‑ссылок. Называться она может по разному.