No código do seu bootloader (programa residente no pic), acompanhe ele e veja onde está sendo setado o registro do baud para sua uart.
estou usando um cristal de 20mhz e estou setando 115,200 baud
creio que está certo...
por acaso pode ser o codigo que não está deixando inserir o bootloader?
Da forma que você escreve, você está confundindo bootloader com o seu código a carregar através do bootloader.
Veja, o bootloader já está inserido em seu PIC ou não está?
O bootloader tem que ser posto no PIC através de um gravador comum, como se fosse um programa qualquer. Será que está aí o problema e confusão?!!!
Alguns micros costumam ter fuses para gravar o bootloader na área correta.
Caso seu bootloader esteja dentro do PIC:
O problema de baudrate está no seu código de bootloader. Você precisa pegar os valores do código do Tiny bootloader, referente ao baudate e calcular para o seu cristal e para o seu chip e ver se este cálculo está dando exatemente o valor setado no programa no lado PC (Win, Linux).