Bom dia!
1) Tem, no nasm adicione a flag -felf64 ou no código mesmo, se for em binarios, use o comando
[BITS 64].
[BITS 64]
; código
2) Olha, tem vários programas para se fazer isso, você não precisa criar um...
Exemplo:
http://www.baixaki.com.br/download/a-bootable-usb.htmPossivelmente funciona para qualquer ISO...
3) Agora se você mesmo quer fazer um bootloader, tem vários tutoriais no Google, principalmente em inglês. Como ISO é somente um arquivo com estruturas organizadas, você mesmo pode fazer seu arquivo com os binários concatenados, se você usa alguma distro linux, pode fazer isso facilmente com o comando
cat ou usar um programa como o mkisofs para passar o bootloader e os arquivos.
Sugiro você ler a especificação da ISO para CDs, e ai você fazer um bootloader para isso, por exemplo, no projeto SOmBRA usasse o GRUB como bootloader, tanto que se quiser pode-se por mais de um kernel na mesma media.
4) Se for uma mídia como CD-R pode perder, agora USB ou media regravável, só se a bobagem for muito grande (queimar a media). Jah fiz CDs com o SOmBRA e funcionam em medias regraváveis ou pendrives.