En el panel de control de los registradores de dominio debes buscar una opción para establecer/cambiar los registros NS (Name server) del dominio.
Un error común que vemos es que los usuarios establecen registros "NS" en los registros DNS de sus propios dominios. Esto no es correcto.
Los registros que realmente necesitan ser cambiados se encuentran en los registros del TLD (Top Level Domain) del dominio principal, que es la parte .com o .net de tu dominio (a veces llamado extensión de dominio).
Al cambiar el NS en el TLD estás reasignando la autoridad de tu dominio a otros servidores DNS. Por lo tanto, puedes ver que cambiar los registros NS en el DNS de tu propio dominio no funcionará y no tiene sentido de todas formas ya que estás intentando cambiar los servidores DNS utilizados por el dominio para que estos registros sean ignorados.
En la mayoría de los sitios web de los registradores de dominios, la página de configuración de los registros del "servidor de nombres" de tu dominio estará separada de la página de configuración de los registros DNS del dominio. A veces, es posible que tengas que solicitar el cambio a través de un ticket de soporte con ese registrador de dominio.
Ponte en contacto con tu registrador de dominios si sigues teniendo problemas.