Font является защищенным свойством, введенным в классе TControl иерархии компонентов. Вы можете получить доступ к свойству Font только после того, как вы создадите элемент управления (класс) с опубликованным свойством Font. Есть одна хитрость, позволяющая обойти это и иметь доступ к свойству Font любого потомка TControl, но будьте осторожны с этим, так как может случиться любая неприятность, если вы изменяете свойство Font класса, который не хочет, чтобы ее изменяли.

Хитрость заключается в создании в вашей секции implementation следующего описания класса:

type
  THack = class(TControl)
    public
      property Font;
  end;

затем ваш код может выглядеть приблизительно так:

if Popup1.PopupControl is TControl then
  if FontDialog1.Execute then
    THack(Popup1.PopupControl).Font := FontDialog1.Font;