Guest Additions це дійсно варіант, який першим спадає на думку.
Також є варіант як обійтися без Guest Additions.
Шукаємо де встановлено VirtualBox на хості і в консолі / cmd змінюємо директорію (команда cd) - ось приклад, але потрібно знати куди саме було встановлено програму
cd "C:\Program Files\Oracle\VirtualBox"
Далі додаємо кастомні резолюшни, тут треба знати точну назву віртуальної машини і написати замість VM_NAME
VBoxManage setextradata "VM_NAME" "CustomVideoMode1" "1920x1080x32"
VBoxManage setextradata "VM_NAME" "CustomVideoMode2" "1600x900x32"
VBoxManage setextradata "VM_NAME" "CustomVideoMode3" "1366x768x32"
Перезавантажити віртуалку, нові резолюшни повинні стати доступними на віртуалці.