Задачу треба розв'язати лише для 0 ≤ x, y ≤ 50. Найпростіше - створити двовимірний масив 50 на 50 і заповнити його з менших значень до більших, а потім брати звідти дані.
Втім, можу ще звернути увагу, що для випадку x>y наступний крок рекурсії буде братися за тою ж формулою - тобто
f(10,7) = f(8,5)+1 = f(6,3)+2 = f(4,1)+3 = f(2,-1)+4 = 4. Нескладно побачити, що нерекурсивна формула тут буде f(x,y)=(min(x,y)+1)/2 (ділення цілочисельне).
Ну і накидана за хвилинку програма на Python каже, що

>>> f(50,50)
1169627967

Що цілком вміщається в int.

Дякую.

Тобто програму можна записати так?

#include <iostream>
using namespace std;
long long f(long long x, long long y)
{
    if ((x<=0) || (y<=0)) return 0;
    else if (x<=y) return f(x-1,y-2)+f(x-2,y-1)+2;
    else if (x>y) return (min(x,y)+1)/2;
        //f(x-2,y-2)+1;
}
int main()
{
    long long x,y;
    cin>>x>>y;
    cout<<f(x,y)<<endl;
    return 0;
}

Хоча мені здається, що програма по часу не проходить деякі тести через:  f(x-1,y-2)+f(x-2,y-1)+2, x<=y;?

З попередньо обчислених в цьому ж масиві.

koala, дякую))