Звісно, що не переводить. Виводьте в циклі по одному символу як число:

for(int i=0;i<strlen(ch);i++)
  cout << hex << int(ch) << endl;

так, і "\n" та endl - певним чином синоніми, визначайтеся із чимось одним (бажано endl).

Так, вибачте, забув індекс...

cout << hex << int(ch[i]) << endl;

Тпру... пригальмуйте. Давайте розбиратися в тому, що вам задали зробити.

Вміст файлу, щоб ви зрозуміли, знаходиться в чомусь близькому до 256-кового коду: кожен байт приймає одне з 256 різних значень. Найпростіше представити кожен байт як символ в якомусь кодуванні (наприклад, розширений ASCII). Оскільки 256=16^2, то досить зручно представляти байти як двозначні 16-кові числа, що і робить мій код.
А вам, як тепер виглядає, треба не вміст файла вивести, а 10-кове число, записане в файлі в кодуванні ASCII, перетворити в 16-кове. Ну то читайте числа, а не рядки, і буде вам щастя.

Для початку, давайте зрозуміємо, що:
- символ (char) і число в C++ - це одне й те саме, але функції вводу/виводу працюють із ними по-різному: так, якщо ви вводите 1 <Enter> 1 <Enter> такому шматку програми:

char c;
int i;
std::cin>>c>>i;

то матимете значення i - 1, а значення c - 49 (код цифри '1' в ASCII). Легко переконатися в цьому, наприклад, так:

cout << (c+i);

виведе 50.
- масив символів в класичному C (а відтак і в C++) виконує роль рядка (в C++ є і інші рядки); рядком вважається шматок масиву до символу з кодом 0 (його можна позначити як '\0'). strlen повертає довжину цього рядка. А int(r[ i]) явно перетворює значення з типу char на тип int, відтак, ми побачимо код символу, а не сам символ.

Ви все перепробували? А

int i;
file >> i;

теж?

 char ch[50];
       int g;
              ifstream file ("C:\\task.txt");
              while (!file.eof())
                {
                    file >> g;
                    file.getline(ch, sizeof(ch));
                       for(int i=0;i<strlen(ch);i++)
                       {
                           cout << g << " " << hex << int (ch[i]) << endl;
                       }   
                 }

ось і таке

Ви стверджуєте, що в файлі при цьому написано 11 і все?