я думала, що потрібно перевіряти це шляхом сортування, але як виявилось моя думка неправильна

Насправді, скоріш, навпаки: в деяких алгоритмах сортування відбувається перевірка, чи масив упорядкований — якщо взяти за основу такий алгоритм і викинути все зайве, то можна отримати алгоритм перевірки впорядкованості.

Дійшло. Ліпше пізно як ніколи.

В загальних рисах я там трохи раніше написав, що треба робити — спробуйте зробити з цього програму.

Що почитати? Ну, є різні підручники з основ програмування, які рекомендують програмістам-першокурсникам, але жоден з них я толком не читав. Щось нам трохи на лекціях читали, так. Але алгоритми треба не стільки заучувати, як уміти конструювати з нічого...

Уявіть, що комп'ютера нема, і вам доводиться самостійно руками перевіряти, чи впорядкований список чисел і в якому напрямку він упорядкований. Опишіть послідовність дій, як ви це робите. Це і буде алгоритм, який можна потім буде переписати якоюсь мовою програмування.

Щоб вивести результат, після циклу треба буде зробити не ще один цикл (бо вивід робитиметься один раз), а просто if, який виводитиме результат залежно від значення t.

Потім, у самому циклі ще треба буде врахувати значення t, яке було перед цим:

Перед циклом у змінну t треба буде записати значення, яке вказує, що результат поки що невідомий.

Отже, змінна t може мати значення «зростання», «спадання», «невпорядкований» і «невідомо» — позначте їх цифрами і випишіть у коментарях, щоб потім не плутатись. Якщо перед повтором циклу було значення «невідомо»,  робити порівняння як раніше, записуючи відповідне значення за результатом перевірки. Якщо було значення «зростання», то, якщо два сусідні елементи йдуть у спадному порядку, записати «невпорядковано». І так само, якщо було «спадання», а два сусідні елементи йдуть у зростаючому порядку, це теж означає невпорядкованість. В решті випадків, значення t лишатиметься тим же, що було перед цим.

У вас у виводі if з присвоєнням замість порівняння — виправте це.

В циклі можна зробити вкладені if'и: зовнішній if вибирає значення t, внутрішні if'и порівнють елемент з сусіднім.
Або можна зробити if зі складними умовами: if(t==1 && m[ i ]<m[i+1]) ... else if(t==0 &&m[ i ]>m[i+1] і т.д.

бітова арифметика...
це моя остання підказка. з новим роком!

У циклі — if з кількома гілками зі складними умовами (де ми присвоюємо значення t з урахуванням того, яке значення лежить у ньому з попереднього повтору циклу). Протягом роботи цього циклу значення t може змінюватись (напр., якщо в нас є масив 1 2 3 4 5 6 8 7, то в t буде записано «зростання», доки не дійдемо до пари 8 7, після чого треба буде записати «невпорядковано», бо в змінну t було перед цим записано «зростання», а порядок цієї пари спадний).

Після циклу — if, де виводиться результат (це ви вже зробили, тільки там треба помилку виправити).

от дивіться, поки що все виглядає от так в мене:

#include <iostream>
#include <stdio.h>
#define MAX 50
int main()
{
    unsigned int i, n = 0;
    int m[MAX], t;
    do
    {
        printf("m[%i]=", n);
        scanf_s("%i", &m[n]);
    }
    while ((m[n++]) && (n != MAX));
    n = (m[n-1]) ? n : --n;
    t = 0; //результат невідомий
    for (i = 0; i < n - 1; i++)
    {
        if (m[i] < m[i + 1])
        {
            t = 1;// результат зростає
            if (t == 1 && m[i] < m[i + 1])
                ?????
            /*else if (m[i + 1] < m[i])
                t = 2; //результат спадає
            else
                t = 3; //результат невпорядкований*/
        }
    }
    if (t == 1)
        printf("Yes>>");
    else if (t == 2)
        printf("Yes <<");
    else
        printf("No");
    system("pause");
    return 0;
}

можливо, це так має бути if в if'і.. але тоді питання, я чомусь не дуже розумію, що треба прописати в середньому іф? як записати там t?