Я не зрозумів цього

Наскільки я зрозумів обидва запити виведуть тільки 1 рядок (за умови айдішка юзера унікальна) і він буде виглядати якось так

1 Vova

Яка практична користь таблиці dialogs? Навіщо вона задумовувалась?

З мого досвіду записів краще 2. Просто правильно таблиці розробити.
Я, колись було, зробив модуль переписки. Пропоную тобі таку структуру бази даних:

messages - id, theme(varchar), text(text)

inbox - id, message_id, user_id, sender_id, read_status(tinyint), delete_status ... other_statueses

Тобто, якшо я (user_id = 333) напишу тобі (user_id = 666), то створиться 2 записи в таблиці `inbox`. Один

1(message_id)  333 (user_id)   333(sender_id), 0(read_status)  - мій почтовий ящик

і другий

1(message_id)  666 (user_id)  333(sender_id), 0(read_status)   - твій почтовий ящик

Таким чином, я можу редагувати статуси в своєму ящику і ти незалежно.

SELECT * FROM inbox WHERE user_id=333 AND sender_id != user_id AND read = 0;  - мої непрочитані вхідні

Можна пришвидшити роботу твоєю таблицею dialogs і упростити SQL запроси добавивши поле inbox в таблицю inbox, яке б значило, що це вхідний чи вихідний меседж.
Я завжди вибираю шляхи які спрощують SQL вибірку.

Kniy, з таблицею messages й так ніяких питань нема.

Для second_user можна ще додати index.

CREATE INDEX second_user ON dialogs(second_user);

Якщо ви не проти, можу дати поради:

1. якщо у вас поле з id, то воно повинно містити закінчення id. Тобто в таблиці dialogs поля повинні називатись first_user_id та second_user_id.

2. якщо у вас табличка містить лише поля id та name (можливо ще description), то таку таблицю краще позначати префіксом dict_ (від англійського dictionary - словник).

3. якщо у вашій табличці міститься лише мапінг id між різними таблицями, то таку таблицю краще позначати префіксом map_

4. якщо у вашій табличці містяться історичні дані, наприклад, статистика перегляду вашого сайту, то краще її позначати префіксом hist_ (від англійського - history - історія)

Звичайно ж треба працювати з першим варіантом. Спробуйте такий варіант:

[code=sql]-- Спочатку виводите діалоги, де ви запрошували когось.
-- Тобто під first_user - це ви, отже з таблицею users вам треба з'єднуватись по second_user
select
    u.name as second_user_name
from dialogs as d
    join user as u
        on d.second_user = u.id
where d.first_user = 1
    and d.second_user = 2

-- Об'єднує запити (у них обо'язково повинна співпадати кількість полів)
union all

-- Тепер виводите діалоги, де вас запрошували.
-- Тобто під first_user - ваш співрозмовник, отже з таблицею users вам треба з'єднуватись по first_user
select
    u.name as second_user_name
from dialogs as d
    join user as u
        on d.first_user = u.id
where d.first_user = 2
    and d.second_user = 1[/code]

ktretyak, ви явно вказуєте в запиті id другого користувача (id 2),  коли на вході повинен бути тільки мій id (нехай id 1), а id співрозмовника повинен визначатися автоматично.
Ви мабуть не так зрозуміли завдання.

Доволі громіздкий, але варіант цікавий. Дякую.

EXPLAIN ?
Мабуть найочевидніше просто перевірити час виконання при великих обсягах даних.