По-перше, дякую за майже ідеальне питання. Є все: умова, код і опис проблеми з достатнім для відтворення описом, а також додаткова корисна інформація (на кшталт вашого досвіду і середовища розробки). Навіть трохи невдала назва не псує враження.
По-друге, раджу трохи по стилю:
- акуратніше вирівнювати код (зайві пусті рядки та if в один рядок - погано);
- зазвичай прийнято не називати функції та змінні з великої літери;
- "магічні числа", тобто літерали всередині коду без пояснень - зло. Що таке 97? В C/C++ char, насправді, такі самі числа, як і int, і можна писати просто S[i]<'a' ('a'==97, можете перевірити), але краще скористатися функцією isupper з <ctype.h>/<cctype>, ця функція працюватиме і з іншими кодуваннями, а також чітко продемонструє ваш намір виявити велику літеру;
- змінні бажано ініціалізувати одразу при створенні:

int n = S.size();
int k = n;

- якщо у вас є кілька взаємовиключних if-else, їх можна записати так:

if (умова) {
    вираз;
} else if (умова) {
    вираз;
} else if (умова) {
    вираз;
} else {
    вираз;
}

або через switch-case. Це покращує читаність.
По-третє, по оптимальності:
- ви викликаєте Big_char 4 рази, замість викликати 1 раз і зберегти результат;
- ви передаєте в Big_char string та його довжину; загалом, лише в останніх версіях C++ string::size стала гарантовано швидкою, так що це могло б мати сенс, якби ви передавали посилання на стрічку (string &). Ви ж передаєте копію стрічки.

Ну і по суті - ви не дуже уважно виписали останню умову, про не натискання зайвого SHIFT в кінці стрічки. Наприклад, ви не зможете ввести "AA" менш ніж за 4 натискання (↑a↑a чи ↑↑aa), а цей код відповідає, що 3.

І так, підтримую ur_naz, що про скінчені автомати таки варто почитати. Хоча конкретно тут це буде на муху з обухом іти, та й у словник декому варто зазирнути.

А, ну і ще cin::operator>> читає до пробіла; тут це не має особливого значення, але в цілому це треба враховувати.
А ще бажано обгортати алгоритм в окрему функцію, без введення-виведення.

Ну вибачте, математичні терміни - то математичні терміни. Скінчена множина має скінчену кількість елементів, на відміну від нескінченої; а у вас як - кінцева множина і некінцева?

Ой, ну вибачте, виправив. За правилами, до речі, відмінюються, бо це просто слова; але якщо вам так приємніше - особисто вас не відмінюватиму. Хоча узагалі трохи дивно бачити зауваження до мого способу написання від людини, що жодного разу ще не спромоглася написати моє псевдо без помилок.

І як правильно називати тему питання, щоб мене зрозуміли? Я буду часто просити допомоги при розв'язанні задач.

Для порівняння:

#include <iostream>
#include <cctype>
#include <algorithm>

using namespace std;

int upper_length(const string& s,int start){
    int position = start;
    int size = s.size();
    while( position<size && isupper(s[position]) ){
        ++position;
    }
    return position-start;
}

int count_keys(const string& s)
{
    int size = s.size();
    int keys_needed = size;
    int upper;

    for(int i=0;i<size;i++){
        upper = upper_length(s,i);
        keys_needed += min(3, upper);
        i += max(0, upper-1);
    }
    if(upper>=3){
        keys_needed -= 1;
    }
    return keys_needed;
}

int main(){
    string s;
    getline(cin, s);
    cout<<count_keys(s);
    return 0;
}

Сподіваюся, пан ur_naz спроможеться написати розв'язок на скінчених автоматах, це буде найкращий варіант.