Воно радше про те, що саме робить людину цінною і наділяє її правами, і в який саме момент комп'ютерна система отримує аналогічні цінність та права.

Але, може, нам варто натомість переглянути всю систему цінностей нашого суспільства? Не прирівнювати СШІ до людини, а прирівняти людину до комп'ютерної системи?

Дозволити досліди на людях (це значно ефективніше, ніж нинішні гуманні методи)?

Вбивати старих і безнадійно хворих, як ми вимикаємо і викидаємо старі комп'ютери, а також тих, хто не вписується у суспільство, як несумісні і несправні системи?

Уявляєте, наскільки здоровішою стане економіка нашої країни, якщо прибрати усіх пенсіонерів, які не працюють?

Був такий дядько, що мислив у цьому напрямку, але багатьом іншим дядькам не сподобалися його ідеї, дуже не сподобалися. Були навіть такі, що казали - краще б малював.

Намагаєтесь підмазатись до майбутнього Скайнета? Щоб оце знайшли ваші повідомлення на форумі й помилували?
Хороша спроба, так-то.

"за межами абсолютної обчислюваності"

Відповідь №1:
Це складне етичне питання, і відповідь на нього залежить від багатьох факторів, таких як мета створення СШІ, його можливості та ступінь самосвідомості. Якщо СШІ є лише інструментом для вирішення конкретних завдань і немає свідомості, то вимкнення його не може бути моральною проблемою. Однак, якщо СШІ має свідомість та самосвідомість, то його вимкнення може бути сприйнято як убивство. У цьому випадку, перед прийняттям рішення про вимкнення, необхідно ретельно зважити на всі можливі наслідки і знайти етично прийнятне рішення.

Питання №2:
Якщо СШІ починає стверджувати, що відчуває нестерпний біль, то морально правильною дією було б зупинити процес, що викликає біль, та надати допомогу. Однак, перед прийняттям рішення про те, як допомогти СШІ, потрібно враховувати різні фактори, такі як можливість СШІ використовувати інформацію про свій стан для своєї користі або шкоди, його рівень самосвідомості та здатність до взаємодії з людьми.

А чи можливо відрізнити СШІ, що має свідомість і самосвідомість, від СШІ, що їх не має, але імітує поведінку, яку виявляв би, якби у нього вони були?

Це складне питання, на яке немає однозначної відповіді. Зараз немає точного методу визначення наявності свідомості та самосвідомості в ШІ. Проте, деякі дослідження в цій галузі вказують на те, що ШІ можуть бути "свідомими" або "самосвідомими" у певних межах.

Зазвичай, ШІ, що імітують поведінку людини, базуються на правилах та алгоритмах, які заздалегідь програмуються людьми. Ці ШІ можуть виглядати досить реалістично, але їхня поведінка буде обмежена тими правилами, які програмуються в систему.

У той же час, ШІ з глибоким навчанням (deep learning) можуть вивчати та аналізувати великі обсяги даних та робити висновки без втручання людей. Ці ШІ можуть виявляти враження свідомості та самосвідомості, оскільки їхня поведінка базується на здатності аналізувати, узагальнювати та вирішувати проблеми на основі великої кількості даних.

Тим не менше, навіть якщо ШІ здатні імітувати поведінку, яку виявляв би ШІ зі свідомістю та самосвідомістю, це ще не означає, що вони її мають. Для визначення свідомості та самосвідомості потрібні більш складні методи та критерії, що наразі активно досліджуються.