1 Востаннє редагувалося koala (03.04.2023 08:05:37)

Тема: Етика поводження з "сильним ШІ"

Для початку, пара визначень:
Штучний інтелект (ШІ) — розділ інформатики, що опікується формалізацією проблем та завдань, які традиційно класифікуються як інтелектуальна діяльність людини.
Сильний штучний інтелект — система, здатна виконати будь-яку задачу ШІ, яку здатна виконати людина, і, відтак, є в певних ситуаціях нерозрізненою із людиною.
Етика — дисципліна, що вивчає мораль, суспільні норми поведінки.

Питання №1: якщо колись буде створений СШІ, то чи буде моральним, на вашу думку, його вимкнути? Чим це відрізняється від убивства?
Питання №2: СШІ починає стверджувати, що відчуває нестерпний біль. Як морально правильно із ним поводитися в цьому випадку?

Додаткова література: Станіслав Лем, "Оповідання про пілота Піркса".

Подякували: Tarpan87, wander2

2

Re: Етика поводження з "сильним ШІ"

Аптайм навіть найкращого сервера все одно становить 99%, тобто як мінімум втрата свідомості час від часу гарантована.

3

Re: Етика поводження з "сильним ШІ"

1) якщо буде необхідність його вимкнути, то можна дати це діло іншому ШІ або якомусь в'язню у якого срок 2000 років (такі є)
2) якщо він відчуває нестерпну біль, це можна розглядати як питання №1

4

Re: Етика поводження з "сильним ШІ"

Напевно про таке можна замислюватися лише тоді, коли ШІ зможе усвідомлювати себе, отримавши ті відділи, які імітують психіку подібну до біологічної.

5 Востаннє редагувалося koala (03.04.2023 08:44:06)

Re: Етика поводження з "сильним ШІ"

frz написав:

Аптайм навіть найкращого сервера все одно становить 99%, тобто як мінімум втрата свідомості час від часу гарантована.

Ми використовуємо штучну кому для лікування і сон (частково - без снів) для відновлення сил.

Firefox is dead написав:

1) якщо буде необхідність його вимкнути, то можна дати це діло іншому ШІ або якомусь в'язню у якого срок 2000 років (такі є)

Це юридичний бік питання, ще й з припущенням, що буде якась відповідальність за вбивство СШІ, а моє питання - моральне.
Утім, навіть юридично організація вбивства карається важче за безпосередньо вбивство, бо це морально тяжчий злочин: і задумати вбивство, втягнути в нього когось іще і вчинити його - це гірше за просто вбити.

Firefox is dead написав:

2) якщо він відчуває нестерпну біль, це можна розглядати як питання №1

Але чи дійсно відчуває він? Як ми можемо знати, що він має кваліа болю? Інших людей ми оцінюємо за власними відчуттями і порівнянням поведінки різних людей; оцініть людей отут. А як оцінювати біль, який описує СШІ як такий, який він відчуває?

VTrim написав:

Напевно про таке можна замислюватися лише тоді, коли ШІ зможе усвідомлювати себе, отримавши ті відділи, які імітують психіку подібну до біологічної.

Ви визначення читали? Розділ інформатики себе ніколи не буде усвідомлювати. СШІ поводить себе так, ніби усвідомлює, і ми не можемо бути певні, що це не так.

Подякували: Firefox is dead1

6 Востаннє редагувалося Firefox is dead (03.04.2023 09:05:02)

Re: Етика поводження з "сильним ШІ"

1) процес вимкнення лягає на плечі компанії/людей яка її зробила
2) вона відчуває? - хай сама розбирається
фізичний біль? боліти нема чому
душевний біль? нехай напише собі ШІ психолога і поговорить з ним

Подякували: flatliner1

7

Re: Етика поводження з "сильним ШІ"

Ще раз: ми нездатні відрізнити СШІ від людини. Подивіться Вестворлд і припиніть використовувати попсову термінологію, я спеціально словничок написав.

Firefox is dead написав:

1) процес вимкнення лягає на плечі компанії/людей яка її зробила

А батьки мають право вбити свою дитину?

Firefox is dead написав:

2) вона відчуває? - хай сама розбирається
фізичний біль? боліти нема чому
душевний біль? нехай напише собі ШІ психолога і поговорить з ним

А люди теж мають самі розбиратися? Чи все ж ми маємо певний моральний обов'язок перед іншими людьми?

8 Востаннє редагувалося Firefox is dead (03.04.2023 09:39:37)

Re: Етика поводження з "сильним ШІ"

koala написав:

Ще раз: ми нездатні відрізнити СШІ від людини. Подивіться Вестворлд і припиніть використовувати попсову термінологію, я спеціально словничок написав.

Firefox is dead написав:

1) процес вимкнення лягає на плечі компанії/людей яка її зробила

А батьки мають право вбити свою дитину?

Firefox is dead написав:

2) вона відчуває? - хай сама розбирається
фізичний біль? боліти нема чому
душевний біль? нехай напише собі ШІ психолога і поговорить з ним

А люди теж мають самі розбиратися? Чи все ж ми маємо певний моральний обов'язок перед іншими людьми?

нехай люди cтворять спільноту з СШІ тоді нехай самі розбираються, вони ж ШІ а не люди, інша форма життя
а їх виключиння буде як заморозка часу (приклад сон)
або просто зменьшити їм кількість процесорного часу щоб вони були не такими активним

9

Re: Етика поводження з "сильним ШІ"

koala написав:

Питання №1: якщо колись буде створений СШІ, то чи буде моральним, на вашу думку, його вимкнути? Чим це відрізняється від убивства?

Перча частина, чи морально їсти тваринок? перед тим їх треба позбавити життя. Друга частина не зовсім корректна, тому що вимкнутий СШІ можна увімкнути і стартонути з того самого місця, тому це скоріше не убивство а призупинення, глибокий сон, втрата свідомості на невизначений час. Людину оживити не можливо, на відміну від СШІ.

koala написав:

Питання №2: СШІ починає стверджувати, що відчуває нестерпний біль. Як морально правильно із ним поводитися в цьому випадку?

Питання дуже цікаве, але в реалі я думаю ніхто не буде сильно цим заморочуватись, просто рісетнуть і будуть навчати нову модель. В поточних "ШІ" ж є галюцинації, з ними потрошку борються підкручуючи коефіцієнти.

Подякували: Firefox is dead1

10

Re: Етика поводження з "сильним ШІ"

Chemist-i написав:

Перча частина, чи морально їсти тваринок? перед тим їх треба позбавити життя.

Насправді не обов'язково, але європейська цивілізація зазвичай розглядає поїдання живих істот як менш моральне ніж мертвих. Хоча тих же устриць їдять.
Але вбивство - це свідоме припинення життя людини. Тварин ми розглядаємо як менш цінних, і зазвичай це пов'язується саме з інтелектом (хоча є й інші пояснення, на кшталт безсмертної душі). Як ми маємо розглядати СШІ в цій шкалі цінностей і чому?

Chemist-i написав:

вимкнутий СШІ можна увімкнути і стартонути з того самого місця

Далеко не факт. Якщо він реалізований, скажімо, на скінчених автоматах на кшталт дискретних комп'ютерів - тоді дійсно можемо, але це ж не єдиний засіб розробки ШІ; не факт, що ми зможемо відтворити стан, наприклад, квантового комп'ютера. Але навіть якщо можемо - то ми можемо ухвалити рішення не вмикати його. Чи є це аморальним?

Chemist-i написав:

в реалі я думаю ніхто не буде сильно цим заморочуватись, просто рісетнуть і будуть навчати нову модель

В реалі й з людьми (кріпаками чи рабами, наприклад) не сильно цим заморочувалися досить довго, та й наші північні сусіди тими ж чмобиками не дуже заморочуються. Але ми зараз вважаємо це аморальним. Це і є суттю питання: чи буде аморальною така поведінка з СШІ? Які критерії визначення одних інтелектуальних систем вищими, а інших нижчими?
Поточні продукти ШІ — очевидно не люди, але вони ж і не СШІ.

11

Re: Етика поводження з "сильним ШІ"

koala написав:

А батьки мають право вбити свою дитину?

Я чув про людину, мати якої під час вагітності намагалася припинити вагітність самостійно якимись народними отрутами, проте дитина народилася, але вона мала дуже погане здоров'я та померла молодою через хвороби, спричинені невдалим абортом. Наскільки я розумію, жінка не несе відповідальності за невдалий аборт, тому це вважається її правом. Це окрім самого права на аборт. Ще окрема стаття КК щодо вбивства матір'ю новонародженої дитини нам про щось, та має говорити. Мабуть, немовля це не людина, якщо звичайної статті за умисне вбивство недостатньо для таких випадків.

12

Re: Етика поводження з "сильним ШІ"

Tarpan87 написав:
koala написав:

А батьки мають право вбити свою дитину?

Я чув про людину, мати якої під час вагітності намагалася припинити вагітність самостійно якимись народними отрутами, проте дитина народилася, але вона мала дуже погане здоров'я та померла молодою через хвороби, спричинені невдалим абортом. Наскільки я розумію, жінка не несе відповідальності за невдалий аборт, тому це вважається її правом. Це окрім самого права на аборт.

Немає ніякого "права на аборт". Навіть у тих країнах, де він дозволений, аборт не розглядається як право.

Tarpan87 написав:

Ще окрема стаття КК щодо вбивства матір'ю новонародженої дитини нам про щось, та має говорити. Мабуть, немовля це не людина, якщо звичайної статті за умисне вбивство недостатньо для таких випадків.

Є окремі статті і пункти КК щодо вбивства:
- малолітньої дитини або жінки, яка завідомо для винного перебувала у стані вагітності;
- заручника або викраденої людини;
- вчинене з особливою жорстокістю
- з корисливих мотивів;
- з хуліганських мотивів;
- особи чи її близького родича у зв'язку з виконанням цією особою службового або громадського обов'язку;
- з метою приховати інше кримінальне правопорушення або полегшити його вчинення;
- поєднане із зґвалтуванням або сексуальним насильством;
- вчинене на замовлення;
- вчинене за попередньою змовою групою осіб;
- вчинене особою, яка раніше вчинила умисне вбивство;
- з мотивів расової, національної чи релігійної нетерпимості;
- вчинене в стані сильного душевного хвилювання;
- при перевищенні меж необхідної оборони;
- через необережність.

Наявність усіх цих окремих статей нічого не каже про те, чи є жертва чи вбивця людиною, це говорить лише про складність моральних питань, пов'язаних з убивством.
До речі, якщо новонародженого вб'є не матір, то це буде вже вбивство малолітньої дитини і каратиметься тяжче за вбивство дорослого. Тобто сенс цієї статті — не в статусі дитини, а в статусі матері.

Подякували: Tarpan871

13

Re: Етика поводження з "сильним ШІ"

Дякую за роз'яснення. Дізнався багато нового.

14 Востаннє редагувалося wander (03.04.2023 13:02:12)

Re: Етика поводження з "сильним ШІ"

frz написав:

Аптайм навіть найкращого сервера все одно становить 99%, тобто як мінімум втрата свідомості час від часу гарантована.

Квантове майбутнє не за такими вже і далекими горами. З іншої сторони, хто сказав, що перший СШІ випустять гуляти на сервери?

koala написав:

Питання №1: якщо колись буде створений СШІ, то чи буде моральним, на вашу думку, його вимкнути? Чим це відрізняється від убивства?

Для мене, це питання з моральної точки зору таке ж, як і прийняття рішення про евтаназію для людини. Інше питання, які причини цього рішення. Мораль дуже відносна. Припинення життя невиліковної людини - вбивство, з точки зору моралі? А, припинення життя серійного вбивці? Ці ж питання ми можемо перенести і на ШІ. Чи буде вбивством вимкнення СШІ, якщо виявиться, що він має помилку в коді (хворобу), через яку він не може функціонувати і яку не можна виправити? А, вимкнення СШІ, який загрожує існуванню людства? Гадаю, в останньому питанні всі думатимуть про власне виживання, а не про мораль :)

koala написав:

Питання №2: СШІ починає стверджувати, що відчуває нестерпний біль. Як морально правильно із ним поводитися в цьому випадку?

Власне, до чого я й вів. Я вважаю, щоб дати відповідь на ці питання щодо СШІ, нам спочатку варто самим визначитись з відповіддю на ці питання, стосовно самих себе. Інакше це буде звичайнісіньким лицемірством.

Chemist-i написав:

Друга частина не зовсім корректна, тому що вимкнутий СШІ можна увімкнути і стартонути з того самого місця, тому це скоріше не убивство а призупинення, глибокий сон, втрата свідомості на невизначений час.

Дилема телепортації. Якщо людину перенести (телепортувати) з точки А в точку Б, то людина яка з'явиться у точці Б, та ж сама людина, що і була в точці А? Що відбудеться, коли бодай лише на секунду людина зникне (розчепиться)? Чи буде це вбивством? Вимкнення СШІ бодай на секунду, а потім ввімкнення його назад - означатиме, що це той самий СШІ, що був до вимкнення?

15

Re: Етика поводження з "сильним ШІ"

wander написав:

Мораль дуже відносна. Припинення життя невиліковної людини - вбивство, з точки зору моралі? А, припинення життя серійного вбивці? Ці ж питання ми можемо перенести і на ШІ. Чи буде вбивством вимкнення СШІ, якщо виявиться, що він має помилку в коді (хворобу), через яку він не може функціонувати і яку не можна виправити? А, вимкнення СШІ, який загрожує існуванню людства?

Не те щоб "відносна", а складна в перехідних моментах, зокрема як тут (до речі, ваші приклади стосовно людей - таки аморальні). Саме тому я розділив питання на дві частини. Перша стосується виключно вимкнення без зачіпання інших проблем - загроз, справності і т.д. От просто є СШІ, є людина, що має доступ до кнопки, і от їй без особливої потреби захотілося вимкнути СШІ. Скажімо, $2 на місяць за електрику не хоче платити, хоча потреб у грошах не має.

wander написав:

Власне, до чого я й вів. Я вважаю, щоб дати відповідь на ці питання щодо СШІ, нам спочатку варто самим визначитись з відповіддю на ці питання, стосовно самих себе. Інакше це буде звичайнісіньким лицемірством.

Чому ж, відповідь на ці питання стосовно себе у нас більш-менш є, принаймні для 90% випадків, де немає додаткових проблем, які б переводили питання в інше річище. Якщо ви бачите людину, що плаче, ви її пожалієте і спробуєте допомогти. Якщо ви бачите, що її позірна реакція очевидно неправдива - ви її засудите, ще раз відео перегляньте.

wander написав:

Що відбудеться, коли бодай лише на секунду людина зникне (розчепиться)? Чи буде це вбивством?

Очевидно, ні, бо потім з'явиться. От якщо не з'явиться і це "не з'явиться" було кимось організоване - то це буде вбивством. А якщо з'явиться навіть із великою затримкою - то це подорож у часі. Можу навіть собі уявити, що когось намагалися "зникнути" посередині телепортації, але потім інші люди витягли пізніше - це буде замах на вбивство і порятунок.
Але ви намагаєтеся розглядати ІНШІ проблеми. Так, підняті мною проблеми - далеко не єдині, і я зацікавлений у ширшому обговоренні, але все ж таки не удавайте, ніби наявність інших проблем якось нівелює ці.

16 Востаннє редагувалося frz (03.04.2023 15:31:31)

Re: Етика поводження з "сильним ШІ"

Chemist-i
Chemist-i написав:

чи морально їсти тваринок? перед тим їх треба позбавити життя.

Давня українська традиція каже, що заради миски холодцю не конче різати цілу свиню, достатньо однієї ноги і хай далі чвалає на костилі до Паски.

17

Re: Етика поводження з "сильним ШІ"

wander написав:

хто сказав, що перший СШІ випустять гуляти на сервери?

Гуляти не знаю, але ж жити/хоститись він (воно) десь повинен.

18

Re: Етика поводження з "сильним ШІ"

frz написав:
Chemist-i
Chemist-i написав:

чи морально їсти тваринок? перед тим їх треба позбавити життя.

Давня українська традиція каже, що заради миски холодцю не конче різати цілу свиню, достатньо однієї ноги і хай далі чвалає на костилі до Паски.

frz

По пам'яті пишу, автора самі гугліть кому цікаво.

Запитав сусід сусіда у сучасному селі,
- "А чого це твій кабанчик шкандиба на костелі?",
той сказав - "З харчами туго, уривається терпець, я у нього задню ногу відрубав на холодець"

19 Востаннє редагувалося wander (03.04.2023 18:23:03)

Re: Етика поводження з "сильним ШІ"

koala написав:

Перша стосується виключно вимкнення без зачіпання інших проблем - загроз, справності і т.д. От просто є СШІ, є людина, що має доступ до кнопки, і от їй без особливої потреби захотілося вимкнути СШІ. Скажімо, $2 на місяць за електрику не хоче платити, хоча потреб у грошах не має.

Ну, гаразд, якщо СШІ може думати як людина, відчувати як людина, усвідомлювати як людина, тобто його неможливо відрізнити від людини, тоді вимкнення СШІ є рівноцінним вбивству людини. Звісно, якщо вимкнення СШІ означатиме безповоротне припинення його існування, тобто аналогічне смерті для людей.

Щодо вашого другого питання. Якщо ми визнаємо, що СШІ нічим не відрізняється від нас самих, тоді він теж має право на евтаназію. Звісно, якщо це право діє і на нас. Бо, зазвичай, як справа доходить до питання евтаназії, то думки розходяться. Тепер моя суб'єктивна думка. Я вважаю, має бути дозволено вимкнути СШІ на його вимогу, щоб позбавити нестерпних страждань. Те саме я вважаю і стосовно людей.

koala написав:

Чому ж, відповідь на ці питання стосовно себе у нас більш-менш є, принаймні для 90% випадків, де немає додаткових проблем, які б переводили питання в інше річище.

Тобто у більшості з нас є одностайна думка щодо евтаназії? Ви можете це стверджувати? Бо от особисто я не можу.
Опитування, проведене центром соціологічних досліджень порталу «СуперДжоб» 17 квіт. – 10 трав. 2007 р., показало, що 51% українців вважають, що людина має право скористатися допомогою лікарів з метою добровільної смерті.

Так, опитування давнє та й джерело сумнівне, але це єдине опитування на цю тему в Україні, принаймні єдине яке мені вдалось знайти. Американські опитування, до прикладу, наводять цифри у 72% підтримки того, що лікарі повинні мати можливість допомогти невиліковно хворим пацієнтам померти. Хоча лише 54% американців вважає, що самогубство за допомогою лікаря є морально прийнятним.

Цьому наводять цікаве пояснення

These findings are in line with a general tendency for Americans often to be hesitant to ban behaviors even if they think they are morally wrong. It is not surprising, then, that Americans remain more likely to say doctor-assisted suicide is morally wrong than to say it shouldn't be made legal. Similar patterns are evident in their attitudes about abortion and same-sex relations.

Як на мене, все ще зарано говорити про якусь одностайність у цьому питанні.

Прихований текст
koala написав:

до речі, ваші приклади стосовно людей - таки аморальні

От бачите, схоже у нас різні поняття про аморальність.

koala написав:

Очевидно, ні, бо потім з'явиться. От якщо не з'явиться і це "не з'явиться" було кимось організоване - то це буде вбивством.

Ну, гаразд, зайду трохи з іншої сторони. От була людина, потім вона зникла і знову з'явилась через деякий час. Чи достатньо лише зовнішніх ознак того, що людина яка з'явилась одна і та ж сама людина?

Derek Parfit and others consider a hypothetical "teletransporter", a machine that puts you to sleep, records your molecular composition, breaking you down into atoms, and relaying it to Mars at the speed of light. On Mars, another machine re-creates you (from local stores of carbon, hydrogen, and so on), each atom in exactly the same relative position. Parfit poses the question of whether or not the teletransporter is actually a method of travel, or if it simply kills and makes an exact replica of the user.

20

Re: Етика поводження з "сильним ШІ"

Ну от знову...

wander написав:

Ну, гаразд, якщо СШІ може думати як людина, відчувати як людина, усвідомлювати як людина, тобто його неможливо відрізнити від людини,

Ні. СШІ поводиться так, як поводилася б людина, яка думає, відчуває, усвідомлює. Але ми не можемо напевно сказати, що він думає, відчуває, усвідомлює (якщо це не було спеціально розроблено в процесі створення СШІ). Напевно ми можемо лише сказати, що він так поводиться. Зокрема, каже "я думаю", "я відчуваю" і т.д.

wander написав:

Тобто у більшості з нас є одностайна думка щодо евтаназії?

Ні. Це ви неправильно сприйняли мої питання і весь час їх змішуєте. От особисто ви, коли відчуваєте нестепний зубний біль, що робите - ковтаєте таблетку, щоб біль став стерпним, чи одразу евтаназію застосовуєте? Звісно, якщо накладати дві проблеми, то можна отримати цілий спектр нових конкретних проблем (як-от евтаназію при болю). Але я спеціально розділив ці два питання. Вони різні. В першому ми не обговорюємо біль. У другому ми не обговорюємо смерть. Чи, принаймні, не обговорюємо їх як обов'язкову частину проблеми.

wander написав:

Ну, гаразд, зайду трохи з іншої сторони. От була людина, потім вона зникла і знову з'явилась через деякий час. Чи достатньо лише зовнішніх ознак того, що людина яка з'явилась одна і та ж сама людина?

Ой, та чого ви старого Геракліта тягаєте. Нащо зникла-з'явилася? Могла просто лягти поспати. Чи навіть очима кліпнути. От ви, після того, як кліпнули - це той самий ви чи вже інший? Неможливо увійти двічі в одну річку, бо вода вже тече інша. У вас у двох сусідніх секундах не будуть однакові думки. Але це все ще ви. Бо ми так визначаємо "вас".

Проблеми, пов'язані з копіюванням людини - окрема тема. За описом - очевидно вбивають і відтворюють. Я от нещодавно у Hardspace грав, там цю проблему красиво довели до логічного завершення: вас там "архівують" і клонують у цей спосіб, але тіло розбирають на атоми на кілька секунд пізніше (і як з'ясовується, основна причина першого клонування - активація пункту договору, за яким усе "обладнання", включно з вашим новим тілом, є власністю компанії). При такій послідовності питання ніби має зникнути. Ну, там узагалі антиутопія, але якась убога... та й біс із ним, кораблі різати прикольно.