Re: Етика поводження з "сильним ШІ"
Ні. СШІ поводиться так, як поводилася б людина, яка думає, відчуває, усвідомлює. Але ми не можемо напевно сказати, що він думає, відчуває, усвідомлює (якщо це не було спеціально розроблено в процесі створення СШІ). Напевно ми можемо лише сказати, що він так поводиться. Зокрема, каже "я думаю", "я відчуваю" і т.д.
Не дуже розумію в чому саме моє твердження є хибним? Ви про те, що СШІ, умовно, не "реально" думає, а лише симулює розумову активність подібно до людини? То, я вроді цього і не стверджував, з іншої сторони, у цьому питанні для мене це нічого не змінює.
they don’t care whether you call it a simulation of intelligence or real intelligence
Ні. Це ви неправильно сприйняли мої питання і весь час їх змішуєте. От особисто ви, коли відчуваєте нестепний зубний біль, що робите - ковтаєте таблетку, щоб біль став стерпним, чи одразу евтаназію застосовуєте? Звісно, якщо накладати дві проблеми, то можна отримати цілий спектр нових конкретних проблем (як-от евтаназію при болю). Але я спеціально розділив ці два питання. Вони різні. В першому ми не обговорюємо біль. У другому ми не обговорюємо смерть. Чи, принаймні, не обговорюємо їх як обов'язкову частину проблеми.
Якщо він може симулювати відчуття, зокрема болю, то чому ми маємо сумніватись, чи він його дійсно відчуває. Не залежно від того як саме він його відчуватиме, якщо СШІ каже "мені болить", то на це потрібно звернути увагу. Це моя думка. Про те, що далі з цим робити, я гадаю, трохи зарано говорити. Бо наразі важко навіть сказати, як саме це може проявлятися.
Тому, ймовірно, на початку розвитку СШІ евтаназія дійсно буде чи не єдиним виходом? Бо, гадаю, таблетка ШІ не допоможе. І, напевне, пройде ще якийсь час, перш ніж ми зможемо якось діагностувати такі випадки й навіть, можливо, прописувати "лікування"?
Проблеми, пов'язані з копіюванням людини - окрема тема. За описом - очевидно вбивають і відтворюють. Я от нещодавно у Hardspace грав, там цю проблему красиво довели до логічного завершення: вас там "архівують" і клонують у цей спосіб, але тіло розбирають на атоми на кілька секунд пізніше (і як з'ясовується, основна причина першого клонування - активація пункту договору, за яким усе "обладнання", включно з вашим новим тілом, є власністю компанії). При такій послідовності питання ніби має зникнути. Ну, там узагалі антиутопія, але якась убога... та й біс із ним, кораблі різати прикольно.
Вона здається є у мене у списку бажаного, тре буде таки якось теж спробувати