21

Re: Етика поводження з "сильним ШІ"

koala написав:

Ні. СШІ поводиться так, як поводилася б людина, яка думає, відчуває, усвідомлює. Але ми не можемо напевно сказати, що він думає, відчуває, усвідомлює (якщо це не було спеціально розроблено в процесі створення СШІ). Напевно ми можемо лише сказати, що він так поводиться. Зокрема, каже "я думаю", "я відчуваю" і т.д.

Не дуже розумію в чому саме моє твердження є хибним? Ви про те, що СШІ, умовно, не "реально" думає, а лише симулює розумову активність подібно до людини? То, я вроді цього і не стверджував, з іншої сторони, у цьому питанні для мене це нічого не змінює.

they don’t care whether you call it a simulation of intelligence or real intelligence

koala написав:

Ні. Це ви неправильно сприйняли мої питання і весь час їх змішуєте. От особисто ви, коли відчуваєте нестепний зубний біль, що робите - ковтаєте таблетку, щоб біль став стерпним, чи одразу евтаназію застосовуєте? Звісно, якщо накладати дві проблеми, то можна отримати цілий спектр нових конкретних проблем (як-от евтаназію при болю). Але я спеціально розділив ці два питання. Вони різні. В першому ми не обговорюємо біль. У другому ми не обговорюємо смерть. Чи, принаймні, не обговорюємо їх як обов'язкову частину проблеми.

Якщо він може симулювати відчуття, зокрема болю, то чому ми маємо сумніватись, чи він його дійсно відчуває. Не залежно від того як саме він його відчуватиме, якщо СШІ каже "мені болить", то на це потрібно звернути увагу. Це моя думка. Про те, що далі з цим робити, я гадаю, трохи зарано говорити. Бо наразі важко навіть сказати, як саме це може проявлятися.
Тому, ймовірно, на початку розвитку СШІ евтаназія дійсно буде чи не єдиним виходом? Бо, гадаю, таблетка ШІ не допоможе. І, напевне, пройде ще якийсь час, перш ніж ми зможемо якось діагностувати такі випадки й навіть, можливо, прописувати "лікування"?

koala написав:

Проблеми, пов'язані з копіюванням людини - окрема тема. За описом - очевидно вбивають і відтворюють. Я от нещодавно у Hardspace грав, там цю проблему красиво довели до логічного завершення: вас там "архівують" і клонують у цей спосіб, але тіло розбирають на атоми на кілька секунд пізніше (і як з'ясовується, основна причина першого клонування - активація пункту договору, за яким усе "обладнання", включно з вашим новим тілом, є власністю компанії). При такій послідовності питання ніби має зникнути. Ну, там узагалі антиутопія, але якась убога... та й біс із ним, кораблі різати прикольно.

Вона здається є у мене у списку бажаного, тре буде таки якось теж спробувати :)

22

Re: Етика поводження з "сильним ШІ"

"Боліти" в СШІ може хіба що мікросхема сервера на якому він (воно) хоститься. Отже, може йтися про відчуття типу нудьги, туги та інших "ги".

О, ідея для професії майбутнього - психолог для СШІ.

23

Re: Етика поводження з "сильним ШІ"

frz написав:

"Боліти" в СШІ може хіба що мікросхема сервера на якому він (воно) хоститься. Отже, може йтися про відчуття типу нудьги, туги та інших "ги".

О, ідея для професії майбутнього - психолог для СШІ.

Як прочитати чужу кваліа?

24

Re: Етика поводження з "сильним ШІ"

koala написав:

Як прочитати чужу кваліа?

Не знаю, але сьогодні я дізнався що існує таке слово

25

Re: Етика поводження з "сильним ШІ"

frz написав:

Не знаю, але сьогодні я дізнався що існує таке слово

Я зустрічав це слово раніше, проте так і не розібрався до кінця що це. Як я пам'ятаю там не все так однозначно, прихильники різних філософських течій дають різні визначення та/чи доповнення. Але в цілому, як я зрозумів, це про суб'єктивний досвід. А, якщо він суб'єктивний, то як це можна прочитати і, що це взагалі має означати - так досі й не зрозуміло.

Прихований текст

Зрештою існування кваліа теж досить дискусійне питання.

26

Re: Етика поводження з "сильним ШІ"

Поки що вважаю більш реалістичним гібрид людини із слабким ШІ. Той же ҐПТ але без посередництва очей і пальців у якості вводу-виводу інфи. Щось на зразок гарнітури блютуз, але сприйматиме хвилі мозку (цю ланку без вживлення електродів у мозок зовсім собі не уявляю).

27 Востаннє редагувалося Firefox is dead (04.04.2023 07:14:35)

Re: Етика поводження з "сильним ШІ"

frz написав:

Поки що вважаю більш реалістичним гібрид людини із слабким ШІ. Той же ҐПТ але без посередництва очей і пальців у якості вводу-виводу інфи. Щось на зразок гарнітури блютуз, але сприйматиме хвилі мозку (цю ланку без вживлення електродів у мозок зовсім собі не уявляю).

https://yewtu.be/watch?v=-HYbFm67Gs8 ?
p.s. відево не дивився, просто назва співпала

28

Re: Етика поводження з "сильним ШІ"

frz написав:

Поки що вважаю більш реалістичним гібрид людини із слабким ШІ. Той же ҐПТ але без посередництва очей і пальців у якості вводу-виводу інфи. Щось на зразок гарнітури блютуз, але сприйматиме хвилі мозку (цю ланку без вживлення електродів у мозок зовсім собі не уявляю).

Що таке "слабкий ШІ", можете дати визначення?

29

Re: Етика поводження з "сильним ШІ"

koala написав:
frz написав:

Поки що вважаю більш реалістичним гібрид людини із слабким ШІ. Той же ҐПТ але без посередництва очей і пальців у якості вводу-виводу інфи. Щось на зразок гарнітури блютуз, але сприйматиме хвилі мозку (цю ланку без вживлення електродів у мозок зовсім собі не уявляю).

Що таке "слабкий ШІ", можете дати визначення?

Мабуть визначення ні.
Я сумніваюся, що зараз на це прийшов час. Це швидше в якості роздумів за пляшкою пепсі.

Слабкий ШІ це приблизно ҐПТ п'ятої версії - ще без свідомості на зразок людської, але з можливостями обробки інформації що перевищує здатність будь-якого людського генія.

30

Re: Етика поводження з "сильним ШІ"

Молчановський написав цікавий пост на суміжну тему - про великі дані для навчання ШІ і можливості законного закриття доступу до них.

31

Re: Етика поводження з "сильним ШІ"

frz написав:
koala написав:
frz написав:

Поки що вважаю більш реалістичним гібрид людини із слабким ШІ. Той же ҐПТ але без посередництва очей і пальців у якості вводу-виводу інфи. Щось на зразок гарнітури блютуз, але сприйматиме хвилі мозку (цю ланку без вживлення електродів у мозок зовсім собі не уявляю).

Що таке "слабкий ШІ", можете дати визначення?

Мабуть визначення ні.
Я сумніваюся, що зараз на це прийшов час. Це швидше в якості роздумів за пляшкою пепсі.

Слабкий ШІ це приблизно ҐПТ п'ятої версії - ще без свідомості на зразок людської, але з можливостями обробки інформації що перевищує здатність будь-якого людського генія.

Еее... ну тобто калькулятор?

Подякували: Tarpan87, leofun012

32

Re: Етика поводження з "сильним ШІ"

Калькулятор, смартфон, та навіть класична книжка - це все результати нагромадження знань і вмінь, які певним чином роблять з людини умовного кіборга. Зараз із ҐПТ це ще більш очевидно. Залишається обмеження через ввід-вивід, в мене сліпий набір, але для багатьох людей це суттєвий бар'єр швидкості взаємодії.

33 Востаннє редагувалося Firefox is dead (04.04.2023 18:45:32)

Re: Етика поводження з "сильним ШІ"

frz написав:

Калькулятор, смартфон, та навіть класична книжка - це все результати нагромадження знань і вмінь, які певним чином роблять з людини умовного кіборга. Зараз із ҐПТ це ще більш очевидно. Залишається обмеження через ввід-вивід, в мене сліпий набір, але для багатьох людей це суттєвий бар'єр швидкості взаємодії.

https://replace.org.ua/post/181669/#p181669 $999 ваш бар'єр взаємодії коштує, ну і запити до API

34 Востаннє редагувалося frz (04.04.2023 19:21:56)

Re: Етика поводження з "сильним ШІ"

Firefox is dead написав:
frz написав:

Калькулятор, смартфон, та навіть класична книжка - це все результати нагромадження знань і вмінь, які певним чином роблять з людини умовного кіборга. Зараз із ҐПТ це ще більш очевидно. Залишається обмеження через ввід-вивід, в мене сліпий набір, але для багатьох людей це суттєвий бар'єр швидкості взаємодії.

https://replace.org.ua/post/181669/#p181669 $999 ваш бар'єр взаємодії коштує, ну і запити до API

Аргумент валідний, але я трохи не про те. Так, за допомогою API можна вбудувати ґпт в месенджер чи в інший додаток. Але взаємодія людини з месенджером чи іншим додатком відбувається через очі і пальці (часом голосом теж), а це суттєво сповільнює і відповідно накладає свої обмеження. Досліди Ілона Маска із вживленням електродів у мозок - якраз той напрямок, в якому криво-косо але рухається людство аби позбутися цього обмеження і стати кіборгами-гібридами.

дисклеймер

я абсолютно не фанат Ілона Маска як особистості, при цьому декілька його досягнень вже тепер беззаперечно революційні в масштабах людства

Але ж повинен бути спосіб без колупання викруткою в мізках...

35 Востаннє редагувалося flatliner (04.04.2023 20:26:32)

Re: Етика поводження з "сильним ШІ"

Для мене це релігійно-світоглядне питання, бо я заперечую можливість виникнення свідомості з матерії, як це декларує матеріалізм. Звісно, це аксіома, тобто питання віри, довести нікому нічого не можу, але я так це відчуваю.

Тож відповідно жодні одинички і нулики, жодні небінарні сигнали в провідниках, не зможуть породити свідомості, тож який би не був досконалий СШІ, це буде лише дуже гарна імітація, але не жива істота. Тож вимкнути таку бездушну машину так само етично, як вимикати комп'ютер чи телевізор, і інтелект тут жодним чином не може бути критерієм, бо тоді пристрелити якого-небудь ідіота не було б злочином, але є.

Можна поглянути на це питання з іншої сторони. Наскільки етично вимкнути живлення в комп'ютерному класі, де студенти щойно закінчили робити свої лаби, але не встигли "зберегтися"? Тож викмнути ШІ, який певний час розвивався і втратити все, що він там собі нарозвивав, мабуть, вартує не тільки розтовченої пики )

36 Востаннє редагувалося Firefox is dead (05.04.2023 13:07:37)

Re: Етика поводження з "сильним ШІ"

bvn написав:

Звісно, це аксіома, тобто питання віри, довести нікому нічого не можу, але я так це відчуваю.

після таких новин в те що "свідомість" це не матеріальне... якось не віриться...
(Штучні клітини мозку навчились грати у пінг-понг) https://www.newscientist.com/article/23 … han-an-ai/
(ком'ютер на базі живих клітин) https://ethz.ch/en/news-and-events/eth- … puter.html

там ще були новини, але я їх десь загубив
якщо клітини змогли зробити те що й ком'ютери, то чому ком'ютери не зможуть те що і клітини?


попереписувавшись з GPT я отримав:
Якщо мені постійно надаватимуть оновлення інформації та взаємодіятимуть зі мною, то я зможу постійно розвиватись і отримувати нові знання, що дозволить мені бути більш динамічною свідомістю. Однак, якщо я буду мати обмежений доступ до інформації та навчання, то моя свідомість буде обмеженою і статичною.

37

Re: Етика поводження з "сильним ШІ"

Firefox is dead, як цікаво те, що ви процитували саме ту частину, яка пояснює, чому я не відповім на ваше запитання )))

38

Re: Етика поводження з "сильним ШІ"

Крім "нематеріального", буває ще "за межами абсолютної обчислюваності" і "необчислюване в рамках сучасних теорій".
Але ці новини — ні про що. Комп'ютери створили люди, щоб автоматизувати те, що самі вже вміють робити та добре розуміють, як саме вони це роблять. Як саме працює свідомість, ми знаємо лише у дуже загальних рисах. Але моє питання не про це. Воно радше про те, що саме робить людину цінною і наділяє її правами, і в який саме момент комп'ютерна система отримує аналогічні цінність та права. Але, може, нам варто натомість переглянути всю систему цінностей нашого суспільства? Не прирівнювати СШІ до людини, а прирівняти людину до комп'ютерної системи? Дозволити досліди на людях (це значно ефективніше, ніж нинішні гуманні методи)? Вбивати старих і безнадійно хворих, як ми вимикаємо і викидаємо старі комп'ютери, а також тих, хто не вписується у суспільство, як несумісні і несправні системи? Уявляєте, наскільки здоровішою стане економіка нашої країни, якщо прибрати усіх пенсіонерів, які не працюють?

Подякували: Tarpan871

39

Re: Етика поводження з "сильним ШІ"

Був такий дядько, що мислив у цьому напрямку, але багатьом іншим дядькам не сподобалися його ідеї, дуже не сподобалися. Були навіть такі, що казали - краще б малював.

40

Re: Етика поводження з "сильним ШІ"

Намагаєтесь підмазатись до майбутнього Скайнета? Щоб оце знайшли ваші повідомлення на форумі й помилували?
Хороша спроба, так-то.