Американские ученые опровергли теорию эволюции

[Pustovetov]

Это говорит о том, что мы можем потенциально создать искусственный интеллект (причем уже в ближайшем будущем), который будет неотличим от человека, но при этом он не будет обладать сознанием и ощущениями.

Почему вы так решили? Как это ваше решение соотносится с вашими же утверждениями про верность панпсихизма? Любой атом имеет сознание и только ИИ является тут исключением?

Почему известно, что итоговая система не будет иметь сознание и ощущения? Потому что инженеры, которые создают ИИ, не закладывают в ИИ сознание или ощущения. ИИ работает на познаваемых, тщательно описанных математически, известных принципах и алгоритмах, не предполагающих квалиа. Другими словами, исчерпывающе понятны все причины, по которым ИИ разумно себя ведет. И в эти причины не входит сознание и квалиа.

Я вам задал задачку по поводу нейросети распознающей котиков. Смогли вы ее решить? Правильно, нет. По этому давайте вы не будете тут фантазировать на тему "известных принципов и алгоритмов" в нейросети. В реальности мы НЕ знаем какие алгоритмы работают в нейросетях, собственно нейросети и используются в случаях когда задача сложно или вообще не алгоритмизируется. Ну и вы так пока и не смогли придумать как ИИ будет выполнять сложные функции без сознания и ощущений.
Все остальные ваши "выводы" ровно такой же степени обоснованности.

[Иванофф]

Это вы должны расскрывать свою "логику" вроде. Как "максимально точное исполнение заданных функций" может помешать изменению набора этих "заданных функций"? Есть у вас по этому поводу хоть какие-то мысли?

Никаких мыслей по этому поводу у меня нет. Объясню почему.

Меня эта тема- изменение программ и программирование вообще интересует "постольку- поскольку".
В настоящее время меня интересует как работает мозг, что такое сознание и что такое психика.
Мне понравилась версия - психика- софт мозга , отсюда некоторый интерес к работе компьютеров и программам.
Я вижу общее между компом и мозгом в том, что оба исполняют определенные функции и очевидно , что софт установленный на эти системы влияет на их функции.
По моему мнению нужно различать инсталлированные программы и программы не инсталлированные. В мозге верующего инсталлированной программой можно например считать верования верующего. Для атеиста же эти верования все равно что чукчи- индейское узелковое письмо, штука интересная, но на мозг атеиста не влияющая.
В отношении компьютерных программ разница между тобой и мной примерно такая же как между атеистом (атеист это ты) и верующим.
Тебя интересуют программы как " комбинации компьютерных инструкций и данных". Мне же эти комбинации "до фонаря", пусть даже они меняются , развиваются и "растут над собой". Мне интересно как это работает в системе, в компьютере, на "железе" и только для того чтобы понять можно ли все это сравнить с работой мозга.
Поэтому, Пустоветов , если будешь проходить мимо, проходи. Поиграй лучше в го с "жирафом". Интересы у нас разные и разговор не клеится, как ты понимаешь.

[Иванофф]

Оказалось, что Вы на самом деле скрытый идеалист , который топит за психику в отрыве от мозга и переселение душ.

Я давно это подозревал. Латентный верующий.

А Иванофф материалист, который утверждает, что главное мозг - а психика, это последствия (некий эпифеномен).

Примерно так, нервная система вначале не имела психики, имо. Как деревянные счеты алгоритмов. В ходе эволюции , по мере усложнения нервной системы, мозга , возникла психика . Ее можно рассматривать как виртуальную реальность на базе физической, имо. И она явно влияет на физическую, что не все признают, кстати. Люди склонны считать , что они могут управлять своими эмоциями, желаниями, мыслями, понимая под Я свое физическое Я.

[Иванофф]

Программисты часто забывают, что в действительности программируют железо

Именно так, программисты перемагничивают железо, думая что совершают некое колдунство.

И что, на каком-то моменте возникает вспышка сознания?

Не думаю , что сознание это вспышка. Сознание развивалось вместе с психикой. У животных , насекомых должно быть протосознание, у дельфинов, человекообразных - более высокий уровень. Самый высокий у гомо сапиенса.
Сознание это понимание. Чем больше понимания, тем больше сознания.
Способность к пониманию происходит из организации работы нейросетей мозга.
С т.з. эволюционной психологии способность к пониманию, ее преимущество объясняется достаточно легко. Животному требуется ориентироваться в условиях быстро меняющейся среды, отдавать отчет, понимать где оно находится по отношению к пище , окружающим хищникам и т.п.
С развитием коммуникации у человекообразных развитие способности понимать ускорилось, т.к. приходилось понимать еще и сигналы сородичей.

- - - Добавлено - - -

До эйдосов Платона еще далеко..., тут бы хоть с этим для начала разобраться... Нет, квалиа - это более примитивная вещь. Что-то вроде "я есть". .

А у меня после прочтения определения автора термина сложилось впечатление- дядька просто переименовал эйдосы в квалиа.
Если это не так, то жаль. Философия Платона разобрана множество раз и раскритикована еще Аристотелем.
Я уже руки потирал - Шарп признает , что квалиа это эйдосы и я ему вывалю критики страниц на пять.

[Иванофф]

Возьмем чугунный шарик. В нем есть сознание? Нет. Возьмем миллион чугунных шариков. В них есть сознание? Нет. Начнем манипулировать шариками по определенной схеме... и что? Появится сознание откуда ни возьмись? Это очень странная теория...

Нужен системный подход. Вы забываете, что мозг это не куча шариков.Нейросеть это очень сложная система с постоянно меняющейся структурой. Нейроны конечно не меняют положение, меняются связи между ними , структура нейросети.
Чем сложнее система, тем больше у нее функций, свойств , возможностей управлять подсистемами .
А все это - смена функций, управление приписывается сознанию. Неслучайно сознание иногда определяют как психику на верхней ступени эволюции, как высшая форма развития психики.
Так что никакого колдунства- чем сложнее, тем больше возможностей.

- - - Добавлено - - -

Изначально мы привыкли, что для сложно организованного поведения требуется наличие сознания и квалиа (ощущений). .

Не пойму почему Вас так зациклило на ощущениях, элементарной форме психического. Для сложного поведения сознание таки нужно, так как сложное поведение невозможно без ориентации среди множества стимулов.
Бессознательно мы можем делать простые вещи- завязывать шнурки, черпать ложкой суп. А например для игры в футбол уже требуется осознанность.

- - - Добавлено - - -

Только один пример многие люди в общении с искусственным интеллектом уже не могут различить искусственный интеллект с ними разговаривает или человек (в том числе при устном общении по телефону).
Это говорит о том, что мы можем потенциально создать искусственный интеллект (причем уже в ближайшем будущем), который будет неотличим от человека, но при этом он не будет обладать сознанием и ощущениями. .

Сложность общения бывает разной. Можно ведь тупо перефразировать фразы собеседника по алгоритму или кидать фразы вне контекста разговора.

Может быть, существует сразу две причины поведения лошади? Одна поведение материальных структур ЦНС, другая психика

Этологи вообще то объясняют поведение лошади как инстинктивное поведение и у них как бы неплохо получается.
Естественно инстинкты связаны с ЦНС.

[Pustovetov]

Никаких мыслей по этому поводу у меня нет. Объясню почему.

Возможно конечно в вашем случае это и нормально. Вот я например когда у меня нет никаких мыслей по какому-то поводу, то я ничего по этому поводу и не пишу. А для вас возможно норма, писать сюда страницами и годами не имея при этом мыслей об описываемом, так сказать, не приходя в сознание. И это бы многое объяснило, так как такой отборный бред как у вас, еще попробуй напиши будучи в сознании... Но есть маленький нюансик...

Мне понравилась версия - психика- софт мозга , отсюда некоторый интерес к работе компьютеров и программам.
По моему мнению нужно различать инсталлированные программы и программы не инсталлированные.

ну и т.п. Замечаем, что вы используете специфические термины не зная что они значат. Выдумываете удивительные аналогии типа "софт это психика" при этом не зная ни что такое софт, ни что такое психика. Для вас было откровением, что оказывается активность нейронов совсем не обязательно связана с психическим, что люди детей оказывается обучают и пр. Так что дело не в том, что вы про программы сюда пишите не приходя в сознание, похоже вы вообще о всем пишете в таком состоянии.

В отношении компьютерных программ разница между тобой и мной примерно такая же как между атеистом (атеист это ты) и верующим.
Тебя интересуют программы как " комбинации компьютерных инструкций и данных". Мне же эти комбинации "до фонаря", пусть даже они меняются , развиваются и "растут над собой". Мне интересно как это работает в системе, в компьютере, на "железе" и только для того чтобы понять можно ли все это сравнить с работой мозга.

Если бы вам было в действительно интересно как это работает в системе, в компьютере, на "железе" то вы бы могли что-то узнать например у меня, благо я инженер-системотехник, разработчик процессоров о которых вы еще меньше знаете, чем о программах. Но естественно все ваше "интересно" кончается на том, что вы прочитали глупую книжку одного неудачливого предпринимателя. А когда вам предлагают узнать как оно на самом деле, то вы отказываетесь на отрез и "у меня нет мыслей".
Ну и конечно, если человеку интересна работа мозга, то вполне логично обратиться к опыту накопленному умными людьми на моделях мозга, т.е. на искусственных нейронных сетях. Однако у вас тут затык, вы никак не можете поверить что они существуют и успешно работают, когда вам пытаются объяснить как они это делают вы беспомощно хамите. А уж о том чтобы изучить предмет и речи быть не может.

Поэтому, Пустоветов , если будешь проходить мимо, проходи. Поиграй лучше в го с "жирафом". Интересы у нас разные и разговор не клеится, как ты понимаешь.

А по моему мнению очень даже удачный разговор, вы пишете глупости, а я вас в эти глупости макаю мордочкой. Идиллия.

[Иванофф]

Если бы вам было в действительно интересно как это работает в системе, в компьютере, на "железе" то вы бы могли что-то узнать например у меня, благо я инженер-системотехник, разработчик процессоров о которых вы еще меньше знаете, чем о программах. .

Если бы ты не был узким специалистом по поиску ссылок в сети, то я бы к тебе обратился. Но искать ссылки я и сам умею , а на большее ты не способен.

- - - Добавлено - - -

А по моему мнению очень даже удачный разговор, вы пишете глупости, а я вас в эти глупости макаю мордочкой. Идиллия.

Фантазируешь. Ты периодически садишься в лужу (ДНК это программа, воздействие на нейроны не всегда сопровождаются психическими явлениями, родители обучают детей родному языку , программы самообучаются и т.д).
Обсуждать все твои ляпы нет времени и желания.

- - - Добавлено - - -

Возможно конечно в вашем случае это и нормально. Вот я например когда у меня нет никаких мыслей по какому-то поводу, то я ничего по этому поводу и не пишу.

Пустоветов, у меня нет мыслей по твоему последнему вопросу.

[Pustovetov]

Если бы ты не был узким специалистом по поиску ссылок в сети, то я бы к тебе обратился. Но искать ссылки я и сам умею , а на большее ты не способен.

А вы то окуда знаете? Для того чтобы определить кто специалист, а кто нет надо обладать хоть какими-то знаниями. А у вас их нет совсем.

Ты периодически садишься в лужу (ДНК это программа, воздействие на нейроны не всегда сопровождаются психическими явлениями, родители обучают детей родному языку , программы самообучаются и т.д).

Ну конечно и программы не самообучаются (не существует всех этих нейронок в мире Иваноффа), и детей родители языку не обучают (т.е. родители с детьми не разговаривают, не подсказывают на агуканье "это собачка, это кошечка, это баба", не поправляют их когда они ошибаются...); то что не все нейронные активности есть психика вам не только я написал, но и выпусник психфака МГУ; а уж про в ДНК нет программ это совсем эпично (причем их там нет так как "программы не меняются" по мнению Иваноффа, напомню, т.е. ровно потому почему у вас оказывается нет мыслей).

Пустоветов, у меня нет мыслей по твоему последнему вопросу.

И не имея мыслей вы уже страниц с пяток по этому вопросу бреда настрочили. Вот оно и удивляет.

[Иванофф]

И не имея мыслей вы уже страниц с пяток по этому вопросу бреда настрочили. Вот оно и удивляет.

А ты такой вопрос задавал? Совпало просто. Я в твой вопрос и не вникал.
Чего ты в го не играешь? Не интересен ты мне , не доходит?

[Иванофф]

Насчет моделирования ощущений я ошибся.
" Ощущения, призванные сканировать какие-то срезы, отдельные аспекты абсолютного мира, сворачиваются в сигналы, поступающие в кору головного мозга, а в результате переработки стандартным алгоритмом они создают модель мира."

[Иванофф]

Трудная проблема сознания (англ. hard problem of consciousness) это проблема объяснения того, почему у нас есть квалиа или феноменальный опыт, как ощущения приобретают такие характеристики, как цвет или вкус.^[1] При решении данной проблемы необходимо объяснить, почему существует нечто, означающее «быть чем-то», и почему у субъекта появляются определённые состояния сознания.

Возможный ответ на последний вопрос-

" мозг на самом деле не «вычисляет» решения задач, он извлекает их из памяти, представляющей, по сути, хранилище готовых решений. Соответственно, для того чтобы их извлечь, нужно всего несколько шагов. Медленных нейронов для этого более чем достаточно, ведь они сами и составляют память. Можно утверждать, что мозг, точнее, неокортекс, который является «интеллектуальной» частью мозга, это единое запоминающее устройство, а вовсе не компьютер."

То бишь определенные состояния появляются потому что это шаблонные , готовые решения.

"Согласно Нагелю, существо может обладать сознанием только в том случае, когда «что-то является» этим существом, то есть когда мир воспринимается с субъективной точки зрения этого существа^[2]. Любые попытки отождествить психические явления с физическими процессами в мозге оказываются безуспешными вследствие субъективного характера сознания, который, по мнению Нагеля, является самой сущностью сознания. "

Здесь вообще непонятно в чем проблема. Так как картина реальности моделируется мозгом ( а не отражается в сознании, как думают наивные реалисты) , то естественно эта модель субъективна и зависит от опыта субъекта.

[Pustovetov]

А ты такой вопрос задавал? Совпало просто. Я в твой вопрос и не вникал.

А в реальности Иванофф не только "вникал". В реальности Иванофф, чтобы подтвердить свою мысль "компьютер не способен к самообучению"(c) процитировал "Компьютер, которым управляет центральный микропроцессор, предназначен для максимально точного исполнения заданных функций." и "набор расположенных поэтапно команд". И тут внезапно, после того как я скромно поинтересовался что собственно мешает менять набор поэтапно и точно исполняемых команд, Иванофф оказывается приводил свои цитаты "не вникая" и его "получилось и не только у меня." это все было написано в бессознательном состоянии. Ага, ага...
Любой человек может ошибиться, особенно в области ему неизвестной. Но умный человек, когда ему укажут на ошибку ее признает, а Иванофф уже несколько лет несет страницами тут бред про "неизменные программы", про "программы не могут самообучаться", про "робот не демонстрирует такое умение самообучаться", про "компьютеров способных самообучаться нет" итп Быстрее всего именно это в психиатрии называется "сверхценная идея".

[Иванофф]

Из беседы с К. Анохиным (имеет отношение к "психофизической проблеме").

Получается, что мы это наш мозг?
Это было бы слишком просто. С одной стороны, мы это наш мозг. С другой стороны, это наш мозг, организованный определённым образом. В нём должна быть записана вся эта информация Вавилонской библиотеки. Она должна туда как-то попасть. Эти тексты должны возникнуть.

Константин Анохин: Наш разум — это гиперсеть — Статьи — Омилия

Два момента-
1.Анохин не видит никакой психофизической проблемы. Физическое это мозг, психическое - организация мозга (информация, "Вавилонская библиотека").
2. Как и Хокинс, Анохин обращает внимание на то что мозг это прежде всего хранилище, "запоминающее устройство".

- - - Добавлено - - -

Для меня сверхзадачей является создать такую теорию, которая позволит для самых разных видов нервной системы человека, обезьяны объяснить, как на основе работы нервных клеток появляются вся система разума. Я думаю, что эта теория достаточно простая. Она должна быть простой и красивой. Она должна объяснять, как в эволюции появлялся разум. Так же как глаз изобретался эволюцией много раз, судя по всему, разум, интеллект изобретался тоже очень много раз в самых разных таксонах, которые шли деревьями эволюции, не встречающимися друг с другом. Один, например это у моллюсков. И мы знаем сегодня, что осьминоги обладают очень развитым интеллектом. Другой у птиц. Значит, эволюция, имея какие-то базовые принципы, изобретала разум и, возможно, создавала его не один раз. Решение должно быть простым и красивым. Оно должно автоматически выводить из некоторых фундаментальных принципов, свойства, которые мы знаем в отношении разума. Как он возникает? Откуда у ребёнка, который родился таким же, как многие другие, имеет такой же эволюционный опыт, появляется всё богатство его индивидуального опыта? Как появляются эти новые элементы, как они связаны друг с другом? Как она мысль влечёт за собой другие? Где они все хранятся? Как мы способны за несколько сот миллисекунд в этой огромной библиотеке мыслей, содержания нашего опыта, чувств, эмоций вытягивать нужную нам? Как организован этот поиск? Какова эта архитектура?
Я думаю, что простой ответ, короткий ответ заключается в следующем. Что наш мозг это огромная сеть. Она очень похожа на сеть огней в большом городе или сеть интернета, социальную сеть.
86 миллиардов огней?
Да, 86 миллиардов огней. Это больше, чем какой-либо город, который мы видим и знаем. И они связаны между собой. Они ещё имеют провода. Это физически связанная сеть. Но наш разум автоматически не живёт в этой сети, он должен там появиться. И он появляется как гиперсеть. Ключевое слово для понимания разума, на мой взгляд, теория, которая описывала то, что из себя представляет разум, что это тоже сеть. Это сеть, в которой элементами являются элементы нашего субъективного опыта. Они могут быть разными, они могут быть целостными воспоминаниями.

Это сеть над сетью?
Да, сеть над сетью

Константин Анохин: Наш разум — это гиперсеть — Статьи — Омилия

[Sharp]

Причем тут психика и изменения в физическом мозге?

Это если рассматривать компьютерную метафору. Тогда софт - это психика, а мозг - железо. Не важно.

Ну тогда конечно вас не затруднит привести соответствуюую цитату?

"...насколько система способна генерировать интегрированную информацию, независимо от того, является она органической формой жизни или нет, состоит ли она из нейронов или кремниевых чипов и вне зависимости от того, способна ли она что-либо сообщить, она будет иметь сознание".
Джулио Тонони

Что такое интегрированная информация? Это количество состояний, которое может занять система как целое.

Как это соотносится с вашими же утверждениями про верность панпсихизма? Любой атом имеет сознание и только ИИ является тут исключением?

Так как нет каузальной связи между сознанием и мозгом, а также между сознанием и интеллектом, остается только одна возможность - сознание присуще самой материи. Материализм ведет к ошибочной точке зрения, что ИИ действительно не имеет сознания. Более того, как следует из мысленного эксперимента про инопланетного робота, сознание не следует не только из ИИ, но даже и из материального биологического мозга.
Но в действительности - ИИ имеет сознание, как и биологический мозг. Поскольку любая система имеет сознание. Это подтверждается и теорией интегрированной информации. А также другими научными нейробиологическими теориями, широко принятыми в научном мире.

Я вам задал задачку по поводу нейросети распознающей котиков. Смогли вы ее решить? Правильно, нет. По этому давайте вы не будете тут фантазировать на тему "известных принципов и алгоритмов" в нейросети. В реальности мы НЕ знаем какие алгоритмы работают в нейросетях, собственно нейросети и используются в случаях когда задача сложно или вообще не алгоритмизируется. Ну и вы так пока и не смогли придумать как ИИ будет выполнять сложные функции без сознания и ощущений.
Все остальные ваши "выводы" ровно такой же степени обоснованности.

Вот в этой короткой статье объясняется, как визуальные образы хранятся внутри нейронной сети, как они распознаются и как восстанавливаются по фрагменту с помощью ассоциативной памяти. Ничего особенного.
Ассоциативная память на основе нейронной сети Хопфилда.

Латентный верующий.

Хорошо звучит

Примерно так, нервная система вначале не имела психики, имо. Как деревянные счеты алгоритмов. В ходе эволюции , по мере усложнения нервной системы, мозга , возникла психика .

И на каком этапе эта способность (восприятия, квалиа) возникла? Можно ли провести границу между сознательными и не сознательными организмами/системами? То есть какая-либо мутация привела к сознательности?

Ее можно рассматривать как виртуальную реальность на базе физической, имо. И она явно влияет на физическую, что не все признают, кстати. Люди склонны считать , что они могут управлять своими эмоциями, желаниями, мыслями, понимая под Я свое физическое Я.

Однозначно сознание влияет на физическое. Вопрос только в деталях - каким именно образом.
И... ну да, это похоже на виртуальную реальность, согласен.

мозг на самом деле не «вычисляет» решения задач, он извлекает их из памяти, представляющей, по сути, хранилище готовых решений.

Если банка кока-колы взялась из холодильника, это никак не объясняет, что такое кока-кола. Но сам механизм хранения и извлечения информации из памяти вполне возможен. На мой взгляд - это экономно. Извлечь "шаблон" наверно проще. А ценные ресурсы нужно экономить. Но речь про извлечение информации.

"Согласно Нагелю, существо может обладать сознанием только в том случае, когда «что-то является» этим существом".
Здесь вообще непонятно в чем проблема. Так как картина реальности моделируется мозгом ( а не отражается в сознании, как думают наивные реалисты) , то естественно эта модель субъективна и зависит от опыта субъекта.

Да, субъективна, моделируется действительно. И что это объясняет?

[Иванофф]

Однозначно сознание влияет на физическое. Вопрос только в деталях - каким именно образом.

Как программа на железо компа.

- - - Добавлено - - -

И на каком этапе эта способность (восприятия, квалиа) возникла?

Я думаю уже у простейших, одноклеточных.

Можно ли провести границу между сознательными и не сознательными организмами/системами?

Организм, ориентирующийся в среде, можно считать сознательным, имо.

То есть какая-либо мутация привела к сознательности?

Развитие нервной системы привело. Множество мутаций с отбором.