Душа киборга

[Сергей Аронский]

Skynet

/А если учесть, что человек - это тоже машина, только на белковой основе, то и к человеку это тоже относится. ;-) /

Не относится, ведь человек чувствует. В этом разница.

/Сразу давайте отделим чувства от эмоций: многие их склонны путать./

В нашем случае это не имеет значения.

/Под чувствами обычно понимается информация от рецепторов: зрительная, слуховая, осязательная и т.п./

Нет, под чувствами понимаются чувства. Дело в том, что когда человек обожжет например палец, в этой передачи информации, есть нечто особенное что и называется «чувства».

/Вы полагаете, что информация, поступаяющая в кору по зрительному нерву, например, помимо сенсорного сигнала содержит что-то еще (исключая продукты предобработки, частично выполняемой в составе сетчатки глаза)?/

см выше

/Гипотеза не подтверждается экспериментами, да и теоретического обоснования как такового не имеет. Дальше исходного предположения дело не идет./

Экспериментами не подтверждена алгоритмизированность мышления, ибо не построен ИИ, несмотря не все попытки. А теоретические обоснования имеются у Пенроуза.

/Это считает не только Пенроуз, но и большинство нейрофизиологов./

Нет, большинство нейрофизиологов так не считают.
Работа психики, это простой нейронная сеть, работа нейрона это просто физика- химия, суммирующий + пороговый элемент. Ничего сложного.

/И я тоже так считаю: /

Значит, вы не знаете нейрофизиологию и работы по ИИ.
Как же вы говорите его создавали? Большинство разработчиков ИИ, считает что всё алгоритмизировано.

/алгоритмизации подлежат автоматизмы, врожденные инстинктивные реакции, и логические схемы действий. Значительная же часть разумного поведения носит чисто интуитивный характер. То же самое имеет место в случае искусственных нейросетей, деятельность которых также не сводится к алгоритму.
/

Всё это работа сети нейронов, которые просто суммирующие пороговые элементы.
Врожденные, подсознательные, интуитивные и т.д. -не важно

[Marcellus]

Если Вас интересуют детали эксперимента, могу сообщить, что мальчик был пациентом сложной нейрохирургической операции после тяжелой травмы головного мозга: врачи спасли ему жизнь.

Ну, тогда ладно.

[Skynet]

Сергей Аронский,

> Не относится, ведь человек чувствует. В этом разница.

Ну и автомат с обратной связью чувствует, т.е. получает сенсорные сигналы извне. В чем разница?

> Нет, под чувствами понимаются чувства.

Тавтология, уважаемый Сергей. Если Вы не используете общепринятое опредедление термина "чувства", возможно, снабдите меня своим определением?

> Дело в том, что когда человек обожжет например палец, в этой передачи информации, есть нечто особенное что и называется «чувства».

Ничего особенного. Информация как информация. Что я, по-Вашему, палец никогда не обжигал?

> Экспериментами не подтверждена алгоритмизированность мышления

Во-первых, как я уже говорил, некоторые мыслительные конструкции - алгоритмизированы. Например, когда Вы решаете квадратное уравнение, Вы действуете по известной Вам методике, т.е. по алгоритму. Во-вторых, алгоритмика - не обязательный компонент систем искусственного интеллекта. Как я уже сказал, нейронные сети тоже не действуют по алгоритму.

> ибо не построен ИИ

Строится регулярно даже студентами-программистами. Просто до челоческого уровня интеллекта ему далековато: техническая база у нас не настолько развита.

> А теоретические обоснования имеются у Пенроуза.

Вы про белиберду о субатомном уровне? Как я уже сказал, нет экспериментальных обоснований.

> Нет, большинство нейрофизиологов так не считают.

Вся литература по теме, с которой я работал, основана именно на нейросетевой парадигме. Т.е. подразумевается неалгоритмичность.

> Работа психики, это простой нейронная сеть, работа нейрона это просто физика- химия, суммирующий + пороговый элемент. Ничего сложного.

Совершенно верно. Т.е. в основе деятельности лежит не алгоритм, а нейросетевая адаптация.

> Значит, вы не знаете нейрофизиологию и работы по ИИ.

Ну, вообще-то я всерьез занимался и тем, и другим. Соответственно, на мой взгляд, пробелы в знаниях по этой части имеются как раз у кой-кого из моих собеседников. :-) Повторю: нейронная сеть не действует по алгоритму. Искусственные нейронные сети были разработаны на основе представлений о строении и функциях человеческого мозга. Первой разработкой в этом направлении оказался т.н. перцептрон Розенблатта, который действительно был весьма ограничен по причине однослойности (вплоть до 70-х годов не было эффективных способов обучения многослойных нейронных сетей). После разработки алгоритма обратного распространения это последнее ограничения было снято, и теперь мощность нейронной сети ограничена только количеством нейронов, входящих в ее состав. Т.е., по сути, только нашими технологическими возможностями.

> Большинство разработчиков ИИ, считает что всё алгоритмизировано.

Это касается только одного из направлений в AI, а именно - функционального, в рамках которого разрабатываются системы формальной логики на базе языков типа Prolog, Dural, Refal и т.п. Это по своему перспективное направление, широко применяющееся в разработке экспертных систем, и оно действительно основано на алгоритме, хотя даже здесь алгоритм - просто способ представления, в то время как постановка задачи алгоритмизации не требует. Вы когда-нибудь изучали Prolog? Скажу по-секрету: использование чисто алгоритмических средств при работе на Прологе - дурной тон, и признак неумения программировать на этом языке.

Помимо этого логического направления в AI существует также т.н. бионическое направление, основанное на применении нейронных сетей и родственных технологий. Никакого алгоритма в основе деятельности нейронной сети нет: нейронные сети не программируются, а обучаются. Нейронные сети - это путь, ведущий к созданию сверхчеловеческого искусственного интеллекта.

> Всё это работа сети нейронов, которые просто суммирующие пороговые элементы.

Ну вот, сами же говорите, что такое нейроны (правда, Вы забыли про адаптивность и нелинейность), и при этом настаиваете на каком-то алгоритме.

[Сергей Аронский]

Skynet

/Ну и автомат с обратной связью чувствует, т.е. получает сенсорные сигналы извне. В чем разница?/

В том, что он не чувствует.

/ Тавтология, уважаемый Сергей. Если Вы не используете общепринятое опредедление термина "чувства", возможно, снабдите меня своим определением?/

Все люди это понимают.

/ Ничего особенного. Информация как информация. Что я, по-Вашему, палец никогда не обжигал?/

Конечно. Видно вы вообще не человек.

Вы и об анестезии не слышали?
Дело в том, что людям не всякая передача информации нравится, они совсем не против её исключить.
Вы видно робот, у вас по-другому. К вам приходит информация «у вашего пальца температура 90, 100, 120
градусов » И всё. У людей не так.
Потому и нужна анастезия


/ Вы про белиберду о субатомном уровне? Как я уже сказал, нет экспериментальных обоснований/

Да, КМ сложная вещь, мало кто понимает, не расстраивайтесь.

/ Вся литература по теме, с которой я работал, основана именно на нейросетевой парадигме. Т.е. подразумевается неалгоритмичность/

Выбросите эту литературу.

/ Совершенно верно. Т.е. в основе деятельности лежит не алгоритм, а нейросетевая адаптация./

Всё это легко алгоритмизируется.

/ хотя даже здесь алгоритм - просто способ представления/

Вот именно. Так и нейронная сеть просто способ представления и легко имитируется программой.

/ Ну вот, сами же говорите, что такое нейроны (правда, Вы забыли про адаптивность и нелинейность), и при этом настаиваете на каком-то алгоритме.
/

Что такое нейроны я не знаю (т.е. есть сомнения может прав Пенроуз), но если исходить из общепринятой теории то ничего сложного и легко алгоритмизируется. Дело техники.

[Skynet]

Сергей Аронский,

> В том, что он не чувствует.

А что Вы называете чувством?

> Все люди это понимают.

Я тоже. Чувство - сенсорный сигнал. ;-) Если Вы этот термин определяете иначе, приведите свое определение, будьте так добры.

>> Что я, по-Вашему, палец никогда не обжигал?
> Конечно.

В смысле, Вы полагаете, что не обжигал? Да множество раз. Однажды даже кипящей концентрированной азотной кислотой. ;-)

> Видно вы вообще не человек.

А что Вы подразумеваете под термином "человек"? Я принадлежу к биологическому виду Homo Sapiens, если Вы об этом.

> Вы и об анестезии не слышали?

Слышал. Анестезия - средство ослабления или подавления передачи болевых сенсорных сигналов.

> Дело в том, что людям не всякая передача информации нравится, они совсем не против её исключить.

Разумеется. Некоторые сенсорные сигналы и эмоциональные состояния вызывают негативные мотивации: за это ответственна лимбическая система головного мозга.

> Вы видно робот, у вас по-другому.

Нет, у меня естественное происхождение.

> К вам приходит информация «у вашего пальца температура 90, 100, 120

Был бы очень рад, если бы так оно и было, но увы, увы... Несовершенный человеческий организм.

>> Вы про белиберду о субатомном уровне? Как я уже сказал, нет экспериментальных обоснований
> Да, КМ сложная вещь, мало кто понимает, не расстраивайтесь.

Я и не расстраиваюсь. В конце концов, белиберды и без этого много: одной ложной концепцией больше, одной меньше...

> Выбросите эту литературу.

Зачем же выбрасывать научную литературу?

> Всё это легко алгоритмизируется.

Легко алгоритмизируется деятельность нейрона, но не решение многих задач, которые по силам нейронной сети.

> Так и нейронная сеть просто способ представления и легко имитируется программой.

Конечно. Между тем, способ решения задачи остается нейросетевым, а не алгоритмическим.

> Что такое нейроны я не знаю

Биологические нейроны - это клетки головного мозга, выполняющие функцию нелинейных адаптивных сумматоров. Искусственные нейроны выполняют ту же функцию, но созданы на другой элементной базе или же смоделированы программно. Деятельность психики полностью основана на работе нейросети головного мозга: нет ни одного факта, который противоречил бы этой концепции. Соответственно, концепции вроде выдвинутой Пенроузом, - прямое нарушение принципа Оккама, а значит имеют существенно меньшую вероятность истинности.

[Сергей Аронский]

Skynet

/ А что Вы подразумеваете под термином "человек"? Я принадлежу к биологическому виду Homo Sapiens, если Вы об этом./

Откуда Вы знаете? Ведь вы не знаете что такое чувство. Скорей всего нет.

/ Нет, у меня естественное происхождение/

Но, ведь вы не можете быть уверены.
Так как вы не знаете что такое «чувства» и какой у вас ник, вроде так называли какой-то искусcвенный разум в каком-то фильме?

/ Был бы очень рад, если бы так оно и было, но увы, увы... Несовершенный человеческий организм/

Есть сомненье.

/ Зачем же выбрасывать научную литературу/

Потому что не научная. Знаете в наше время столько всякой ерунды издают.

/ Легко алгоритмизируется деятельность нейрона, но не решение многих задач, которые по силам нейронной сети./

Ну, если одного нейрона, то и сети также.

/ Конечно. Между тем, способ решения задачи остается нейросетевым, а не алгоритмическим./

С какой стати, если их выполняет программа?

/ Соответственно, концепции вроде выдвинутой Пенроузом, - прямое нарушение принципа Оккама, а значит имеют существенно меньшую вероятность истинности.
/

Нет, дело в том, что на нейронных сетях за столько лет ничего путного не создали.
И программы, которые бы подлинно решали сложные задачи тоже нет.
Тут и возникает сомнение в предпосылке, а именно что нейроны «нелинейные адаптивные сумматоры»

[Skynet]

Сергей Аронский,

> Откуда Вы знаете?

Внешний облик, внутреннее строение и биохимия соответствуют человеческому организму.

> Ведь вы не знаете что такое чувство.

Почему ж не знаю? Я как раз знаю - даже определение привел. А вот Вы - не знаете, поскольку определения не привели. :-)

> Но, ведь вы не можете быть уверены.

Вам что, мое свидетельство о рождении отсканировать? :-)

> и какой у вас ник, вроде так называли какой-то искусcвенный разум в каком-то фильме?

Да, Терминатор 1-3. Искусственный разум, развязавший ядерную войну и почти уничтоживший человечество. ;-) Но этот ник я выбрал себе сам. Впрочем, не смею более настаивать. Хотите думать, что я искусственный разум - сколько угодно. Тогда Вам придется расстаться со своими словами о том, что "на нейронных сетях ничего путного не создали". :-)

> Потому что не научная.

Уж я-то могу отличить научную литературу от ненаучной. А вот Вы, судя по Вашим пристрастиям и неспособности дать элементарное определение, научным складом ума не обладаете, а потому вряд ли способны определить лженаучный характер литературы.

> Знаете в наше время столько всякой ерунды издают.

Знаю. Соответственно, могу лишь пожелать Вам в следующий раз выбрать что-нибудь поближе к основам научной парадигмы.

> Ну, если одного нейрона, то и сети также.

И сети также. Но не задачи, решаемой сетью. Я понимаю, что это может с трудом укладываться в Вашей голове, но Вы уж как-нибудь постарайтесь осознать сей простой факт. Давайте поступим следующим образом. Вы мне приведете пример задачи, которую невозможно решить алгоритмически, но которую может решить человек, а потом посмотрим, справится ли с ней искусственная нейронная сеть. Идет?

> С какой стати, если их выполняет программа?

С такой, что программа просто моделирует деятельность сети. Решение же задачи - неалгоритмизированно.

> Нет, дело в том, что на нейронных сетях за столько лет ничего путного не создали.

С чего это взяли, интересно? И что Вы считаете "путным"?

> И программы, которые бы подлинно решали сложные задачи тоже нет.

Что Вы называете "подлинно сложными задачами"? Задачи, с которыми Вы (да и я тоже) не справитесь и за 10 жизней - решают. ;-)

> Тут и возникает сомнение в предпосылке, а именно что нейроны «нелинейные адаптивные сумматоры»

Пардон? Это, между прочим, определение нейрона. ;-)

В общем, уважаемый Сергей, у Вас редкостная каша в голове. ;-) Я тут, к слову, ради такого дела ознакомился с работами Пенроуза, и могу сказать следующее. Во-первых, Пенроуз - физик. К биологии и нейрофизиологии он отношения не имеет, и необходимым набором знаний по этой части не обладает (о чем сам говорит открытым текстом). Его концепция относительно протекания наднейронных процессов в нервной системе человека потребовалась ему исключительно для проверки гипотезы о возможности редуцирования суперпозиции состояний к одной из компонент суперпозиции. Под неалгоритмизируемостью деятельности человеческой психики он понимал просто истинно случайный характер некоторых процессов. Но, прошу прощения, истинно случайные процессы нетрудно формировать и на обычном компьютере - причем в рамках обычного алгоритма.

Это еще не все. Мне попалось одно интервью с Пенроузом, в котором он жалуется на печальный факт: его концепцию стали использовать в идеологических целях люди, не имеющие отношения ни к биологии, ни к физике, извращая ее на все лады. Специалисты же, которым попадалась эта вторичная интерпретация, справедливо возмущаются - что, мол, за чушь несет этот Пенроуз, хотя ничего подобного он не говорил. :-)

Вот так-то. ;-)

[Marcellus]

> С какой стати, если их выполняет программа?
С такой, что программа просто моделирует деятельность сети. Решение же задачи - неалгоритмизированно.
Кстати, вопрос. Решение неалгоритмизировано, но решается-то эмуляцией с использованием алгоритма (т.е. программы), для МП неважно какую программу он выполняет, все его действия - сугубо последовательное выполнение инструкций. Для МП процесс неалгоритмизированного решения - тот же самый алгоритм. Так вот, вопрос: это что, неалгоритмизированное мышление раскладывается на алгоритмы (а по сути сумма алгоритмов должна дать алгоритм), или решение все-таки не совсем неалгоритмично?

[Skynet]

Marcellus,

> Так вот, вопрос: это что, неалгоритмизированное мышление раскладывается на алгоритмы (а по сути сумма алгоритмов должна дать алгоритм), или решение все-таки не совсем неалгоритмично?

Идея тут в следующем. Любое решение задачи (если она вообще имеет решение) - это всегда последовательность операций, и, следовательно, для каждого частного случая алгоритм представить можно. Это, надеюсь, понятно. Алгоритм может отсутствовать или же быть неизвестным для общего случая. В то же время нейронная сеть обладает способностью адаптироваться на частных примерах, формируя в своем, кге... миропредставлении, назовем это так, эдакий полином бог знает какой степени, позволяющий разделить факторное пространство на зоны, относящиеся к разным классам (в случае классификации) или выяснить эмпирическую зависимость между факторами (в случае предикции). Такое решение в своей готовой форме может быть представлено алгоритмом, но:

1. Оно всегда является только приближением (пусть даже исключительно хорошим), как и всякий вывод, сделанный на основе логической индукции.
2. Этот алгоритм не задан изначально, а формируется в процессе обучения.
3. Он меняется после каждого элементарного акта обучения.
4. Как правило, мало кого интересует по причине "непрозрачности".

Именно поэтому утверждать, что в основе деятельности нейросети - алгоритм, я бы не стал. Правильней сказать, что алгоритм может быть использован для _представления_ деятельности нейросети, но это относится вообще к любым явлениям действительности. Некоторые путают неалгоритмичность с недетерминированностью, но это совершенно ошибочная трактовка: индетерминизм вполне может сочетаться со строгим алгоритмом: пример - метод случайных испытаний в математическом моделировании.

[Marcellus]

В то же время нейронная сеть обладает способностью адаптироваться на частных примерах,

Другими словами, ключевое отличие от просто алгоритма состоит в том, что такой алгоритм в состоянии вмешиваться в собственную работу и менять "рабочий" алгоритм, который в данный момент выполняет задачу?
Тэк-с, это подразумевает как минимум 2 алгоритма (или две части алгоритма): исполняемый и, ну, гм, назовем его алгоритм влияния.
А если сделать их 3 или 5? Или еще лучше, вообще уйти от дискретности в, гм, самовлиянии, что получится?
Это я не к душе киборга, а к ИИ.

[Skynet]

Marcellus,

> Другими словами, ключевое отличие от просто алгоритма состоит в том, что такой алгоритм в состоянии вмешиваться в собственную работу и менять "рабочий" алгоритм, который в данный момент выполняет задачу?

Ну, не то, чтобы совсем так... Но можно представить это и в такой форме. Кроме того, есть и действительно алгоритмические средства, позволяющие программе модифицировать саму себя. Про полиморфные вирусы небось слышали? Вот простой пример такой самомодификации, хотя и чрезмерно детерминированной.

> А если сделать их 3 или 5? Или еще лучше, вообще уйти от дискретности в, гм, самовлиянии, что получится?

Да все то же самое и получится. Самообучающаяся нейронная сеть.

[Сергей Аронский]

Skynet

/ Вам что, мое свидетельство о рождении отсканировать? :-)/

Какой вы наивный ей богу.

/ Но этот ник я выбрал себе сам. /

возможно, реальная ваша природа даёт знать.

/ Хотите думать, что я искусственный разум - сколько угодно. Тогда Вам придется расстаться со своими словами о том, что "на нейронных сетях ничего путного не создали". :-)/

На самом деле я обвиняю вас в лицемерии.

/ И сети также. Но не задачи, решаемой сетью./

Ну, если одного нейрона, то и сети также.

/ Давайте поступим следующим образом. Вы мне приведете пример задачи, которую невозможно решить алгоритмически, но которую может решить человек, а потом посмотрим, справится ли с ней искусственная нейронная сеть. Идет?/

Вы хотите создать ИИ? Вот просто так шутки ради?
Буду ждать сообщения в новостях.

/ С такой, что программа просто моделирует деятельность сети. Решение же задачи - неалгоритмизированно./

С какой стати, если их выполняет программа?

/ С чего это взяли, интересно? И что Вы считаете "путным"?/

Когда программа создает что-то новое, творчество.

/ Что Вы называете "подлинно сложными задачами"? Задачи, с которыми Вы (да и я тоже) не справитесь и за 10 жизней - решают. ;-)/

Ну , конечно не сложить газету 64 раза, или перемножить числа от 1 до триллиона.
Творческие задачи.

/ Пардон? Это, между прочим, определение нейрона. ;-)/

И что, окажется ложным. Это не догмат.
Вы абсолютно не понимаете что такое наука.

/ Под неалгоритмизируемостью деятельности человеческой психики он понимал просто истинно случайный характер некоторых процессов. Но, прошу прощения, истинно случайные процессы нетрудно формировать и на обычном компьютере - причем в рамках обычного алгоритма./

Вы либо не читали, либо ничего не поняли.
Пенроуз, во-первых говорит о создания универсальной машины Тьюринга.
И он не говорит о случайных процессах.
Неалгоритмизируемость это не значит рандомизация. Рандомизация + алгоритмизацию давно используют, он говорит о совсем другом.

/ Специалисты же, которым попадалась эта вторичная интерпретация, справедливо возмущаются - что, мол, за чушь несет этот Пенроуз, хотя ничего подобного он не говорил. :-)

Вот так-то. ;-)
/

Во во. Это как раз про таких как вы.
КМ вы не знаете, биологию тоже, но раз уж вы специалист по ИИ, попытайтесь понять что он пишет о теореме Геделя, универсальной машине Тьюринга.

[Skynet]

Сергей Аронский,

> Какой вы наивный ей богу.

И в чем же состоит моя наивность?

> На самом деле я обвиняю вас в лицемерии.

Странный способ обвинить, конечно, но если обвиняете, тогда будьте добры, обоснуйте свое обвинение. Видите ли, необоснованное обвинение по определению является оскорблением, а оскорбления запрещены правилами форума. Не то, чтобы я обиделся, просто для Вашего же блага, как говорится. ;-)

> Вы хотите создать ИИ?

Ну да. В конце концов, создавал неоднократно: почему бы и еще раз не сделать?

> Буду ждать сообщения в новостях.

Вы для начала задачу сформулируйте, с которой, по-Вашему, не может справиться компьютер, но может справиться человек. За масштабностью лучше не гнаться, иначе это может занять много времени. Давайте начнем с простых примеров. Итак?

> С какой стати, если их выполняет программа?

Перечитайте мои предыдущие сообщения: я уже объяснял.

> Когда программа создает что-то новое, творчество.

Новая последовательность случайных чисел подойдет? Поконкретней, будьте так добры.

> Ну , конечно не сложить газету 64 раза, или перемножить числа от 1 до триллиона. Творческие задачи.

Пожалуйста, без пустословия. Что Вы называете творческими задачами? Дайте определение или хотя бы пример.

> И что, окажется ложным. Это не догмат.

Определение - результат договоренности, и потому ложным оказаться не может. Может оказаться отличающимся от другого определения.

> Вы абсолютно не понимаете что такое наука.

В самом деле? Может быть, со стороны и впрямь виднее. Тогда, возможно, Вы объясните мне, что такое наука? :-)

> Пенроуз, во-первых говорит о создания универсальной машины Тьюринга.

Ну и? Вы ведь знаете, что такое универсальная машина Тьюринга, не так ли? Вы также знаете, как формулируется основная теорема о машине Тьюринга, и что она была доказана еще в 1947г.?

> И он не говорит о случайных процессах.

Понятно. Пенроуза, следовательно, Вы не читали - ограничились ссылками на него в одной из желтых брошюрок. Так вот, мой Вам совет - прочтите.

> Неалгоритмизируемость это не значит рандомизация.

Да уж знаю, представьте себе. ;-)

> КМ вы не знаете, биологию тоже

А это Вы из чего заключили, интересно?

> но раз уж вы специалист по ИИ, попытайтесь понять что он пишет о теореме Геделя, универсальной машине Тьюринга.

Возможно, мы просто ссылаемся на разные источники. Будьте так добры, приведите обоснование, о котором Вы говорите. Тогда и продолжим разговор.

[Сергей Аронский]

Skynet

/ Странный способ обвинить, конечно, но если обвиняете, тогда будьте добры, обоснуйте свое обвинение./

Все люди знают что такое чувства. И знают, что есть разница между звуком из устройства, по датчику температуры и криком человека.

/ Вы для начала задачу сформулируйте, с которой, /

Вы сказали что работали с ИИ. Вы забыли постанову задачи?

/ Что Вы называете творческими задачами? /

Вы сказали что работали с ИИ. Вы забыли постанову задачи?

/ Определение - результат договоренности, и потому ложным оказаться не может. Может оказаться отличающимся от другого определения./

Любые наши представления могут оказать ложными. Причем тут договоренность?

/ Тогда, возможно, Вы объясните мне, что такое наука? :-)/

см энциклопедию

/ А это Вы из чего заключили, интересно?/

Про КМ вы согласились. А про нейроны по вашему описанию их работы и что «нейрофизиологи говорят что работа сети не алгоритмизирована»

/ Возможно, мы просто ссылаемся на разные источники. Будьте так добры, приведите обоснование, о котором Вы говорите. Тогда и продолжим разговор./

Я ссылаюсь на книгу «Новый ум короля»
Что я должен привести, пересказать её?
А почему я?
Хорошо, возможно я это сделаю (не всю конечно)

.

[Skynet]

Сергей Аронский,

> Все люди знают что такое чувства.

Ну и я знаю. Даже определение привел. А вот Вы - не привели, прошу заметить. ;-)

> И знают, что есть разница между звуком из устройства, по датчику температуры и криком человека.

Разница в том, что первое - более общее явление, чем второе, поскольку человек - это тоже устройство, способное издавать звуки. ;-)

> Вы сказали что работали с ИИ. Вы забыли постанову задачи?

Какой задачи? Вы пока не ставили передо мной никаких задач. Если Вы о задачах, с которыми сталкивался я, то их было множество: я не знаю, какую из них Вы считаете непосильной для компьютера. Речь ведь шла именно об этом: о том, что существует задача, которую может решить человек, но не может решить компьютер. Будьте добры, сформулируйте ее.

>> Что Вы называете творческими задачами?
> Вы сказали что работали с ИИ. Вы забыли постанову задачи?

Какой из них? Я же не знаю, какой класс задач Вы называете творческими. Генерация случайной мазни на экране - это творчество?

>> Определение - результат договоренности, и потому ложным оказаться не может. Может оказаться отличающимся от другого определения.

> Любые наши представления могут оказать ложными. Причем тут договоренность?

При том, что определение - это не знание, а выражение одного знания посредством другого. Результат договоренности. Различные терминологические системы могут определять один и тот же термин по-разному: и наоборот, для одного и того же понятия использовать разные термины. В качестве примера. Как правильно: "стол" или "table"? ;-)

>> Тогда, возможно, Вы объясните мне, что такое наука? :-)
> см энциклопедию

Ну, словарное определение мне известно. Могу процитировать:

"Наука - сфера человеческой деятельности, имеющая своей целью сбор, накопление, классификацию, анализ, обобщение, передачу и использование достоверных сведений, построение новых или улучшение существующих теорий, позволяющих адекватно описывать природные (естественные науки, естествознание) или общественные (гуманитарные науки) процессы и прогнозировать их развитие."

Вы утверждаете, что я незнаком с понятием "наука". Можно полюбопытствовать, на каком основании Вы это утверждаете? Что в моих словах вошло в противоречие с приведенным словарным определением?

> Про КМ вы согласились.

Это где?

> А про нейроны по вашему описанию их работы и что «нейрофизиологи говорят что работа сети не алгоритмизирована»

А что, Вы можете сослаться на работы нейрофизиологов, в которых они утверждают обратное?

> Что я должен привести, пересказать её?

Приведите трактовку основного обсуждаемого здесь тезиса и его обоснование.

> А почему я?

Это могу сделать и я, если Вы настаиваете. Итак... Основной тезис Пенроуза выглядит следующим образом.

Имеется человек Ч, представляющий собой идеализированного математика, обладающего необходимым набором знаний для решения задач о поведении некоторых алгоритмов и робот Р, эквивалентный классической универсальной машине Тьюринга (вопрос к Вам, уважаемый Сергей, Вы знаете, что такое универсальная машина Тьюринга? А то в прошлый раз Вы изящно проигнорировали этот мой вопрос). Проверяется гипотеза: деятельность Ч при решении задач описывается неким алгоритмом А. Предполагается, что А включает в себя все процедуры, доступные математикам для решения проблемы останова вычисления, заданного действием машины Тьюринга на последовательно предъявляемые натуральные числа. От алгоритма А, примененного к произвольному вычислению С, требуется, чтобы он останавливался и давал выход (Y) в том и только том случае, если А доказывает, что вычисление С не остановится (1) и чтобы он был истинным (2). Путем стандартной диагональной процедуры, используя перечислимость множества вычислений, находится вычисление С*, соответствующее процессу доказательства алгоритмом A собственной неразрешимости. Все описанные процедуры можно проделать алгоритмически.
Вычисление С* не может остановиться, т.к. из останова С* следует (по (1)) доказанность алгоритмом А собственного не останова, а из этого, в силу (2) то, что он не остановится. Следовательно, С* не остановится. Этот факт интерпретируется как "непонимание" алгоритмом А того, что он делает, в отличие от человека, который "понимает", что С* остановится. Значит, делает вывод Пенроуз, в психике человека наличествует компонент, позволяющий это сделать и превзойти алгоритм А. В силу произвольности A отсюда следует неалгоритмизируемость части психической деятельности.

Это Вы имели в виду? Доказательство неплохое, но увы, основано на ряде ложных предпосылок. Эта работа Пенроуза уже подверглась критике со стороны специалистов. Вот, что они отмечают по поводу данного доказательства:

1. Способ выражения истины.
На мышление человека накладывается ограничение (1), которое в сочетании с требованием (2) может привести к нереализуемости возможности высказывания истины. Если требовать истинности высказываний человека о мире, то следует предоставить ему такую форму высказывания, которая бы согласовывалась с состоянием мира. Проблема возникает из-за того, что человек, высказывающий утверждение о состоянии мира, включающее описание состояния собственного мозга, должен так подобрать способ выражения, чтобы состояние мозга, соответствующее этому выражению, удовлетворяло одновременно двум условиям: производило соответствующее утверждение и совпадало с состоянием, описанным этим утверждением. Поэтому, часть знаний о поведении алгоритмов может не выражаться в виде останова А при доказанности останова В, и требование (1) не позволяет выразить все имеющееся знание. Это происходит из-за зависимости алфавитов высказываний и метавысказываний (одно и то же состояние, например, останов играет две роли, могущие быть противоречивыми и становящимися таковыми в примере Пенроуза).
2. Сомнительное превосходство.
Человек в примере Пенроуза в отличие от А понимает, что С* не остановится. Но это понимание не может заменить поведение С* на более правильное. Если бы С* остановился, выразив таким, единственно доступным ему способом, такое (истинное или мнимое) понимание, он стал бы неправильным алгоритмом. Так что неполноценность А по сравнению с человеком можно объяснить слишком жесткими требованиями (1), накладываемыми на алгоритм.
3. Неравноправие партнеров.
С помощью аналогичных рассуждений клур (классический универсальный робот) может выдать заключение, что именно он "понимает" больше, чем человек. Он может поставить перед человеком задачу З из класса задач З^, включающего в себя следующие задачи. Рассматривается некоторый процесс П, который, начинаясь в момент t0, в момент t1 приводит к одному из возможных исходов: Y или N. Задача З(П) заключается в том, чтобы в момент t1 выдать правильный ответ на вопрос, является ли истиной утверждение, что в момент t1 процесс П даст выход N. Ответ считается "правильным", если он "Y" => доказано, что процесс П даст в этот момент выход N.
Далее, предполагается, что этот человек при предъявлении задачи анализа поведения процесса П продуцирует в себе (физический) процесс П(П), который должен быть правильным в вышеописанном смысле и его правильность известна человеку. Что ответит человек, т.е. процесс П, если в задаче П = П? Он не может дать ответ Y, т.к. в этом случае им доказано, что ответом П будет N, и, следовательно, этот ответ будет неистинным (противоречить физической ситуации). Поэтому, ему остается дать ответ N, т.е. признаться в своей неспособности решить задачу З(П). Итак, может сделать вывод клур, человек "не знает" что процесс П в момент t1 даст выход N, а мы, клуры, понимаем то, что в принципе не может понять человек, что свидетельствует о нашем не только очевидном количественном превосходстве над людьми, но и о принципиальном качественном превосходстве, т.к. время t1-t0 может быть выбрано как угодно большим.
Дело, видимо, не в понимании, а в ограничениях на способность выражения истины.

Ваши комментарии?