Душа киборга

[Мачо]

>Полагаете, программа по распознаванию отсканированного текста будет делать это все лучше и лучше, так как набирает опыт?

Да - если указывать ей на ошибки распознавания. Это, насколько я помню, даже в числе главных фич соответствующих программ указывается. Более того, я сам разрабатывал такие системы, и воочию видел динамику их обучения.

Ну что же, я не исключаю такой возможности, особенно если программа сделает криминалистов-графологов безработными

> Это формальный подход.

Почему ж формальный? Это т.н. геометрический подход с использованием гипотезы компактности. Создается факторное пространство признаков, в котором размещаются объекты разных классов. Гипотеза компактности утверждает, что объекты разных классов будут локализоваться в примерно разных областях факторного пространства, что сразу обеспечивает нам ворох математических методов для разделения факторного прастранства на зоны, принадлежащие разным классам. Именно этот принцип, по сути, и лежит в основе деятельности как естественных, так и искусственных нейронных сетей. Классификация, разделение, выявление общих признаков, абстрагирование - это основа мыслительной деятельности, и в различной степени она выражена у всех носителей адаптивной нервной системы.

Согласен, что это основа, но не согласен, что это и есть наш принцип мышления. Наш - гораздо сложней.

> Она не в состоянии отличить юмор от не-юмора.

Почему Вы так думаете, интересно?

Невозможно заложить в машину понятие "юмор". Это понятие сильно зависит от социокульрурного воспитания, которого машина не получает.

> Науке известно сознание только у живых существ. Если у Вас есть обратные факты - милости прошу, разрушим мою чушь

Да это не чушь, это просто недостаточно обоснованное утверждение. Если жизнь до сих пор была обнаружена только на планете Земля, следует ли определять жизнь как исключительно земное свойство, а в число признаков жизни включать локализацию в пределах нашей планеты? Эдак мы точно не сможем найти жизнь за пределами Земли. ;-)

А я с Вами совершенно неожиданно соглашусь! Наука не отрицает возможности жизни на ином принципе, нежели белковом (мы с Вами). Она не отрицает возмжности наличия жизни на кремниевом принципе (компьютеры). Но факт пока такой, что жизнь и сознание пока обнаружены на Земле и именно в белковой форме. От этого пока и отталкиваемся

> Конечно. С помощью психологических тестов.

Т.е. любая система, которая "пройдет" эти тесты, гарантированно обладает сознанием?

Теоретически да, если в нее не вкладывать заранее ответов или принципов, по которым она однозначно придет к правильным ответам.

В любом случае, мой вопрос о другом. Почему Вы считаете, что результаты этих тестов свидетельствуют о наличии у меня (или кого угодно другого) сознания?

Тесты на наличие сознания пройдут только те, у которых оно есть В конце концов, эталон, сравнение - именно с носителями сознания, то есть с людьми.

> Если есть все три - у живого существа (т.е. человека) есть сознание.

Опять-таки, я спрашиваю о другом. Как именно три названных пункта (жизнь, речь, абстрагирование) свидетельствуют о наличии сознания? Или, другими словами, почему Вы считаете, что они об этом свидетельствуют?

Все три признака говорят о наличии сознания у белкового живого существа. Об этом говорят эксперименты.

За неимением иных экспериментов мы утверждаем, что сознание - это исключительно прерогатива живых белковых существ. Что не означает, что границы не могут быть расширены при получении новых данных.

> Науке неизвестно наличие сознания у неживых объектов.

Прошу прощения, это совершенно не доказывает, что сознания у неживых объектов быть не может. Доказать это могло бы объяснение, как сознание связано с жизнью: если жизнь, согласно этому объяснению, окажется необходимым условием для существования сознания, тогда конечно.

Ну, тут просто: ни один из неживых объектов не демонстрирует наличия сознания.

Но пока что в нашем распоряжении существует единственный биологический вид-носитель сознания, а машинную эволюцию, идущую бешеными темпами на наших глазах, большинство людей почему-то не замечает, хотя она, вполне возможно, способна породить нечеловеческое сознание: если еще не породила. Разве не замечаете Вы замкнутого круга в определении: до сих пор сознание наблюдалось только у живых существ, на основании чего жизнь вносится в число критериев сознания, и как результат, попытки найти сознание за пределами живого обречены на провал из-за несоответствия неживого первому же из названных Вами критериев.

Машинное сознание мы создаем сами . И копируем его по принципу человеческого. Поэтому оно не что иное, чем клон нас с вами.

Но наука не отрицает наличия сознания у существ (!) - пока не доказано, что сознание может быть не у существ - сознания, пусть и построенного на иной биохимии.

Короче, я не отрицаю создания полностью компьютерного искуственного интеллекта, но, имхо, это будет не в этом десятилетии Но, в любом случае, это будет только копия, причем не очень удачная, человека.

> Я с трудом представляю, как компьютер будет делать акценты в речи, так как около 3/4 информации в речи передается интонацией.

Тогда почему я представляю это с легкостью? Интонация - это просто работа со звуковыми частотами. Разве есть звук, которого компьютер в принципе неспособен издать? Что помешает ему овладеть интонацией?

Да, но как компьютер поймет, как и когда ее нужно расставлять?

> Компьютер понять абстрактные понятия не может вообще (не путать с исполнением заложенной программы, то есть, по сути, щелканием обученной обезьяной на счетах).

Пардон, с чего Вы взяли? И разве не говорил я, что деятельность нейронной сети - это отнюдь не исполнение заложенной программы, а чистое абстрагирование? Разберемся в понятиях. Абстрагирование - это операция выделения существенных свойств объекта и отвлечение их от других его свойств. Эта операция напрямую связана с понятием классификации, поскольку классификация возможна только на основе объединения объектов по одному или более выделенных, абстрагированных признаков. И если нейросеть разобьет последовательность предъявленных Вами объектов (будь то визуальные образы, звуки или литературные тексты) на несколько классов, то разве не свидетельствует это о ее способностях к абстрагированию?

Да, машина может это сделать. Сделать то же может и одно-двухгодовалый ребенок. Но ребенок дошел до этого сам, машине же мы дали в готовом виде

> Он не может понять, что такое "смерть" или "завтра".

Извините, голословное утверждение. Возможность понимания компьютером этих понятий напрямую связана со структурой модели действительности, которой он располагает. Если эти понятия описываются в рамках модели, то, можете быть уверены, проблем с пониманием (а понимание, как известно, активное знание - возможность применения знания) у него не возникнет.

Ну хорошо. Каким образом Вы бы объяснили компьютеру понятие "смерть"? Я лично затрудняюсь объяснить, вот и спрашиваю.

Могу порекомендовать Вам совершенно замечательный роман "Выбор по Тьюрингу", написанную Г. Гаррисоном в соавторстве с М. Мински

Спасибо, скачаю, почитаю

> А вот человек с сознанием гораздо лучше приспособлен к выживанию, чем обезьяны. Он выживает даже в условиях космоса.

Последствия мне и так ясны. Я спрашиваю о функциях сознания. Но если сознанием Вы называете просто знание о самом себе, тогда вопрос снимается.

Функции применительно к чему? В конце концов, сознание можно рассматривать с разных точек зрения - социальной, психологической, философской и так далее.

> Информация о местонахождении объекта в пространстве и его характеристиках материальна, так как она - и есть этот объект.

Неверно. Информация - компонент отражения. Т.е. информации не существует вне рецепиента этой информации, а объект в пространстве - это еще не информация, его описывающая. То, что Вы называете "вторичной информацией", на самом деле ничем не отличается от информации первичной кроме своего содержания. Информация обоих разновидностей возникает в момент рецепции физического воздействия разумной (или даже неразумной) системой.

Но тогда получается масло масленное. Информации не существует в принципе (то есть некая идеальная информация может быть не уловлена никем и ничем на протяжении бесконечности), и она присутствует постоянно, так как все со всем взаимодействует. Либо я не так Вас понял, либо такое объяснение ничего не объясняет

И различия в запомненных разными людьми образах объясняется именно различиями в строении их мозга и сформированных картин мира. А вовсе не каким-то особым видом информации, с которым может работать человек, но не может работать компьютер.

Ну, компьютер, положим, до сих пор не может работать с человеческими образами, ибо их нельзя перенести на жесткий диск. Данный вид информации ему недоступен.

> Любой интернет-сервер не может оценить самого себя (исключая формальную оценку систем - собственно, то же наблюдается у животных и людей с психическими расстройствами, у которых страдает выделение себя из мира),

А чем формальная оценка систем - не оценка самого себя, если уж на то пошло?
Тем, что она ФОРМАЛЬНА . Существа без сознания в состоянии понять, что у них четыре лапы и хвост, но то, что они - существо, называемое обезьяна такого-то вида - не в состоянии.

Она оценка самого себя, конечно, но она не говорит о наличии сознания, так как формальную оценку дают себе и существа без сознания, и с сознанием.

Поэтому "знание" компьютером своего IP я бы не называл признаком наличия у него сознания.

> своего места среди других компьютеров.

"IP 192.168.31.40..." ;-)

Что это такое? Абстрактрый переменный адрес. Они не в состоянии понять, где они физически находятся.

И, прошу Вас, объясните мне, чем такая форма самовосприятия и самооценки не является самосознанием.

Самосознание. Самосознание, осознание, оценка человеком своего знания, нравственного облика и интересов, идеалов и мотивов поведения, целостная оценка самого себя как деятеля, как чувствующего и мыслящего существа.

Заметьте, не осознание своего порядкового номера, а другие, качественно более высокие требования к себе. Вот как Вы себе представляете нравственный облик машинного сознания?

Буду упрям: с точки зрения науки сознанием обладают только живые существа, а попросту - люди. В любом источнике (за исключением философского) сознание - это атрибут только людей.
Иначе мы с Вами углубимся в дебри психологии и будем спорить не один месяц, и не факт, что друг друга поймем.

> Сервер не в состоянии выделить себя как субъекта, автономного от среды.

А что Вы под этим понимаете?

"Я - сервер Джека. Он клевый чувак и не тыкает в меня пальцами зазря. Я стою у него на столе рядом с тремя пустыми бутылками из-под пива и стойкой компакт-дисков. У меня барахлит винчестер, но Джек пока об этом не знает..."

> Он не может осознать, что им управляют ("Эти ламеры обеспечивают мне еду - электричество").

Пардон, он выполняет команды управления админа.

Высшие млекопитающие также могут выполнять команды человека. Но у них нет сознания.

Он, возможно, не назовет это термином "управление"

Он это никак не назовет - у него нет языка, который он мог бы самостоятельно задействовать. Компьютеры не треплются за жизнь с другими компами

Я уже говорил, что на мой взгляд разум и сознание возможны при существовании собственной модели действительности, но, во-первых, такой моделью, пусть и крайне примитивной, Internet-сервер обладает, а во-вторых, ничто не запрещает совершенствовать эту модель произвольным образом - без ограничений. Так что же способно помешать компьютеру обладать сознанием?

Кажется, я говорил, что компьютер уже сейчас может обладать ЗАЧАТКАМИ сознания, но не сознанием. Точно так же зачатками сознания обладают некоторые обезьяны. Но обезьяны же не становятся разумными. И вряд ли станет компьютер.

Не исключаю, что в будущем компьютер, с нашей подачи, будет моделировать наше же сознание. Создаст ли он свое - не знаю и сильно сомневаюсь.

Но в 1984 году Билл Гейтс высказал мнение, что каждому пользователю 640 кб ОЗУ будет хватать с головой

[Skynet]

Мачо,

мда, что-то в Ваших тэгах я и сам запутался. Вы уж поправьте, а потом я отвечу.

[Сергей Аронский]

Skynet

Поскольку Вы отлично знаете, что такое машина Тьюринга, я на этом останавливаться не буду.

Итак, у нас есть таблица

«В этой таблице N-ый ряд представляет собой результат вычисления n-ой машины полученный при её последовательной работы с числами m=0,1,2,3 .бесконечность »
Существует ли универсальная машина Q(n,m)?

Нет, так как мы можем поменять диагональные элементы, и получить еще машину.

«Иными словами, не существует универсального алгоритма для решения вопроса об остановке произвольной машины Тьюринга»

«Но, не существует алгоритма, который позволял бы решить любую математическую задачу или давал ответ на вопрос об остановке любой машины Тьюринга при любых вводимых числах»

Всё это док-вj аналогично док-ву Кантора, как это и говорит и сам Пенроуз

Натуральные числа Действительные числа
0 0.13234
1 0.56565
2 0.768678
3 0.75466

можно изменив по диагонали цифры получить еще одно действительное число, хотя уже и так для любого натурального числа 0 до бесконечности можно сопоставить с действительным числом между 0 и 1.
Т.е. множество действительных чисел больше чем натуральных и не является счетным.

Теперь о нейронах.
Ясно, что если нейрон просто сумматор, все процессы мышления легко алгоритмизируется.
Но, ведь мышления не алгоритмизировано, как же быть?
Можно ввести нематериальную душу, или как Пенроуз поменять свойства нейронов.
В них, большую роль должны играть квантовые процессы у белковых молекул (тубулинов).
Он это так же объяснял на примере кристаллов.
Существуют геометрические задачи замещения («плиточные задачи»), которые невычислимы, неалгоритмичны и следовательно ни одна программа их не может решить. Но, человек, а так же всё что обладает разумом может.
Образование некоторых кристаллов можно объяснить что некоторая группа атомов входит в квантовую суперпозицию и в итоге появляется невычислимым образом (т.е. нельзя составить алгоритм который был нашел такую кристаллическую конфигурацию) кристаллическая конфигурация.

О чувствах.
Как я уже сказал, люди видят отличия между, тем что в приборе загорается лампочка или возникает звук, из-за датчика температуры и человеком который обжег палец.
Хотя внешне звуковые сигналы могут быть и тождественны, тем не менее есть отличие, именно из-за того, что устройство «человек» обладает сознанием, а другие современные устройства нет.

Что должна сделать программа.
Очевидно, что-то творческое, какое-нибудь научное открытие, изобретение, новое устройство, на основе каких-то новых идей, а не параметрического изменения старого проекта.
Создания новой системы, системотворчество.
Пока это доступно только человеку, а программы ему лишь помогают.
И тот факт, что уже десятки лет не могут создать такую программу, делает гипотезу Пенроуза вполне правомерной.

[Skynet]

Сергей Аронский,

> Поскольку Вы отлично знаете, что такое машина Тьюринга, я на этом останавливаться не буду.

Нет, давайте уж рассмотрим этот вопрос подробней. Видите ли, я не уверен, что Вы знаете суть машины Тьюринга, конкретно -универсальной машины Тьюринга. :-)

> «Иными словами, не существует универсального алгоритма для решения вопроса об остановке произвольной машины Тьюринга»

Это понятно. Но, замечу, не существует и доказательства того, что человеческое мышление правильно примет решение об остановке произвольной машины Тьюринга: это не более, чем априорное суждение. Или Вы нашли такое доказательство у Пенроуза? См. также критику в моем предшествующем письме.

> Ясно, что если нейрон просто сумматор, все процессы мышления легко алгоритмизируется.

Во-первых, нейрон - не просто сумматор, а _нелинейный_ сумматор. Это значит, что степень полинома, формируемого деятельностью нейронной сети, будет в общем случае равна количеству слоев нейронов. С учетом наличия многочисленных обратных связей и сотнями миллиардов синапсов зависимость усложняется неимоверно. Понятие алгоритма в этих условиях попросту теряет смысл: какой толк в алгоритме, если нет средств его записи, анализа и исполнения? Это же, пусть и в меньшей степени, относится и к искусственным нейронным сетям. Даже примитивнейшая сетка из 10 нейронов формирует выражение, от которого просто в глазах рябит. Сеть из 100 нейронов формирует выражение, которое попросту бессмысленно применять: легче работать с самой сетью. На 1000 нейронах понятие алгоритма уже теряет практический смысл, и остается алгоритмом чисто формально. Если же учесть свойство пластичности сети, т.е. способность к постоянному изменению этого "внутреннего алгоритма", то дело - и того интересней. К слову, хотите, я Вам продемонстрирую тот факт, что Вы ничем не превосходите универсальную машину Тьюринга? Скажите, остановится ли алгоритм, самомодифицирующийся на основе внешних условий и способный принять любую форму, или нет? ;-)

> Но, ведь мышления не алгоритмизировано, как же быть? Можно ввести нематериальную душу, или как Пенроуз поменять свойства нейронов.

Можно просто корректно рассмотреть задачу, и не утверждать, что человек обладает свойствами, которые ему приписаны на непонятных основаниях. ;-)

> Существуют геометрические задачи замещения («плиточные задачи»), которые невычислимы, неалгоритмичны и следовательно ни одна программа их не может решить. Но, человек, а так же всё что обладает разумом может.

Вот и отлично. Сформулируйте условие задачи, а я построю Вам нейросеть или генетический алгоритм (посмотрю, как выйдет быстрее), которая ее решит. ;-) Практика - критерий истины, как говорится. Я уже не раз ошарашивал таким макаром товарищей, убежденных в человеческом превосходстве над мертвой материей. ;-)

> Образование некоторых кристаллов можно объяснить что некоторая группа атомов входит в квантовую суперпозицию и в итоге появляется невычислимым образом (т.е. нельзя составить алгоритм который был нашел такую кристаллическую конфигурацию) кристаллическая конфигурация.

Вы на редкость точно угадали тему моей докторской, которой я сейчас занят. Видите ли, я сейчас как раз работаю над молекулярным моделированием роста кристаллов и образования фуллеренов: пока, знаете ли, проблем не наблюдается. ;-)

> Хотя внешне звуковые сигналы могут быть и тождественны, тем не менее есть отличие, именно из-за того, что устройство «человек» обладает сознанием, а другие современные устройства нет.

Вы ведь даже не знаете, что такое чувство, а, между тем, продолжаете использовать этот термин. Если бы знали, давно уже снабдили бы меня определением. "Кто ясно мыслит, тот ясно выражает", не так ли? :-)

> Очевидно, что-то творческое, какое-нибудь научное открытие

Доказательство новой (ранее неизвестной) математической теоремы - пойдет? Установление ранее неизвестной взаимосвязи между явлениями?

> изобретение,

Разработка электронного устройства, решающего поставленную задачу в формате "вход - выход" - пойдет?

> Создания новой системы, системотворчество.

Мировоззренческая модель действительности - пойдет?

> Пока это доступно только человеку, а программы ему лишь помогают.

Блажен, кто верует, как говорится. ;-) Все это давно и успешно выполняется, в том числе и с моим участием.

> И тот факт, что уже десятки лет не могут создать такую программу

Боюсь, Вы основательно отстали от жизни. Лет эдак на 50-60. ;-)

[Мачо]

Мачо,

мда, что-то в Ваших тэгах я и сам запутался. Вы уж поправьте, а потом я отвечу.

Готово, читайте

[Skynet]

Мачо,

> Ну что же, я не исключаю такой возможности, особенно если программа сделает криминалистов-графологов безработными

Вряд ли сделает: просто они ей будут пользоваться. ;-) Собственно, уже пользуются такого рода экспертными системами, насколько мне известно.

> Согласен, что это основа, но не согласен, что это и есть наш принцип мышления. Наш - гораздо сложней.

Есть основания так полагать?

> Невозможно заложить в машину понятие "юмор".

А Вы, простите, пробовали?

> Это понятие сильно зависит от социокульрурного воспитания, которого машина не получает.

Кто сказал, что машина не может получить социокультурного воспитания? Мачо, Вы умный человек, но слишком полагаетесь на устоявшиеся в обиходе мнения, многие из которых действительности абсолютно не соответствуют. ;-)

> Но факт пока такой, что жизнь и сознание пока обнаружены на Земле и именно в белковой форме. От этого пока и отталкиваемся

Но ведь если мы и дальше будем отталкиваться от этого принципа, то жизнь и сознание мы не обнаружим нигде. Обнаружив развитую негуманоидную цивилизацию где-нибудь в районе Бета Гидры, заявим, что, мол, это не жизнь, не разум, и не сознание, потому как все это существует только на Земле. :-)

> Теоретически да, если в нее не вкладывать заранее ответов или принципов, по которым она однозначно придет к правильным ответам.

1. Представьте, что имеете дело с неким "черным ящиком", т.е. общаетесь, например, посредством форума, с каким-либо собеседником, относительно которого Вам требуется точно установить, обладает он сознанием или нет. Удовлетворитесь ли Вы этими тестами? Ведь ответы могут быть заложены заранее. ;-)
2. У Вас есть какие-нибудь ссылки по такого рода тестам? Интересно было бы разработать систему, которая пройдет тест, не зная "правильных" ответов.

> Тесты на наличие сознания пройдут только те, у которых оно есть

А из чего это следует? И разве не может ли человек, находящийся в неадекватном психическом состоянии (ну депрессия у него или сильная акцентуация), ответить на вопросы "неправильно"?

> Все три признака говорят о наличии сознания у белкового живого существа. Об этом говорят эксперименты.

Так вот меня и интересует, какое отношение эти три признака имеют к сознанию. Что именно говорят эксперименты?

> За неимением иных экспериментов мы утверждаем, что сознание - это исключительно прерогатива живых белковых существ.

Но это необоснованное ограничение. Если мы до сих пор не обнаружили астероидов и комет в других звездных системах, разве это повод считать, что астероиды и кометы - исключительная особенность Солнечной системы?

> Что не означает, что границы не могут быть расширены при получении новых данных.

Как же границы расширятся, если в число признаков сознания Вы заранее включаете ограничение на носителя? Если Вы обнаружите сознание в компьютере, разве не скажете Вы, что это не сознание, потому что компьютер - не человек? А если скажете, что это сознание, то разве не отменяет это первого признака?

> Машинное сознание мы создаем сами . И копируем его по принципу человеческого.

Кто сказал? Если сознание - просто знание о себе, тогда оно не может быть человеческим или нечеловеческим.

> Но наука не отрицает наличия сознания у существ (!) - пока не доказано, что сознание может быть не у существ - сознания, пусть и построенного на иной биохимии.

Могу доказать прямо здесь и прямо сейчас. Если сознание - знание о себе, значит условием наличия сознания является спосоность хранить информацию, описывающую отношение носителя информации к реальной действительности. Очевидно, что компьютер, способный хранить любую информацию, может хранить и эту информацию тоже. Доказано. ;-)

> Короче, я не отрицаю создания полностью компьютерного искуственного интеллекта, но, имхо, это будет не в этом десятилетии

Гм. Не понимаю, почему многие люди до сих пор уверены, что искусственный интеллект все еще не создан, хотя уже вовсю пользуются его плодами?

> Но, в любом случае, это будет только копия, причем не очень удачная, человека.

Боюсь, что и это суждение никаких оснований под собой не имеет.

> Да, но как компьютер поймет, как и когда ее нужно расставлять?

А как это понимает человек? Так же - или лучше.

>> А чем формальная оценка систем - не оценка самого себя, если уж на то пошло?
> Тем, что она ФОРМАЛЬНА .

Т.е.?

> Существа без сознания в состоянии понять, что у них четыре лапы и хвост, но то, что они - существо, называемое обезьяна такого-то вида - не в состоянии.

Обезьяна или кошка - да, понять не в состоянии. И дело не в отсутствии у них сознания, а в недостаточности интеллекта. Компьютер же прекрасно может понять, что он собой представляет, какую роль играет и т.п.

> Что это такое? Абстрактрый переменный адрес. Они не в состоянии понять, где они физически находятся.

Во-первых, способны ли Вы понять, где находитесь физически, если Вас запереть в тесной комнате без окон?
Во-вторых, что мешает снабдить компьютер парочкой веб-камер для компенсации этого недостатка? Или хотя бы GPS-локатором? :-)

> Буду упрям: с точки зрения науки сознанием обладают только живые существа, а попросту - люди.

Вы говорили, что при обнаружении сознания в других носителях, этот тезис лишается силы. Следовательно, он изначально не предполагает необходимость быть свойством исключительно человеческим. Кроме того, из определения сознания (по крайней мере, словарного) напрямую следует, что обладать им может и компьютер: доказывается несложно - см. выше.

> В любом источнике (за исключением философского) сознание - это атрибут только людей.

Но ведь это напрямую противоречит действительности и определению сознания. Не говоря уже о том, что атрибут по определению - неотъемлемое свойство, в то время как сознания человек лишиться может. ;-)

> "Я - сервер Джека. Он клевый чувак и не тыкает в меня пальцами зазря. Я стою у него на столе рядом с тремя пустыми бутылками из-под пива и стойкой компакт-дисков. У меня барахлит винчестер, но Джек пока об этом не знает..."

И Вы полагаете, что компьютер неспособен сделать столь элементарное суждение? Господи, Мачо, да это же примитив: современные экспертные системы 100 очков вперед дадут подобному анализу ситуации.

>> Пардон, он выполняет команды управления админа.
> Высшие млекопитающие также могут выполнять команды человека. Но у них нет сознания.

Не имеет значения. Главное, что он не просто способен понять, что им управляют, но и подчиниться этому управлению.

> Он это никак не назовет - у него нет языка, который он мог бы самостоятельно задействовать.

Почему ж нет? Систем общения с поддержкой естественного языка для компьютеров разработано предостаточно. Язык Refal, например, изначально разрабатывался для их создания, насколько мне известно, хотя его возможности и существенно шире.

> Компьютеры не треплются за жизнь с другими компами

Обмен информацией между компьютерами (причем жизненно важной для них) осуществляется в любой сети. Чем не общение?

> Кажется, я говорил, что компьютер уже сейчас может обладать ЗАЧАТКАМИ сознания, но не сознанием.

А где все-таки критерий? Впрочем, мы начинаем повторяться...

[Skynet]

Мачо,

ну вот, я уже первый вариант ответа запостил... Ладно, сейчас доотвечу на остальное.

> Да, машина может это сделать. Сделать то же может и одно-двухгодовалый ребенок. Но ребенок дошел до этого сам, машине же мы дали в готовом виде

Отнюдь. Нейросеть именно что самостоятельно в силу своей функциональности обладает способностью к абстрагированию. Это, как я уже отмечал, лежит в основе ее деятельности, и не требует ни программирования, ни обучения.

> Ну хорошо. Каким образом Вы бы объяснили компьютеру понятие "смерть"? Я лично затрудняюсь объяснить, вот и спрашиваю.

Так же, как и человеку. Смерть - простое понятие. Это просто прекращение процесса жизнедеятельности, который состоит в поддержании неравновесного термодинамического состояния организма. У смерти достаточно четкие критерии, и потому отличить мертвое от живого компьютер сможет без проблем (при должном обучении, конечно), равно как и определить момент смерти.

> Функции применительно к чему? В конце концов, сознание можно рассматривать с разных точек зрения - социальной, психологической, философской и так далее.

Когда Вы используете термин "сознание" в нашей беседе, Вы какой трактовки придерживаетесь?

> Но тогда получается масло масленное. Информации не существует в принципе (то есть некая идеальная информация может быть не уловлена никем и ничем на протяжении бесконечности), и она присутствует постоянно, так как все со всем взаимодействует. Либо я не так Вас понял, либо такое объяснение ничего не объясняет

Тут уже я не понял. Почему масло масляное? Информация объективно существует, и присутствует постоянно как компонент отражения, но обладает смыслом только для разумных систем (причем, возможно, различным смыслом - для разных систем). Впрочем, есть еще термодинамическая трактовка информации (эквивалент негэнтропии), но это уже достаточно далеко от обычного понимания термина "информации", поэтому пока не будем ее касаться.

> Ну, компьютер, положим, до сих пор не может работать с человеческими образами, ибо их нельзя перенести на жесткий диск.

Проблема не в переносе, а в считывании состояний синапсов. Появится технология, позволяющая замерять синаптическую проводимость для любых связей между нейронами, и закодируем мы эту информацию в любом желаемом для Вас формате - хоть в JPG, хоть BMP, хоть в TIFF, если захотите. ;-) С другой стороны, кодировать визуальные образы для передачи их в зрительную кору уже научились, правда, пока что не особенно качественно и в монохроме (последнее, что слышал по теме). Как, по-Вашему, иначе могут работать кибернетические протезы глаза, соединяемые непосредственно со зрительным нервом?

> Она оценка самого себя, конечно, но она не говорит о наличии сознания, так как формальную оценку дают себе и существа без сознания, и с сознанием.

Тогда в число критериев сознания оценку самого себя Вы включили напрасно. Речь ведь шла именно об этом.

> Поэтому "знание" компьютером своего IP я бы не называл признаком наличия у него сознания.

Да пожалуйста. Вы же сами в качестве возражения против сознания сервера указали, что он неспособен к самоидентификации или что-то в этом роде.

> Самосознание. Самосознание, осознание, оценка человеком своего знания, нравственного облика и интересов, идеалов и мотивов поведения, целостная оценка самого себя как деятеля, как чувствующего и мыслящего существа.

Но это просто оценка, выполняемая по набору перечисленных критериев. Понимаете, нет ни одного препятствия, мешающего компьютеру выполнить такую оценку. У животного - да, проблемы возникнут по причине слабого интеллекта. У компьютера интеллект не имеет принципиальных ограничений: его можно увеличивать практически беспредельно.

> Заметьте, не осознание своего порядкового номера, а другие, качественно более высокие требования к себе.

Да какая разница? Суть-то одна и та же. Есть набор качественных оценок, есть методики их выполнения, и нет оснований считать, что компьютер не управится с этими методиками.

> Вот как Вы себе представляете нравственный облик машинного сознания?

Нравственность - это набор норм поведения. Соответственно, если действия компьютера не противоречат этому набору норм, значит можно указать, что его нравственность (с точки зрения данной нравственной системы) весьма высока.

[Мачо]

Скайнет, стало много букавок... Скорость моих ответов замедлится, сорри

[Skynet]

Мачо,

> Скорость моих ответов замедлится, сорри

Да я и не спешу. У меня у самого с интернетом перебои...

[Сергей Аронский]

Skynet

/ Нет, давайте уж рассмотрим этот вопрос подробней. /

Не согласны, с тем, что вы знаете, что такое машина Тьюринга?
Не буду спорить.

/ Но, замечу, не существует и доказательства того, что человеческое мышление правильно примет решение об остановке произвольной машины Тьюринга: это не более, чем априорное суждение./

А кто говорил, что человеческое мышление неалгоритмизировано?
Ну, это суждение, опирается на историю человеческой мысли.

/ Во-первых, нейрон - не просто сумматор, а _нелинейный_ сумматор. Это значит,/

Это не важно.
Хотите сказать,что в программируются только линейные зависимости?


/ Если же учесть свойство пластичности сети, т.е. способность к постоянному изменению этого "внутреннего алгоритма", то дело - и того интересней. /

Да ничего интересного, есть самомодифицирующиеся программы.

/ Вы на редкость точно угадали тему моей докторской, которой я сейчас занят.
Видите ли, я сейчас как раз работаю над молекулярным моделированием роста кристаллов и образования фуллеренов: пока, знаете ли, проблем не наблюдается. ;-)/

Я уж думал о ИИ. Правильно, ИИ это не ваша тема, у вас ведь нелинейные процессы не «алгоритмизируются» . Вот например, решение квадратного уравнения, там ведь и корень нужно извлекать. Явно не алгоритмизировано.
Вы пишете докторскую? А по смайликам не скажешь.

/ Вы ведь даже не знаете, что такое чувство, а, между тем, продолжаете использовать этот термин. /

Ну, я и все люди знают. Да, наверно, все кто обладает сознанием.

/ Если бы знали, давно уже снабдили бы меня определением. "Кто ясно мыслит, тот ясно выражает", не так ли? :-)/

Я показал разницу между обычным информационным процессом и и таким в каком участвует субъект обладающий сознанием.

/ Доказательство новой (ранее неизвестной) математической теоремы - пойдет? Установление ранее неизвестной взаимосвязи между явлениями?/

/ Разработка электронного устройства, решающего поставленную задачу в формате "вход - выход" - пойдет?/
/ Мировоззренческая модель действительности - пойдет?/

Очевидно, что-то творческое, какое-нибудь научное открытие, изобретение, новое устройство, на основе каких-то новых идей, а не параметрического изменения старого проекта.
Создания новой системы, системотворчество.
Пока это доступно только человеку, а программы ему лишь помогают.
И тот факт, что уже десятки лет не могут создать такую программу, делает гипотезу Пенроуза вполне правомерной.

/ Боюсь, Вы основательно отстали от жизни. Лет эдак на 50-60. ;-)/

Вы наверно к нам из будущего пожаловали?
Пока, лишь «Создания новой системы, системотворчество.
Пока это доступно только человеку, а программы ему лишь помогают.
»

[Skynet]

Сергей Аронский,

> Не согласны, с тем, что вы знаете, что такое машина Тьюринга?

Я согласен с тем, что я знаю, что такое машина Тьюринга. Я не уверен, что Вы знаете, что такое машина Тьюринга и желаю в этом убедиться, в связи с чем и настаиваю на более подробном рассмотрении этого вопроса. А то копи-пастом цитаты копировать - всякий горазд. ;-)

> А кто говорил, что человеческое мышление неалгоритмизировано?

Много кто говорил. Но неалгоритмизированность мышления - явно недостаточное условие для принятия правильного решения об остановке машины Тьюринга, не так ли?

> Ну, это суждение, опирается на историю человеческой мысли.

Подробней, пожалуйста. История человеческой мысли процентов эдак на 99 состоит из заблуждений, так что уж и не знаю, что Вы имеете в виду. Доказательства у этого "опирающегося суждения" имеется?

>> Во-первых, нейрон - не просто сумматор, а _нелинейный_ сумматор.
> Это не важно.

Это важно, в противном случае я не стал бы заострять на этом внимания. Вот адаптивность нейрона в данном контексте и впрямь не важна, почему я и не стал лишний раз напоминать об этом его качестве.

> Хотите сказать,что в программируются только линейные зависимости?

То, что я хотел сказать, я и сказал: Вы просто удалили соответствующий фрагмент. Но мне нетрудно привести его снова: я тоже копировать умею. ;-)

-----------------------------
Во-первых, нейрон - не просто сумматор, а _нелинейный_ сумматор. Это значит, что степень полинома, формируемого деятельностью нейронной сети, будет в общем случае равна количеству слоев нейронов. С учетом наличия многочисленных обратных связей и сотнями миллиардов синапсов зависимость усложняется неимоверно. Понятие алгоритма в этих условиях попросту теряет смысл: какой толк в алгоритме, если нет средств его записи, анализа и исполнения?...
-----------------------------

> Да ничего интересного, есть самомодифицирующиеся программы.

К слову, самомодифицирующиеся программы в общем случае к числу машин Тьюринга не относятся, и доказательство соответствующей теоремы на них не распространяется. Вы это знали? :-)

> Я уж думал о ИИ. Правильно, ИИ это не ваша тема

Ну как же не моя? Именно, что моя: сфера моих приоритетных научных интересов - математическое моделирование физико-химических процессов. Т.е. включает в себя как физхимию, так и методы моделирования, к числу которых относятся и системы искусственного интеллекта.

> у вас ведь нелинейные процессы не «алгоритмизируются» .

Я никогда не утвержал ничего подобного. В общем случае - алгоритмизации не подлежат. В некоторых (как в случае с нейронной сетью) - именно так.

> Вы пишете докторскую?

Ну да. Кандидатская-то уже позади, пора бы и доктора получать. ;-)

> А по смайликам не скажешь.

Что, смайлики недостаточно интеллектуальные? ;-)

> Ну, я и все люди знают. Да, наверно, все кто обладает сознанием.

Все, кто знает значение термина, может дать ему определение. Все, кто не может дать определение термину, не знают его значения. Вы определение дать затрудняетесь или ленитесь. Если первое, то Вы не знаете, что такое чувство, если второе, то у Вас неконструктивный подход к дискуссии.

> Я показал разницу между обычным информационным процессом и и таким в каком участвует субъект обладающий сознанием.

Покажите еще раз: должно быть, я прохлопал.

> Доказательство новой (ранее неизвестной) математической теоремы - пойдет? Установление ранее неизвестной взаимосвязи между явлениями? Разработка электронного устройства, решающего поставленную задачу в формате "вход - выход" - пойдет? Мировоззренческая модель действительности - пойдет?

Так пойдет или нет? Цитировать куски своих предыдущих сообщений не нужно, вполне достаточно простого ответа - да или нет. ;-)

> Пока это доступно только человеку

Не соответствует действительности. Ergo, голословное утверждение.

> Вы наверно к нам из будущего пожаловали?

Если у Вас там не 2006-й год, а более раняя эпоха, тогда, наверное, да. ;-)

[Сергей Аронский]

Skynet


/ История человеческой мысли процентов эдак на 99 состоит из заблуждений, так что уж и не знаю, что Вы имеете в виду. Доказательства у этого "опирающегося суждения" имеется?/

Неужели вы ничего не слышали о научных открытиях и изобретениях?

/ Во-первых, нейрон - не просто сумматор, а _нелинейный_ сумматор/

Это неважно.
Хотите сказать, что в программируются только линейные зависимости?
Вы хоть одну программу видели?
Сдается что только из желтой прессы.

/ К слову, самомодифицирующиеся программы в общем случае к числу машин Тьюринга не относятся, и доказательство соответствующей теоремы на них не распространяется. Вы это знали? :-)/

Машиной Тьюринга можно заменить любую программу, в том числе и самомодифицирующеюся.

/ Я никогда не утвержал ничего подобного. В общем случае - алгоритмизации не подлежат. В некоторых (как в случае с нейронной сетью) - именно так. /

А нет разницы.

/ Ну да. Кандидатская-то уже позади, пора бы и доктора получать. ;-) /

Поверьте, рано.

/ Все, кто знает значение термина, может дать ему определение. /

Я дал наглядное описание.
Но, пожалуйста

Чувство, психологический термин, употребляемый в двояком смысле: 1) в первом, более общем, слово Ч. означает то же, что ощущение (см.); сюда относятся не только так. назыв. пять Ч. (зрение, слух, обоняние, вкус и осязание), но все внутренние ощущения: Ч. голода, жажды, недомогания, боли, тошноты, равновесия, головокружения, тяжести, теплоты, холода и др.-2) Способность души испытывать от ощущений, восприятий и представлений удовольствие или неудовольствие, также самое психическое состояние радости или страдание; в этом смысле Ч. обозначается иногда терминами: чувствование, эмоция. Ч. представляет наряду с познанием и волей самостоятельный вид душевных явлений, особую функцию души. Основных простых чувствований - два: удовольствие (все, что связано с повышением жизнедеятельности организма) и страдание (сопровождает всякое понижение, ослабление жизнедеятельности). В действительности простые Ч. очень редки; Ч., как представления, состоят из сочетания многих разнообразных элементов (смешанные Ч.). Напряжение, тон Ч. иногда зависит не только от своего содержания объекта, но и окружающей обстановки; тон Ч. усиливается по закону контраста: радостям интенсивнее, чем противоположнее она предшествующему душевному состоянию; в мрачном помещении незначительный луч света радует нас больше, чем в другом месте. Каждое Ч. оказывает воздействие на темп кровообращения и на иннервацию произвольных и непроизвольных мускулов. Ч., принявшее ту или иную форму выражения, называется эмоцией; если проявления Ч. наружу достигло высокого напряжения и в соединении с волей выразилось в как.-либо акте, оно назыв. эффектом (гнев, страх и др.).

/ Не соответствует действительности. Ergo, голословное утверждение /


Не созданы программы заменяющие человека, не слышно о массовых увольнениях инженеров.
Зато известны о покупке программ (достаточно дорогих) многими фирмами, которые именно помогают человеку, а не заменяют его.
Зачем конструктору платить несколько тысяч долларов в месяц если его работу может сделать программа?

/ Если у Вас там не 2006-й год, а более раняя эпоха, тогда, наверное, да. ;-) /

Видно точки отсчета разные.

[Мачо]

> Согласен, что это основа, но не согласен, что это и есть наш принцип мышления. Наш - гораздо сложней.

Есть основания так полагать?

Ну вот возьмем, например, логику блондинок . Как ее смоделировать на компьютере?

> Невозможно заложить в машину понятие "юмор".

А Вы, простите, пробовали?

Не пробовал. Но я не представляю, как это сделать. Может быть, Вы мне поможете

> Это понятие сильно зависит от социокульрурного воспитания, которого машина не получает.

Кто сказал, что машина не может получить социокультурного воспитания? Мачо, Вы умный человек, но слишком полагаетесь на устоявшиеся в обиходе мнения, многие из которых действительности абсолютно не соответствуют. ;-)

Это спорно, поэтому давайте обкладываться заранее аргументами .

Для того, чтобы машина получила социокультурное воспитание, нужно, чтобы люди создали такую среду для них. Мы приходим к тому, с чего начинали - машина не может ни заиметь сознание, ни его развить. Она полностью зависима от людей. А если они скопируют мозг один в один, то машина, возможно, и будет развиваться.

Лично я пока не вижу ни единого пути для саморазвития у компьютеров сознания.

> Но факт пока такой, что жизнь и сознание пока обнаружены на Земле и именно в белковой форме. От этого пока и отталкиваемся

Но ведь если мы и дальше будем отталкиваться от этого принципа, то жизнь и сознание мы не обнаружим нигде. Обнаружив развитую негуманоидную цивилизацию где-нибудь в районе Бета Гидры, заявим, что, мол, это не жизнь, не разум, и не сознание, потому как все это существует только на Земле. :-)

Вы неправы . У жизни, даже небелковой, есть критерии (по крайней мере, как мы ее понимаем). Компьютеры в эту категорию, увы, не входят. Робот из "Терминатора" вошел бы, но мы пока таких не создали.

> Теоретически да, если в нее не вкладывать заранее ответов или принципов, по которым она однозначно придет к правильным ответам.

1. Представьте, что имеете дело с неким "черным ящиком", т.е. общаетесь, например, посредством форума, с каким-либо собеседником, относительно которого Вам требуется точно установить, обладает он сознанием или нет. Удовлетворитесь ли Вы этими тестами? Ведь ответы могут быть заложены заранее. ;-)

Гм. Можно создать новый тест, в конце концов

2. У Вас есть какие-нибудь ссылки по такого рода тестам? Интересно было бы разработать систему, которая пройдет тест, не зная "правильных" ответов.

На этой неделе я поинтересуюсь у знающего человека по поводу тестов и напишу сюда.

> Тесты на наличие сознания пройдут только те, у которых оно есть

А из чего это следует? И разве не может ли человек, находящийся в неадекватном психическом состоянии (ну депрессия у него или сильная акцентуация), ответить на вопросы "неправильно"?

Может, но, имхо, это входит в статистическую ошибку и не учитывается.

> Все три признака говорят о наличии сознания у белкового живого существа. Об этом говорят эксперименты.

Так вот меня и интересует, какое отношение эти три признака имеют к сознанию. Что именно говорят эксперименты?

Ну смотрите. Белковое живое существо с речью - носитель сознания. Носитель сознания - белковое существо с речью. Вот такое отношение

> За неимением иных экспериментов мы утверждаем, что сознание - это исключительно прерогатива живых белковых существ.

Но это необоснованное ограничение. Если мы до сих пор не обнаружили астероидов и комет в других звездных системах, разве это повод считать, что астероиды и кометы - исключительная особенность Солнечной системы?

Наука строится на потдтверждении теории. Пока что теория о том, что белковые существа обладают сознанием, верна на 100%. Так как у нас нет внеземных представителей фауны в наличии, мы не можем утверждать, что вне Земли есть сознательные существа. Теория есть, а подтверждения (пока?) нет.

ЗЫ: лично я не сомневаюсь в разумной внеземной жизни. Возможно даже на кремниевой основе.

> Что не означает, что границы не могут быть расширены при получении новых данных.

Как же границы расширятся, если в число признаков сознания Вы заранее включаете ограничение на носителя? Если Вы обнаружите сознание в компьютере, разве не скажете Вы, что это не сознание, потому что компьютер - не человек? А если скажете, что это сознание, то разве не отменяет это первого признака?

Вы неверно меня поняли, или я неправильно выразился. Признаки сознания, по сути, не зависят от носителя. Но дело в том, что пока что мы их наблюдали только у белковых живых существ. Отсюда такая догматика в науке. Будут иные факты - будут споры и будет пересмотр теории. Обязательно.

> Машинное сознание мы создаем сами . И копируем его по принципу человеческого.

Кто сказал? Если сознание - просто знание о себе, тогда оно не может быть человеческим или нечеловеческим.

Да, но у компьютера оно не может самозародиться и саморазвиться, как не может у эскаватора или тостера.

> Но наука не отрицает наличия сознания у существ (!) - пока не доказано, что сознание может быть не у существ - сознания, пусть и построенного на иной биохимии.

Могу доказать прямо здесь и прямо сейчас. Если сознание - знание о себе, значит условием наличия сознания является спосоность хранить информацию, описывающую отношение носителя информации к реальной действительности. Очевидно, что компьютер, способный хранить любую информацию, может хранить и эту информацию тоже. Доказано. ;-)

Да, но ведь сознание предусматривает еще и оперирование абстрактными понятиями - ноль, смерть, завтра, красота, и так далее.

Кстати, кажется, на астрофоруме я уже читал серьезную дискуссию на тему ИИ... Если интересно, я Вам кину ссылку.

> Короче, я не отрицаю создания полностью компьютерного искуственного интеллекта, но, имхо, это будет не в этом десятилетии

Гм. Не понимаю, почему многие люди до сих пор уверены, что искусственный интеллект все еще не создан, хотя уже вовсю пользуются его плодами?

Ну, смотря что считать этим самым интеллектом.

> Существа без сознания в состоянии понять, что у них четыре лапы и хвост, но то, что они - существо, называемое обезьяна такого-то вида - не в состоянии.

Обезьяна или кошка - да, понять не в состоянии. И дело не в отсутствии у них сознания, а в недостаточности интеллекта. Компьютер же прекрасно может понять, что он собой представляет, какую роль играет и т.п.

(застонал) Вы не поверите, но на этом форуме я 2 месяца исписал мегабайты текста, чтобы доказать, что сознание - это не линейно возрастающие возможности мышления (интеллекта), что это - качественно новое отличие. Тогда я оппонента не убедил, как ни старался. Боюсь, что не убедю и Вас.

Но постараюсь.

> Что это такое? Абстрактрый переменный адрес. Они не в состоянии понять, где они физически находятся.

Во-первых, способны ли Вы понять, где находитесь физически, если Вас запереть в тесной комнате без окон?

Уточните . Утрачу ли я пространственную координацию? Вряд ли. Люди с развитой координацией (летчики, космонавты) в этой комнате даже будут способны определить скорость, с которой Вы будете эту комнату двигать.

Во-вторых, что мешает снабдить компьютер парочкой веб-камер для компенсации этого недостатка? Или хотя бы GPS-локатором? :-)

Не думаю, что внешние сенсоры помогут . Кошки видят лучше людей, а сознания не имеют.

> "Я - сервер Джека. Он клевый чувак и не тыкает в меня пальцами зазря. Я стою у него на столе рядом с тремя пустыми бутылками из-под пива и стойкой компакт-дисков. У меня барахлит винчестер, но Джек пока об этом не знает..."

И Вы полагаете, что компьютер неспособен сделать столь элементарное суждение? Господи, Мачо, да это же примитив: современные экспертные системы 100 очков вперед дадут подобному анализу ситуации.

Сомневаюсь, что компьютер может дать определение "клевый" или "знает" адекватно

>> Пардон, он выполняет команды управления админа.
> Высшие млекопитающие также могут выполнять команды человека. Но у них нет сознания.

Не имеет значения. Главное, что он не просто способен понять, что им управляют, но и подчиниться этому управлению.

Но ведь обезьяны не понимают, что ими управляют. У них голый бихевиоризм в действии - стимул-реакция. Почему же должне понимать компьютер?

> Он это никак не назовет - у него нет языка, который он мог бы самостоятельно задействовать.

Почему ж нет? Систем общения с поддержкой естественного языка для компьютеров разработано предостаточно. Язык Refal, например, изначально разрабатывался для их создания, насколько мне известно, хотя его возможности и существенно шире.

Но ведь это языки для воздействия человека на компьютер. Компьютеры общаются между собой посредством этих языков только по воле человека, а не по своему желанию.

> Компьютеры не треплются за жизнь с другими компами

Обмен информацией между компьютерами (причем жизненно важной для них) осуществляется в любой сети. Чем не общение?

Это вызвано не сознательными действиями (комп №1 делится своими ощущениями с компом №2), а только в рамках исполнения тех или иных программ.

> Кажется, я говорил, что компьютер уже сейчас может обладать ЗАЧАТКАМИ сознания, но не сознанием.

А где все-таки критерий? Впрочем, мы начинаем повторяться...

Выделение себя из окружающей среды, операции с абстрактными понятиями. Пардон, Вы меня пока не убедили, что компьютер сделать это в состоянии.

Повторяемся, но куда деваться

[Мачо]

ну вот, я уже первый вариант ответа запостил... Ладно, сейчас доотвечу на остальное.

Готовьтесь! Самый мой длинный ответ занимал 4 ответа по максимум знаков каждый . Спорили мы, кстати, тоже о сознании.

> Да, машина может это сделать. Сделать то же может и одно-двухгодовалый ребенок. Но ребенок дошел до этого сам, машине же мы дали в готовом виде

Отнюдь. Нейросеть именно что самостоятельно в силу своей функциональности обладает способностью к абстрагированию. Это, как я уже отмечал, лежит в основе ее деятельности, и не требует ни программирования, ни обучения.

Примеры можно увидеть? В целях ликбеза . О том, что создан ИИ на уровне двух-трехлетнего ребенка, я слышал. Но выше - нет.

> Ну хорошо. Каким образом Вы бы объяснили компьютеру понятие "смерть"? Я лично затрудняюсь объяснить, вот и спрашиваю.

Так же, как и человеку. Смерть - простое понятие. Это просто прекращение процесса жизнедеятельности, который состоит в поддержании неравновесного термодинамического состояния организма. У смерти достаточно четкие критерии, и потому отличить мертвое от живого компьютер сможет без проблем (при должном обучении, конечно), равно как и определить момент смерти.

В Афганистане и Ираке боевые роботы (вроде Т-1 из "Терминатора-3") только еще начинают действовать, но, чувствую, спустя немного времени их будут мочить в хвост и гриву, так как научатся их обманывать.

Компьютер в таком случае не отличит человека, впавшего в кому от живого. И клинически мертвого от живого. И человека, замерзшего до состояния льдины, но затем оттаявшего и ожившего.

Кстати, маленькому ребенку очень трудно объяснить, что такое смерть. Приходится идти на уловки и упрощения, которые не дают объективного ответа, но зато дают понятие ребенку на определенном уровне его развития. Точно так же, имхо, будет и с компьютером.

> Функции применительно к чему? В конце концов, сознание можно рассматривать с разных точек зрения - социальной, психологической, философской и так далее.

Когда Вы используете термин "сознание" в нашей беседе, Вы какой трактовки придерживаетесь?

Психологической.

> Но тогда получается масло масленное. Информации не существует в принципе (то есть некая идеальная информация может быть не уловлена никем и ничем на протяжении бесконечности), и она присутствует постоянно, так как все со всем взаимодействует. Либо я не так Вас понял, либо такое объяснение ничего не объясняет

Тут уже я не понял. Почему масло масляное? Информация объективно существует, и присутствует постоянно как компонент отражения, но обладает смыслом только для разумных систем (причем, возможно, различным смыслом - для разных систем).

Позвольте. Вот, скажем, свет звезды. Он до нас еще не дошел, т.е. для нас он не существует. Но информация о длине и амплитуде волны - разве она не взаимодействует с окружающей средой, разве она не существует?

> Ну, компьютер, положим, до сих пор не может работать с человеческими образами, ибо их нельзя перенести на жесткий диск.

Проблема не в переносе, а в считывании состояний синапсов. Появится технология, позволяющая замерять синаптическую проводимость для любых связей между нейронами, и закодируем мы эту информацию в любом желаемом для Вас формате - хоть в JPG, хоть BMP, хоть в TIFF, если захотите. ;-) С другой стороны, кодировать визуальные образы для передачи их в зрительную кору уже научились, правда, пока что не особенно качественно и в монохроме (последнее, что слышал по теме). Как, по-Вашему, иначе могут работать кибернетические протезы глаза, соединяемые непосредственно со зрительным нервом?

Это очень любопытно

Но если путь электромагнитной волны от глаза до мозга можно проследить и даже воспроизвести (есть же видеокамеры-протезы глаз), то дальше начинается черный ящик - неясно, каким образом это изображение мозгом воспринимается и хранится (как передается - ясно, но от этого не легче).

Поэтому мы пока не можем записать образы . Имхо.

> Она оценка самого себя, конечно, но она не говорит о наличии сознания, так как формальную оценку дают себе и существа без сознания, и с сознанием.

Тогда в число критериев сознания оценку самого себя Вы включили напрасно. Речь ведь шла именно об этом.

Речь шла не об оценке самого себя, а о выделении себя из окружающей среды. Это разные вещи

> Самосознание. Самосознание, осознание, оценка человеком своего знания, нравственного облика и интересов, идеалов и мотивов поведения, целостная оценка самого себя как деятеля, как чувствующего и мыслящего существа.

Но это просто оценка, выполняемая по набору перечисленных критериев. Понимаете, нет ни одного препятствия, мешающего компьютеру выполнить такую оценку. У животного - да, проблемы возникнут по причине слабого интеллекта. У компьютера интеллект не имеет принципиальных ограничений: его можно увеличивать практически беспредельно.

Я об этом уже говорил в первом ответе . Сознание - это качественно новая ступень, а не линейное увеличение интеллекта или мышления.

> Вот как Вы себе представляете нравственный облик машинного сознания?

Нравственность - это набор норм поведения. Соответственно, если действия компьютера не противоречат этому набору норм, значит можно указать, что его нравственность (с точки зрения данной нравственной системы) весьма высока.

Но ведь эту нравственность не выработали компьютеры между собой, а мы ее дали в готовом виде. По сути, мы научили обезьянку не красть бананы. Где же тут сознание?

[Skynet]

Сергей Аронский,

>> Доказательства у этого "опирающегося суждения" имеется?
> Неужели вы ничего не слышали о научных открытиях и изобретениях?

Слышал. Так имеются доказательства или нет?

>> Во-первых, нейрон - не просто сумматор, а _нелинейный_ сумматор
> Это неважно.

Это важно. Почему именно важно, я уже объяснил Вам два раза. Объясню и третий раз:

-----------------------------
Во-первых, нейрон - не просто сумматор, а _нелинейный_ сумматор. Это значит, что степень полинома, формируемого деятельностью нейронной сети, будет в общем случае равна количеству слоев нейронов. С учетом наличия многочисленных обратных связей и сотнями миллиардов синапсов зависимость усложняется неимоверно. Понятие алгоритма в этих условиях попросту теряет смысл: какой толк в алгоритме, если нет средств его записи, анализа и исполнения?...
-----------------------------

Вы, конечно, не имеете понятия о том, что такое дискуссия, но я Вам напомню: для опровержения тезиса своего оппонента нужно привести доказательства его неправоты. Простое игнорирование тезиса и бессмысленное повтороение - стиль капризного ребенка (сколько Вам лет, кстати, если не секрет?), но не более или менее опытного полемиста. Если же Вы станете применять такие методы, то полезного опыта набраться так и не сможете.

Я прекрасно понимаю Ваше нынешнее мироощущение: Вы увязли в безнадежной для Вас дискуссии, до уровня которой, мягко скажем, не дотягиваете, и желаете, чтобы за Вами осталось последнее слово - при том, что возразить по существу неспособны, поэтому и повторяете одно и то же вместо того, чтобы признать свою некомпетентность. Мне Вас жалко, но все же не настолько, чтобы я принес Вам в жертву истину. Поэтому извините, но я буду продолжать: вне зависимости от того, будете Вы постить мне в ответ одно и то же сообщение или нет. ;-)

> Хотите сказать, что в программируются только линейные зависимости?

Нет, отнюдь. Нелинейные тоже программируются.

> Вы хоть одну программу видели?

Не только видел: написание программ - это часть моей работы, как Вы и без меня прекрасно знаете.

> Сдается что только из желтой прессы.

О, не пытайтесь меня задеть: это невозможно в принципе. ;-) Хотя знаете, есть такой механизм психологической защиты - т.н. перенос (Мачо подтвердит, он же вроде как специалист по психологии). В переводе на обиходный язык - "с больной головы на здоровую". ;-)

> Машиной Тьюринга можно заменить любую программу

В чем состоит машина Тьюринга, Вы знаете?

> А нет разницы.

Нет разницы между общим и частным случаем? Смелое утверждение. Как я уже писал в другой теме, некоторые люди неспособны уловить разницу между унитазом и холодильником, так что я, в общем, не удивлен, но в гости Вас, пожалуй, приглашать не буду: я дорожу своим холодильником. :-)

> Поверьте, рано.

Может быть. Это уж ученому совету решать. ;-)

> Я дал наглядное описание.

Во-первых, наглядного описания я что-то не заметил. Во-вторых, никакое наглядное описание не заменяет определения.

> Но, пожалуйста

Прекрасно. Т.е. Вы согласны с тем, чтобы использовать классическую терминологию. Итак:

> Чувство, психологический термин, употребляемый в двояком смысле:

Поскольку эмоции мы из рассмотрения заранее исключили, остается первая трактовка:

> 1) в первом, более общем, слово Ч. означает то же, что ощущение (см.); сюда относятся не только так. назыв. пять Ч. (зрение, слух, обоняние, вкус и осязание), но все внутренние ощущения: Ч. голода, жажды, недомогания, боли, тошноты, равновесия, головокружения, тяжести, теплоты, холода и др.-

Итак, то же, что и ощущение. Стандартное определение гласит буквально следующее:

"Ощущение - отражение свойств предметов объективного мира, возникающее при их непосредственном воздействии на рецепторы".

Отражение - это процесс восприятия информации, описывающей т.н. объект отражения. Следовательно, суть ощущения состоит в передаче информации от рецептора в ЦНС. Иными словами, в передаче сигнала. Обычного сенсорного сигнала, о чем я и толкую Вам уже на протяжении всей нашей милой переписки. ;-) Конечно, если приведнное определение термина "ощущение", взятое мной из "Краткого психологического словаря", на который я уже ссылался ранее, Вы не разделяете, можете привести мне иное определение - которое нравится Вам больше. :-)

> Не созданы программы заменяющие человека, не слышно о массовых увольнениях инженеров.

1. Чтобы заменить человека вообще, нужно разработать систему искусственного интеллекта (не обязательно программу, можно и на основе нейронной сети), превосходящую человека во всем. Между тем, как я уже сказал, пока что это технически слишком сложная задача, что никоим образом не отрицает ни возможности создания машинного сознания, ни успешного моделирования творческих процессов.
2. Системы искусственного интеллекта, заменяющие людей в ряде областей, давно созданы и успешно работают: просто Вы, как обычно, не в курсе дела. ;-)
3. Люди - очень дешевый ресурс, в то время как разработка по-настоящему мощных систем искусственного интеллекта влетает в копеечку. Соответственно, даже теоретическая возможность замены многих обладателей должностей далеко не всегда приводит к таковой замене.
4. А уж чего профсоюзы по этому поводу устраивают - Вы бы видели. У нас, информационщиков, с ними настоящие войны. :-)

> Зачем конструктору платить несколько тысяч долларов в месяц если его работу может сделать программа?

К слову, именно по той причине, что конструкторы и представители прочих профессий на Западе обходятся дороже, чем у нас, системы искусственного интеллекта в первую очередь внедряются за рубежом, хотя разрабатываются преимущественно у нас. ;-)