AI религия

[Gaad]

Такс... Обьясняю популярно
У каждого нейрона 20000 синапсов

Обоснование с сылкой на результаты исследований всех 10 млрд нейронов человеческого мозга в студию! Затем покажите что все эти синапсы задействованы.

для каждого синапса необходимо хранить вес (напимер типа float)

Например типа байта вполне достаточно. Вообщето и байт даст сильно продвинутую модель. В мозге вес синапса представляет собой либо -1 (торможение) либо +1 (возбуждение) либо 0. Т.е. 2 бит хватит вполне. Но это же слишком грубо, да? Тогда удовлетворитесь 127 радациями отрицательного и 128 положительного веса - этого хватит с лихвой.

Гы... еще и запустить 10`000`000`000 потоков одновременно.

Я разве говорил что будут создаваться потоки? ВинАПИ потоки это слишком расточительно как по вычислительной сложности (в момент создания) так и по памяти. Потоки поддерживаются ВинАПИ в т.ч. для упрощения написания клиент-серверных сетевых приложений (но ничего не мешает нам решить многопоточную задачу одним потоком, последовательным опросом - просто придется написать немного больше кода - вот и все, но зато будет потребляться меньше ресурсов). Вы просто усвойте как происходит моделирование одновременных процессов (транзакиции там, семафоры и все такое).

Не важно, чем меньше - тем хуже, а мы то хотим чтобы наша НС нас превосходила, так что боюсь и 20000 для нее маловато будет.

Мы хотим чтобы она осознала свое существование.
Честно говоря, я не представляю как этого добиться даже будь нейросеть с 20 млрд нейронов и 20 тыс. связей у каждого как вы говорите. Будем ее последовательно обучать и дообучать распознаванию всяческих образов и синтаксическим разборам текстов пока она наконец сама собой вдруг не прозреет?

[renderator]

Обоснование с сылкой на результаты исследований всех 10 млрд нейронов человеческого мозга в студию! Затем покажите что все эти синапсы задействованы.

Само собой что задействуются не все как и в НС.
Вы предлагаете самолично исследовать какие нейроны за что отвечают и повыкидывать ненужные, да еще и подстраивать веса в НС. Ну-ну, глядишь к концу света и успеете.
Мы лучше подождем несолько лет развития бионики.

Например типа байта вполне достаточно. Вообщето и байт даст сильно продвинутую модель. В мозге вес синапса представляет собой либо -1 (торможение) либо +1 (возбуждение) либо 0. Т.е. 2 бит хватит вполне. Но это же слишком грубо, да? Тогда удовлетворитесь 127 радациями отрицательного и 128 положительного веса - этого хватит с лихвой.

Даже если бы этого и хватило бы понадобилось бы 200 Терабайт. Но этого боюсь маловато будет.

В мозге вес синапса представляет собой либо -1 (торможение) либо +1 (возбуждение) либо 0.

Что-то Вы опять понаписали такое веселое.
В мозге вообще все сигналы аналоговые, никаких градаций не существует.

Я разве говорил что будут создаваться потоки? ВинАПИ потоки это слишком расточительно как по вычислительной сложности (в момент создания) так и по памяти.

Потоки Вам вообще не нужны. Вам нужно успеть вычислить на вашем процессоре 20000 * 10e10 умножений и столько же сложений, вычислить 10e10 сигмоидальных функций и произвести 10e10 сравнений все это успеть за "порядка несколько десятков миллисекунд", не говоря уже про другие мелочи, которые опускаю, чтобы не усложнять Вам жизнь.
Кстати результаты работы каждого нейрона придется сохранять в переменной иначе получится огромное количество повторных никому не нужных вычислений. То есть добавьте еще 40Гб к 800 терабайтам, ну это уже мелочи.

Мы хотим чтобы она осознала свое существование.
Честно говоря, я не представляю как этого добиться даже будь нейросеть с 20 млрд нейронов и 20 тыс. связей у каждого как вы говорите. Будем ее последовательно обучать и дообучать распознаванию всяческих образов и синтаксическим разборам текстов пока она наконец сама собой вдруг не прозреет?

Так же как и обычного человека. Через 20 лет обучения получим интеллект 20-летнего мужика. (Естественно с НС этот процесс легко ускорить). Обучив всего лишь одну НС мы просто можем копировать веса с одной НС на другие за доли секунд.

[Gaad]

Ув. renderator! Это лишь дискуссия. И я веду ее честным способом по отношению как к себе так и к вам. Я пытаюсь понять вашу точку зрения но вы не пытаетесь этого делать по отношению ко мне. Вот к примеру с ростом памяти мы пришли с вами к некоторому компромису. Почему же вы сейчас всячески стараетесь свести к абсурду модель которую предлагаю вам я вместо того чтобы для начала хотябы осмыслить ее? Указывая на слабые места предлагайте свое коструктивное решение. Вы начали этот топик потому что вас волновало решение поднятого в нем вопроса. И я с радостью откликнувшись на ваш призыв изложил некоторые свои, хоть и признаю - достаточно сырые соображения. У вас есть данные о том сколько в среднем действующих связей приходится на один нейрон? Если есть поделитесь ими пожалуйста и желательно со сылкой на источник. Потому что у меня таких данных нет и я в своих построениях исходил из того что все нейроны имеют только один аксон, как правило неветвящийся.

Само собой что задействуются не все как и в НС. Вы предлагаете самолично исследовать какие нейроны за что отвечают и повыкидывать ненужные, да еще и подстраивать веса в НС. Ну-ну, глядишь к концу света и успеете. Мы лучше подождем несолько лет развития бионики.

Конечно, если вам нравится ждать и ничего не делать - тогда ничего не имею против.

Даже если бы этого и хватило бы понадобилось бы 200 Терабайт. Но этого боюсь маловато будет.

Я не совсем уловил откуда эта цифра.

Что-то Вы опять понаписали такое веселое. В мозге вообще все сигналы аналоговые, никаких градаций не существует.

У меня 3 возражения:
1) Откуда вы знаете ?
2) Импульсация нервных волокон с некоторой частотой (до сотни килогерц) - тоже аналоговый сигнал?
3) На вашем мониторе цвета представлены дискретно но тем не менее вы кажется не улавливаете особой разницы между природными и синтетическими оттенками (особенно если цвет True Color - т.е. 32-битный)?
[quote]К вычислениям мы подойдем потом, когда определимся с требуемой нам памятью. Не забегайте вперед.

Кстати результаты работы каждого нейрона придется сохранять в переменной иначе получится огромное количество повторных никому не нужных вычислений.

Одного бита вполне хватит для индикации того возбужден ли данный нейрон или нет.
Я себе представляю это так:
1) Берем нейрон.
2) Смотрим его дескриптор
3) Ищем нейроны которые в поле связи имеют дескриптор данного нейрона
4) Отбираем среди этих нейронов те которые возбуждены
5) Берем вес связи этих возбужденных нейронов и суммируем
6) Обрабатываем полученную сумму граничной функцией нашего нейрона и если уровень оказывается выше порога возбудимости то переводим нейрон в возбужденное состояние, иначе - в невозбужденное.
7) Увеличиваем счетчик текущего нейрона и переходим к пункту 1 если он меньше числа всех нейронов
8) Цикл вычислений завершен. Устанавливаем счетчик в ноль, выводим данные, после чего начинаем новый цикл.

Так же как и обычного человека. Через 20 лет обучения получим интеллект 20-летнего мужика.

Поправьте меня если я ошибаюсь, но разве вы в годовалом возрасте не осознавали тот факт что существуете? Вопрос то был о самосознании ИИ а не по уровню знаний.

[renderator]

Ув. renderator! Это лишь дискуссия. И я веду ее честным способом по отношению как к себе так и к вам. Я пытаюсь понять вашу точку зрения но вы не пытаетесь этого делать по отношению ко мне. Вот к примеру с ростом памяти мы пришли с вами к некоторому компромису. Почему же вы сейчас всячески стараетесь свести к абсурду модель которую предлагаю вам я вместо того чтобы для начала хотябы осмыслить ее? Указывая на слабые места предлагайте свое коструктивное решение.

Ок, в кратце расскажу Вам как НС работает. Думаю, что вопросы почему я проигнорировал Ваши последние анекдоты отпадут у Вас сами собой.

Нейрон представляет собой простейший сумматор, у которого N-входов (синапсов) и один выход(аксон). Каждый синапс обладает весом. Приходящий на синапс сигнал домножается на вес, полученные произведения складываются и сумма передается пороговой функции (обычно это сигмоид), который по сути возвращает только два значения.

В полносвязной НС у каждого нейрона следующего слоя существует синапс соединенный с аксоном каждого нейрона предыдущего слоя.
Полносвязная НС - это круче некуда, модернизировать её - только портить! Любое удаление синапсов приводит к "отуплению" НС.
Если связь логически существует, а синапс физически отсутствует, НС никогда не сможет настроить зависимость между этими нейронами.
Даже человек в этом ограничен, а с возрастом нулевые связи исчезают и к старости человек все меньше способен к обучению, все больше моторно полагается на свой предыдущий опыт.

Интеллект заключается не в количестве информации содержащейся в НС ("эрудиия - не есть интеллект"), а именно в большом кол-ве нейронов и синаптических связей между ними. Для нейроиммитатров - чем больше связей, тем больше вычислений, для "железа" кол-во связей никак существенно не сказывается на скорости работы.

Двуслойную НС уже можно научить такой операции, как XOR, трехслойную - интегрированию и дифференциированию и. т. д. Естественно, вычислительные способности НС нас не интересуют напрочь - делает она это плохо, операции над числами производит "столбиком" и т.д. Да это и не важно (если, что я ей свой калькулятор подарю ). Главное - это её способность находить решения самостоятельно! без помощи человекав условиях неполного кол-ва информации, нечеткая классификация, творчество, интуиция и т.д.

НС - представляет собой "чёрный ящик"! То есть любая операция по подстройке весов синапсов и изменению структуры НС - уже является мышлением - а это её обязанность. Не напрягайте свои нейроны - напрягайте нейроны НС - иначе она никогда не научиться думать самостоятельно.

Уф... все, устал я...

[plug]

Потому что у меня таких данных нет и я в своих построениях исходил из того что все нейроны имеют только один аксон, как правило неветвящийся.

Неужели вы не понимаете, что неветвящиеся аксоны низводят вашу модель до чего-то совсем ни к чему не пригодного?
Если аксонов ровно столько же сколько самих нейронов, то ...
- если их "распределить равномерно" по всем синапсам, то каждый нейрон получит только по одному входному сигналу и сеть выродится в цепочку.
- а если начать каким-то нейронам давать по два и больше "входов", то их придется отбирать у других нейронов, поскольку в вашей модели аксонов не может быть больше чем нейронов. Нейроны, у которых нет входных сигналов - просто "мертвый груз", они не могут участвовать в процессе. Зачем тогда вообще строить модель с 4 гиг нейронов, если значительную часть из них придется исключить?

Кстати, в реальном мозге все здоровые нейроны задействуются.

Я себе представляю это так:
...
3) Ищем нейроны которые в поле связи имеют дескриптор данного нейрона

Обалдеть! То есть, на каждый нейрон надо просмотреть все остальные 4294967295 - 1 нейронов? И на каждый шаг проверять 4294967295 * 4294967294 дескрипторов?! Ахриненная оптимизация!

6) Обрабатываем полученную сумму граничной функцией нашего нейрона и если уровень оказывается выше порога возбудимости то переводим нейрон в возбужденное состояние, иначе - в невозбужденное.

Gaad, признайтесь, что про "моделирование одновременных процессов (транзакиции там, семафоры и все такое)" вы просто где-то "слышали звон", но не более того.

Если процессы во всех нейронах должны быть квази-параллельны, вы не можете поменять состояние нейрону сразу после его обработки. Вам нужно помнить и старое, и новое состояние.

[renderator]

Короче Gaad, накидал специально для Вас, полносвязная НС из 9 нейронов с тремя синапсами.

[renderator]

1) Откуда вы знаете ?

Искусственный нейрон имеет тоже поведение, что и реальный. Единственное различие - реальный нейрон может забывать неподкрепляемую периодически информацию. Есть еще один нюанс связанный со временем активизации, но пока думаю не стоит усложнять.

2) Импульсация нервных волокон с некоторой частотой (до сотни килогерц) - тоже аналоговый сигнал?

Под аналоговостью я подразумевал недискретность сигнала - биоток в нервных клетках может принимать любые значения в заданном диапазоне.

3) На вашем мониторе цвета представлены дискретно но тем не менее вы кажется не улавливаете особой разницы между природными и синтетическими оттенками (особенно если цвет True Color - т.е. 32-битный)?

Да, можно задавать и дискретно. Но суть лишь в том, чтобы шаг дискретизации был таким, чтобы нейрон смог сработать. Некоторые вычисления могут потребовать от нейрона повышенной чувствительности и даже незначительный нюанс может приводить к активизации нейрона. Для каждого отдельного случая шаг дискретизации может быть разным, поэтому предугадать заранее невозможно. Так что здесь тоже - чем больше разрядость, тем чувствительнее НС к нюансам.

Поправьте меня если я ошибаюсь, но разве вы в годовалом возрасте не осознавали тот факт что существуете? Вопрос то был о самосознании ИИ а не по уровню знаний.

Так я и не понимаю, что Вы имеете в виду под самосознанием? Вот тут бы поподробней!

[renderator]

Для Plug
Не ожидал.
А я думал, что я только со Скайнетом могу трепаться на темы ИИ.

[Айвар]

[/font][/size]
Впечатлило. Что такое Бог?

Бог это послушание.
И з этого следует что весть Бога есть благо для людей. Послушание же значит не только слушание Бога, но и слышание Его заповедей, как заботу о нашей человечности (идентичности и единства).

Бог не для того, чтобы мы его познавали. Бог это не машина. Разумные (рациональные) способности человек изобретает машины, создает технологии, устанавливает правила - которые сам же потом и ломает, уничтожает и ниспровергает ... научно-технический пргресс помимо всей прочей вещественной мишуры создает нечто, что я называю зоной безмолвия, зоной без ответа или попросту пустотой.

Когда говорят об естественном и искусственном интеллекте (разуме), то интересно все же было бы услышать, а какие все же между ними различия. Ведь ни одна машина не может вам "выдать" нечто такое, что не было бы в нее заложено её создателем.

[plug]

Для Plug
Не ожидал.
А я думал, что я только со Скайнетом могу трепаться на темы ИИ

Если Вы меня имеете ввиду, то ... Со мной особо на эту тему порепаться вряд ли интересно. Я никогда никаким ИИ не занимался.
Просто я разработкой софта себе "не хлеб зарабатываю" и моделировать сеть из нелинейных сумматоров, допускающую произвольное количество связок, мне как бы уметь положено для "профессиональной пригодности". А еще я хорошо знаю - каким геморроем в конечно счете оборачиватся всякие экономии памяти до "пары бит".

[plug]

Бог это послушание.

И кого Он "послушается"?

И з этого следует что весть Бога есть благо для людей.

Строго говоря, из одного только послушания никакого блага не следует.

Послушание же значит не только слушание Бога, но и слышание Его заповедей, как заботу о нашей человечности (идентичности и единства).

А мне казалось, что послушание - это исполнение. Следование приказу, закону, правилу. Тогда и слушанье, и слышанье "само собой" подразумеваются, иначе просто не будет никакого исполнения (действие какое-нибудь может быть, но не "во исполнение"). А вот слушанье и слышанье могут быть и без исполнения. Можно ли это называть послушанием?
Хотя, может быть я просто безнадежно "отстал от жизни"...

Ведь ни одна машина не может вам "выдать" нечто такое, что не было бы в нее заложено её создателем.

Это на самом деле зависит от того - что считать "заложенным" и "выданным".
Можно в компьютер заложить алгоритм сочинения музыки и получать на выходе мелодии, которых туда в явном виде не закладывал.
Но если говорить, что ... заложив в машину способность (пусть и ограниченную) самостоятельно сочинять, на выходе и получим эту самую способность в виде многочисленных результатов ее "использования", то - да, в такой интерпретации на выходе только то, что "заложено".

[Айвар]

И кого Он "послушается"?
Строго говоря, из одного только послушания никакого блага не следует.
А мне казалось, что послушание - это исполнение. Следование приказу, закону, правилу. Тогда и слушанье, и слышанье "само собой" подразумеваются, иначе просто не будет никакого исполнения (действие какое-нибудь может быть, но не "во исполнение"). А вот слушанье и слышанье могут быть и без исполнения. Можно ли это называть послушанием?
Хотя, может быть я просто безнадежно "отстал от жизни"...
Это на самом деле зависит от того - что считать "заложенным" и "выданным".
Можно в компьютер заложить алгоритм сочинения музыки и получать на выходе мелодии, которых туда в явном виде не закладывал.
Но если говорить, что ... заложив в машину способность (пусть и ограниченную) самостоятельно сочинять, на выходе и получим эту самую способность в виде многочисленных результатов ее "использования", то - да, в такой интерпретации на выходе только то, что "заложено".

Послушанием дело, конечно, не ограничивается дальше идет трепет и благоговение.
Так как здесь рассматриваем первую персону (ипостась) Бога - Бога Творца всего живого и неживого, то именно это и помогает проникнуться особенным боговдохновенным настроением.
Отрадно то, что вы пытаетесь уточнить все это. вы не представляете насколько бы мы все вместе выйграли, если бы пытались помогать друг другу и не спорить Недавно появилась статейка, в которой ученые, собравшись вместе, пришли к консенсусу и начали творить чудеса прямо как библейские пророки. Согласие между людьми вот настоящий Бог!

[renderator]

Бог это послушание.
И з этого следует что весть Бога есть благо для людей. Послушание же значит не только слушание Бога, но и слышание Его заповедей, как заботу о нашей человечности (идентичности и единства).

А с непослушными как?

Бог не для того, чтобы мы его познавали. Бог это не машина. Разумные (рациональные) способности человек изобретает машины, создает технологии, устанавливает правила - которые сам же потом и ломает, уничтожает и ниспровергает ... научно-технический пргресс помимо всей прочей вещественной мишуры создает нечто, что я называю зоной безмолвия, зоной без ответа или попросту пустотой.

Не все так грустно.

Когда говорят об естественном и искусственном интеллекте (разуме), то интересно все же было бы услышать, а какие все же между ними различия. Ведь ни одна машина не может вам "выдать" нечто такое, что не было бы в нее заложено её создателем.

Это вопрос довольно спорный. Например, если дело касается НС - то мы в нее собственно говоря можем ничего и не закладывать, а скорее ей не мешаем. И результат может оказаться довольно непредсказуемым. Поэтому НС и аналогичные технологии запрещено использовать в вооруженных силах.

[renderator]

Если Вы меня имеете ввиду, то ... Со мной особо на эту тему порепаться вряд ли интересно. Я никогда никаким ИИ не занимался.
Просто я разработкой софта себе "не хлеб зарабатываю" и моделировать сеть из нелинейных сумматоров, допускающую произвольное количество связок, мне как бы уметь положено для "профессиональной пригодности". А еще я хорошо знаю - каким геморроем в конечно счете оборачиватся всякие экономии памяти до "пары бит".

Аналогично... Хотя многие ведь не знают - мало где применимо.

[Gaad]

Нейроны, у которых нет входных сигналов - просто "мертвый груз", они не могут участвовать в процессе.

ЗНАЕТЕ ЛИ ВЫ ЧТО:
...Что ядро не имеющее входа вносит вклад типа смещения. Правовой статус таких ядер до конца не определен, и в данной программе им присвоено название "висящих" ядер. Они отображаются другим цветом. Этим цветом, однако, отображаются и неполностью доопределенные ядра последнего слоя. (с) из подсказки дня Neuro_Office'99

Кстати, в реальном мозге все здоровые нейроны задействуются.

Вам это сказал Господь? Тогда смиритесь с тем, что ваши мозги задействуют нейроны на 3% (если не меньше) от полных возможностей.

Обалдеть! То есть, на каждый нейрон надо просмотреть все остальные 4294967295 - 1 нейронов?

Комбинаторику вы судя по всему не изучали? Оно и правильно - зачем напрягать свои нейроны?

И на каждый шаг проверять 4294967295 * 4294967294 дескрипторов?! Ахриненная оптимизация!

Учиться, учиться и еще раз учиться, дорогой Plag - как завещал великий Ленин

Gaad, признайтесь, что про "моделирование одновременных процессов (транзакиции там, семафоры и все такое)" вы просто где-то "слышали звон", но не более того.

Почемуто ваши слова прошли мимо цели. Может быть потому что вы смешны?

Если процессы во всех нейронах должны быть квази-параллельны, вы не можете поменять состояние нейрону сразу после его обработки. Вам нужно помнить и старое, и новое состояние.

В этом вы правы. Но для хранения состояния (возбужден/невозбужден) достаточно 1 бита. У нас еще 32 бита свободны так что стоит ли на этом заострять внимание)))