AI религия

[renderator]

По поводу искусственного разума на базе нейронных сетей.
Принцип его функционирования, сводящийся к "подбору весов на синапсах", может быть трактован как оценка вероятностей, сомнение. Однако такая архитектура не исключает возможность возникновения устойчивых положительных обратных связей вутри такого сознания, поддерживающих сами себя. К примеру: Есть Бог - Надо Верить - Есть Бог - т.д.

Зацикливания можно избегать если наделить нейроны в НС "утомляемостью". Скажем, с течением времени неподкрепляемая периодически информация может стираться принудительной установкой всех весов до нуля, заодно будет освобождаться место от информации, которая стала не нужна.

[renderator]

Искусственный разум не будет иметь обусловленной эволюционной целесообразностью принимать новый факты сразу же на веру, как это мы делаем в первые годы своей жизни.

Не факт. И эволюционая целесообразность тут не причем. НС может на определенном этапе своего развития ошибаться как это иногда делают маленькие дети и путать причину со следствием, полагая что "ветер дует, потому-что деревья качаются", либо какие-либо другие нарушения ассоциативных связей - часто происходящие одновременно, но не связанные между собой события. - Конечно это не есть принятие какого-либо утверждения сразу за истину, но подобная вера у НС может формироваться и закрепляться довольно часто.
Кстати я считаю, что верующих не существует.

[Gaad]

Зацикливания можно избегать если наделить нейроны в НС "утомляемостью".

Тогда пройдет конечное время и НС забудет кто она такая и откуда взялась )) Я думаю тут нужен несколько иной подход. Прежде всего при постановке цели должны отсекаться сущности не оказывающие никакого вообще или оказывающие несущественное влияние для ее достижения, а само решение сводиться к системе линейно независимых уравнений. Во-вторых - закрепляться должны только те знания которые подтвержены эмпирическим путем.
Если для некоторого знания существует два и более эмпирических подтверждения - должно происходить обобщение знания с учетом условий в которых оно получено.

Не факт. И эволюционая целесообразность тут не причем.

Я склонен всетаки ее учитывать))

НС может на определенном этапе своего развития ошибаться как это иногда делают маленькие дети и путать причину со следствием, полагая что "ветер дует, потому-что деревья качаются"

Поначалу лучше вообще отказаться от идеи давать объяснение явлению, откладывая его до той поры пока не появится достаточное к-во входных данных. Таким образом сначала мы имеем набор наблюдений:
1) Деревья качаются
2) Воздух движется
А после замеров скорости движения воздуха и его направления следует первый достаточно вероятный вывод о том что движение воздуха и вызывает качание деревьев.

Кстати я считаю, что верующих не существует.

Среди тех кто называют себя верующими имеется некоторый процент тех кто действительно веруют. Т.е. обратная связь в их мозгах настолько окрепла и подчинила всю остальную мыслительную дейтельность что ее не удается разрушить никакими разумными доводами и наблюдениями. Это религиозные фанатики. Они легко идут на смерть веруя что попадут в Рай - т.е. даже инстинкт самосохранения оказывается подавлен.

[renderator]

То что мы понимаем под подсознанием уже давно создано. Упрощенно это и есть любая компьютерная программа (любой алгоритм, поддающийся формализации). Она воспринимает входные данные, доверяя им и выдавая на выходе тот или иной результат. Тоесть, можно сказать что она верит им безоговорочно (входным данным). Или, если хотите, - она верующая.

Есть такая вещь как мастерство - когда человек обучается на подсознательном уровне, но если его спросить не сможет ответить почему у него это получается.

Тогда пройдет конечное время и НС забудет кто она такая и откуда взялась ))

Пусть забывает, раз в этом нет необходимости.
(Однако мы почему-то помним, несмотря на то, что наши нейроны обладают подобным свойством)

Во-вторых - закрепляться должны только те знания которые подтвержены эмпирическим путем.
Если для некоторого знания существует два и более эмпирических подтверждения - должно происходить обобщение знания с учетом условий в которых оно получено.

Не нейросетевой подход. Больше напоминает AI на Прологе.
Практически нереализуемо на практике.
Мозг в 99,9% случаев вынужден принимать решения в условиях неполного или недостаточного количества информации и даже самому закоренелому неверующему все время приходиться дорисовывать, додумывать сущности которых в действительности может и не существовать - пользоваться гештальтами.
Как пример - зрение - "велосипед стоит за забором, видно только переднее колесо".

Я склонен всетаки ее учитывать))

Можете привести какой-нибудь наглядный пример?

Поначалу лучше вообще отказаться от идеи давать объяснение явлению, откладывая его до той поры пока не появится достаточное к-во входных данных.

Тоже достаточно нереализуемо - потребуется хранить очень большое количество ненужной информации в надежде что она может быть когда-нибудь впоследствии найдет применение. Причем информация будет лишь накапливаться во вермени пока не съест всю память.

Таким образом сначала мы имеем набор наблюдений:
1) Деревья качаются
2) Воздух движется
А после замеров скорости движения воздуха и его направления следует первый достаточно вероятный вывод о том что движение воздуха и вызывает качание деревьев.

Думаю, на том этапе развития, когда НС делает подобные примитивные ошибки, такие крутые абстракции как "скорость" и "вектор" ей пока неподвластны. Да и чтобы она задалась подобным вопросом "а не ошиблась ли я" должна быть сначала какая-то причина наподобе "ветер дует, деревья не качаются".

Среди тех кто называют себя верующими имеется некоторый процент тех кто действительно веруют. Т.е. обратная связь в их мозгах настолько окрепла и подчинила всю остальную мыслительную дейтельность что ее не удается разрушить никакими разумными доводами и наблюдениями. Это религиозные фанатики. Они легко идут на смерть веруя что попадут в Рай - т.е. даже инстинкт самосохранения оказывается подавлен.

Я все равно склонен считать, что должны существовать какие-то причины хотя бы даже на бессознательном уровне, а верующие обычно не очень любят распространяться на эту тему.

[KPbI3]

Рендератор

Как пример - зрение - "велосипед стоит за забором, видно только переднее колесо".

Это мы к колесу велосипед бритвой Оккама прирезаем.

[renderator]

Рендератор

Как пример - зрение - "велосипед стоит за забором, видно только переднее колесо".

Это мы к колесу велосипед бритвой Оккама прирезаем.

Не бритвой Оккама, а предыдущим опытом - если конечно человек до этого чаще видел велосипеды с колесами нежели колеса без велосипедов.

[KPbI3]

Не бритвой Оккама, а предыдущим опытом - если конечно человек до этого чаще видел велосипеды с колесами нежели колеса без велосипедов.

На то она и бритва Оккама, что бы использовать предыдущий опыт. Если в тех краях чаще попадаются велосипеды, а не велорикши, или колеса от велосипедов, то мозг автоматом посчитает, что за забором стоит именно велосипед, а не гравицапа.

[renderator]

На то она и бритва Оккама, что бы использовать предыдущий опыт. Если в тех краях чаще попадаются велосипеды, а не велорикши, или колеса от велосипедов, то мозг автоматом посчитает, что за забором стоит именно велосипед, а не гравицапа.

Посчитает, но речь не о другом - он примет решение в условиях недостаточного количества информации.

[KPbI3]

Посчитает, но речь не о другом - он примет решение в условиях недостаточного количества информации.

Информации всегда недостаточно. Принцип актуализма непроверяем, правда ведь? Впрочем и законы сохранения тоже непроверяемы.

[renderator]

Информации всегда недостаточно.

Вот про это то и речь.

[KPbI3]

Вот про это то и речь.

Кто бы отрицал.

[Fuzzy]

Столько интересного уже написали. Стоит ли возвращаться ?
Тем не менее...

Фаззи
Вот Вы уже писали о механизме.

Нет еще не писал. Пенроуз считает, что существенную роль в процессе мышления может иметь некий квантовый процесс в микротрубочках нейронов мозга. Этот процесс влияет на сигналы, которыми обмениваются нейроны, внося "невычислимость". Да простит меня Gaad, не любящий ссылки на авторитеты. Так что с подсознанием он, думаю, поторопился.

[Fuzzy]

...Прежде всего при постановке цели должны отсекаться сущности не оказывающие никакого вообще или оказывающие несущественное влияние для ее достижения, а само решение сводиться к системе линейно независимых уравнений. Во-вторых - закрепляться должны только те знания которые подтвержены эмпирическим путем.

Интересно, способен ли ИИ, предоставленный сам себе, ставить себе цели ?
С эмпирическим путем - принципиальная сложность. Эксперимент то он поставить не сможет.

[KPbI3]

Фаззи

Нет еще не писал.

Значит буковки в Вашем посту самозародились, или кто то другой их дописал?

Пенроуз считает, что существенную роль в процессе мышления может иметь некий квантовый процесс в микротрубочках нейронов мозга.

Да хоть кварковый процесс, какая разница в данном случае?

Этот процесс влияет на сигналы, которыми обмениваются нейроны, внося "невычислимость". Да простит меня Gaad, не любящий ссылки на авторитеты. Так что с подсознанием он, думаю, поторопился.

И причем тут подсознание?

Эксперимент то он поставить не сможет.

Вы лично запретите всем ИИ ставить эксперименты?

[Fuzzy]

2 Renderator
Позволено ли будет ИИ себя патчить ?