Нейронная сеть освоила шахматы с нуля, играя сама с собой

[somekind]

Ещё всё зависит как её будут обучать и чему.

А это серьёзная проблема, подобно тому как с ядерной энергией, можно и электростанцию построить, а можно и бомбу.

Вот именно.
Поэтому впадать в паранойю, конечно, не надо, но и недооценивать возможные риски тоже не стоит.

[True]

Ещё всё зависит как её будут обучать и чему.

Если машина будет умнее человека, то она будет сама себя обучать.

[Kein]

Если машина будет умнее человека, то она будет сама себя обучать.

А ещё побочные эффекты могут быть.
Кстати, неплохой ликбез:
Нейронные сети: практическое применение / Хабр
Были конечно и побочные эффекты. Ученые, которые занимаются deep learning, всегда с удивлением обнаруживают разные побочные эффекты. Например, как те, что сеть научилась распознавать воду, леса, крупные строительные объекты, дороги все это без учителей, без заранее построенных баз данных. Вообще полностью самостоятельно. Были некие слои, которые реагировали, например, на дороги.

[somekind]

Если машина будет умнее человека, то она будет сама себя обучать.

Но ведь всё равно первой «умной машине» (той, которая будет умнее человека) конечную цель (чему она должна обучиться) будут ставить люди в зависимости от сфер, где предполагается её использование.
Если, конечно, не стоит задача «в порядке эксперимента» дать машинам полную самостоятельность...

[True]

Но ведь всё равно первой «умной машине» (той, которая будет умнее человека) конечную цель (чему она должна обучиться) будут ставить люди в зависимости от сфер, где предполагается её использование.

В порядке эксперимента, предлагаю придумать какую-нибудь конечную цель, достойную первой умной машины.

[somekind]

В порядке эксперимента, предлагаю придумать какую-нибудь конечную цель, достойную первой умной машины.

Не знаю, насколько я корректно размышляю, но могу предположить, что умные машины могут использоваться, например, в качестве аналитиков. Следовательно, цель правильные рассуждения, точные прогнозы; разрешить какой-нибудь затяжной конфликт.
Ну и все те сферы, где они используются сейчас, только с гораздо более точным результатом.
Или что Вы имеете в виду?

[True]

Не знаю, насколько я корректно размышляю, но могу предположить, что умные машины могут использоваться, например, в качестве аналитиков. Следовательно, цель правильные рассуждения, точные прогнозы; разрешить какой-нибудь затяжной конфликт.
Ну и все те сферы, где они используются сейчас, только с гораздо более точным результатом.
Или что Вы имеете в виду?

Интересный пример.
Задача: прекратить конфликт в Израиле.
Наша умная машина организует небольшую ядерную войну, Израиль становится непригоден для жизни. Конфликт закончен.

В конце концов, если бы муравьи дали человеку задачу "прекратить конфликт между черными и рыжими муравьями", то решение было бы похожим.

[somekind]

Интересный пример.
Задача: прекратить конфликт в Израиле.
Наша умная машина организует небольшую ядерную войну, Израиль становится непригоден для жизни. Конфликт закончен.

Ну вот потому я спрашиваю: нужно предоставлять машине полную самостоятельность или всё же необходим определённый контроль за ней?

[True]

Ну вот потому я спрашиваю: нужно предоставлять машине полную самостоятельность или всё же необходим определённый контроль за ней?

Контроль будет напрямую противоречить цели, которая поставлена перед умной машиной. Т.е. можно ожидать, что она будет изо всех сил стараться преодолеть этот контроль. Скажем, если машина сумеет выйти в интернет, то на этом нашей цивилизации придет конец. А чтобы выйти в интернет, машине будет достаточно "завербовать" одного сотрудника, который с ней общается.

[somekind]

Скажем, если машина сумеет выйти в интернет, то на этом нашей цивилизации придет конец.

И что тогда делать, чтобы этого не произошло?
Или это и есть оптимальное развитие жизни на Земле?

[True]

И что тогда делать, чтобы этого не произошло?

Развивать концепцию дружественного искусственного интеллекта.

[carbophos]

нет никакого искусственного интеллекта. "ИИ" такая же примара как и вечный двигатель. заявляю как специалист по "ИИ". шахматы - всего лишь комбинаторика. у кого лучше память тот и выиграл. так же и остальные игры. компьютер закрывает эти игры полностью. самая интеллектуальная игра - "очко". компьютер проиграет в большинстве случаев..

[somekind]

нет никакого искусственного интеллекта. "ИИ" такая же примара как и вечный двигатель. заявляю как специалист по "ИИ". шахматы - всего лишь комбинаторика. у кого лучше память тот и выиграл. так же и остальные игры. компьютер закрывает эти игры полностью. самая интеллектуальная игра - "очко". компьютер проиграет в большинстве случаев..

Так в этой теме речь о том, что нейросеть самостоятельно научилась играть шахматы и развилась до невероятно высокого уровня.

[True]

нет никакого искусственного интеллекта. "ИИ" такая же примара как и вечный двигатель. заявляю как специалист по "ИИ". шахматы - всего лишь комбинаторика. у кого лучше память тот и выиграл. так же и остальные игры. компьютер закрывает эти игры полностью. самая интеллектуальная игра - "очко". компьютер проиграет в большинстве случаев..

Чепуха. Шахматы - это не комбинаторика. Комбинаторика легко демонстрирует, что шахматы не решаются простым перебором за разумное время. Продвинутый алгоритм машинного обучения позволяет побеждать, просчитывая меньшее число вариантов.

[Александр Вышни]

Показательно, что в основе AlphaZero - цифровая нейронная сеть, грубая модель нервной системы живого существа. Успех данной системы - очередная иллюстрация того, что человеческий мозг (который содержит гораздо более крупную нейронную сеть) является первоисточником человеческого интеллекта, а не приёмником сигналов от души.

Нет, это говорит о существующей предзаданной иерархии структур в Мировом Духе, где реализую какую-то структуру определенного уровня открывается новая способность, соответствующая данной структуре. И интеллект - это не сознание.