Технологическая Сингулярность

[Denn Sandy]

Понимать, а, следовательно, и анализировать LLM неспособны.

Задам вопрос снова, хотя знаю ответ заранее-
"Учёный", а вы какой вуз заканчивали? Где аспирантуру закончили? По какой специалилилилилилизации проходили? Какие научные труды опубликовали? Кто ваш рецензент? Состоите ли в РАН? РАЕН не в счет. Только РАН. Где там выходные данные - ФИО, регалии, труды, участие в конференциях?

[NewPoisk]

Задам вопрос снова, хотя знаю ответ заранее-

Самообман - грех?

[Denn Sandy]

Самообман - грех?

Как вас звать-то, мил чоловик? ))))
А уход от ответа мне понятен - вы такой же ученый как я летчик)))

[Denn Sandy]

Самообман - грех?

Поджав хвостик, трусишка убежал.

[NewPoisk]

Почему ChatGPT (кстати, как и ожидалось, там имеется визитная_карточка-закладка в виде одной из служебных команд) с одной стороны отвечает лучше, а с другой стороны и галлюцинирует намного сильнее остальных LLM?

Возможно потому, что его суррогатный внутренний мир все-таки существует (на что намекает и закрытый код). А проблема в том, что ставя не безконечному внутреннему миру задачу описать безконечный внешний, мы сталкиваемся с проблемой большого числа альтернативных путей его эволюции.

В самом деле: после актуализации внутренний мир начинает моделировать внешний; если ВСЛД внутреннего мира безконечно велика, то безконечное число ее возможных эволюционных траекторий ограничивается безконечным же числом уравнений (по причине того, что всякое уравнение есть условие, а всякое условие суть ограничение), и в пределе отношения мы имеем всего лишь маленькое натуральное число (скажем, условно, 10 возможных вариантов развития того или иного события, причем 9 из которых не очень вероятны); если же ВСЛД конечна, а моделировать ею все так же надлежит безконечность, число вариантов (фазовое пространство) разрастается очень сильно - ведь естественно ограничивающих комбинаторный взрыв безконечной массы уравнений уже нет и модель проявляет неадекватность значительно чаще.

Пример-парадокс: вариантов развития большей глупости меньше.

Так что даже странно что ChatGPT вообще еще что-то умудряется отвечать впопад. Скорее всего, "решение" нашлось в высокочастотной актуализации, но - понятно - корня проблемы это никак не решает.

[Denn Sandy]

Почему ChatGPT (кстати, как и ожидалось, там имеется визитная_карточка-закладка в виде одной из служебных команд) с одной стороны отвечает лучше, а с другой стороны и галлюцинирует намного сильнее остальных LLM?

Тебя звать-то как, малыш?

[Allent]

Почему ChatGPT (кстати, как и ожидалось, там имеется визитная_карточка-закладка в виде одной из служебных команд) с одной стороны отвечает лучше, а с другой стороны и галлюцинирует намного сильнее остальных LLM?

Только что провел тест над этой болталкой.

[Denn Sandy]

Алёнка наша в каждой бочке... ))))

[NewPoisk]

Только что провел тест над этой болталкой.

Стаканный тест (кстати, это довольно известный трюк) показательный, но не определяющий признак сознательных рассуждений (т.к. требует знакомство с физикой мира, что является сильным ограничением). Гораздо интереснее наблюдать решение чисто математических задач: если решая сложные задания, система одновременно путается в простых - но по формулировке громоздких, то внутреннего мира точно нет: именно этот эффект наблюдается у LLM с открытым кодом.

[Denn Sandy]

Стаканный тест ( именно этот эффект наблюдается у LLM с открытым кодом.

Зовут-то тебя как, маленький?

[Allent]

Стаканный тест (кстати, это довольно известный трюк) показательный, но не определяющий признак сознательных рассуждений

Ок, поставим отдельные условия. Интересно, кто поймет где в условиях подвешен мною крючок? Его мне тоже удалось "перетянуть". Но это уже Клод Файбл.

[Allent]

У кого еще есть трюки которым можно "подвесить" ИИ?

[Denn Sandy]

А вообще, прекрасное начало великой дружбы двух титанов - величайшего ученого (правда, его не знает никто, кроме мамки и лечащего врача) и богатейшего миливардера нашего форума (правда, тогда мы все тут испанские авиаторы) - ждем божественных озарений и новых прорывов в науке.

[NewPoisk]

У кого еще есть трюки которым можно "подвесить" ИИ?

А в этом нет необходимости. "ИИ" не решает практических задач: по некоторым данным ~89% бизнеса понесли от него лишь убытки. Как подметил Р. Фейнман "Неважно, насколько красива ваша теория, неважно, насколько вы умны. Если это не согласуется с экспериментом, это неправильно." Теория LLM как теория искусственного интеллекта (в первозданно-очевидном понимании термина!) уже, т.о., потерпела крах. Что интересно, известная своей фундаментальной научностью Европа на деле не очень-то спешит догонять "лидеров" отрасли: европейские БЯМ по сравнению с североамериканскими и китайскими откровенно слабы. Правда, как и приложимая к дата-центрам энергетическая база. "Совпадение? Не думаю."

[Allent]

А в этом нет необходимости. "ИИ" не решает практических задач:

Категорически не согласен. У меня бизнесподписка на Клода, в инженерной работе с расчетами и моделированием заменяет целый отдел расчетчиков. Логистику в фирмеон так же он построил. То что отрабатывалось год-два сейчас можно сделать за день.