Выделение текста

[cetsalcoatle]

Нейронки постійно «галюцинують» — видають неправдиві факти, яким їх не навчали. А так, придумати щось принципово нове — проблема навіть для нашого з вами біологічного виду. Все, що ми придумуємо — лише перекомбіновування того, що нам відомо. Мені здається, якби людина, ШІ чи інша форма розуму придумала щось, що не базується на тому, що ми вже знаємо, то ми просто це не зрозуміли б.

Челюсти — развились из жаберных дуг, зубы из чешуи, так что да.

[2Easy]

Нейронка ничего не знает. Это не база знаний, из которых она выуживает ответы. Она отвечает "интуитивно". Поэтому может дать ответ на вопрос, которого в обучении не было. И поэтому за точность ответов ответственности не несёт.

Мне кажется забавным, как в научной фантастике противопоставляли рассудочный и логичный ИИ человеческому интеллекту, а оказалось наоборот: логика не нужна, а нейронки руководствуются чутьём.

Скорее не чутьем, а своими рассуждениями, которые основаны на логике. Именно логика позволяет нейронке брехать с непревзойденной убедительностью.

[Bhudh]

От логики там только заученные шаблоны силлогизмов.
В которые она частенько вставляет взаимоисключающие параграфы.

[2Easy]

От логики там только заученные шаблоны силлогизмов.
В которые она частенько вставляет взаимоисключающие параграфы.

Если бы это было так, ловить нейронки на лжи было бы так же легко, как людей.

[Bhudh]

Так и легко, если знать область определения вопроса.
Вот если спрашиваешь о чём-то совсем незнакомом, то рекомендуется задать один и тот же вопрос несколько раз в разных беседах с независимыми контекстами (и разным нейронкам…). Если ответы будут одинаковыми: значит, 90 %, что нейронка это знает и дала выученный ответ. А вот если ответы будут противоречить друг другу: значит, это галлюцинации на тему и лучше искать ответ в другом месте.
Хотя если нейронка выдаёт противоречащие друг другу заявления прямо в одном ответе, уже легко догадаться, что что-то здесь не так.

[Владимир]

Челюсти — развились из жаберных дуг, зубы из чешуи, так что да.

А крылья насекомых — изменённые конечности (у первых насекомых крыльев было шесть), которые первоначально жабры у брахиат, так работает эволюция. Но эректусы в рамках ашёльской культуры совершили прорыв — они начали изготовлять орудия по зарание составленному плану, т.е. они сначала представляли изделие в голове, а потом его воплощали в камне. Позже таким образом было изобретено колесо, которое, конечно, не могло появиться в ходе естественной эволюции.

[Bhudh]

А брёвна-то с горы катаются. И круглые камушки тоже…

[Владимир]

А брёвна-то с горы катаются. И круглые камушки тоже…

Брёвна и камни не эволюционируют 

[2Easy]

Так и легко, если знать область определения вопроса.
Вот если спрашиваешь о чём-то совсем незнакомом, то рекомендуется задать один и тот же вопрос несколько раз в разных беседах с независимыми контекстами (и разным нейронкам…). Если ответы будут одинаковыми: значит, 90 %, что нейронка это знает и дала выученный ответ. А вот если ответы будут противоречить друг другу: значит, это галлюцинации на тему и лучше искать ответ в другом месте.
Хотя если нейронка выдаёт противоречащие друг другу заявления прямо в одном ответе, уже легко догадаться, что что-то здесь не так.

Я о чём и говорю - чтобы её подловить, надо заранее владеть информацией по своему запросу. А человек на лжи зачастую ловится и без таких подстеленных соломок.

[2Easy]

Челюсти — развились из жаберных дуг, зубы из чешуи, так что да.

А крылья насекомых — изменённые конечности (у первых насекомых крыльев было шесть), которые первоначально жабры у брахиат, так работает эволюция. Но эректусы в рамках ашёльской культуры совершили прорыв — они начали изготовлять орудия по зарание составленному плану, т.е. они сначала представляли изделие в голове, а потом его воплощали в камне. Позже таким образом было изобретено колесо, которое, конечно, не могло появиться в ходе естественной эволюции.

Американцы до колеса так и не дотумкали.

[Bhudh]

чтобы её подловить, надо заранее владеть информацией по своему запросу

Ну вот простой пример: задаю вопрос «Как работает JS-оператор with с массивами?».
И нейронка пишет сначала
with(array) {
    console.log(0); // выведет array[0]
}
А ниже в том же ответе пишет, что «console.log(2) выведет число 2».
Тут вообще не надо владеть информацией по вопросу, так как эти утверждения друг другу противоречат.