@Dima812 @r36310
>понимать смысл, значит делать то, что просят.

Китайская комната, таким образом, понимает ваши запросы. Плохо, что нет варианта "не знаю" или похожего(не меняйте варианты, это сбросит голоса уже проголосовавших, пусть будет да/нет).

Вообще, это неправильный путь, надо у нейросетей искать возможность синтетического знания априори(например, составление верных математических теорем). И это будет прорыв. Математики пока не нашли универсального математического/логического способа для доказательства/отыска новых теорем, а нейросеть это же обычная программа - математический алгоритм. И если окажется что такая программа крайне удачно решает математические проблемы, то выйдет, что математика сама выводит математику. Пока такому исходу "мешают" теоремы Гёделя о неполноте.

А по поводу понимания слов, тут действительно не хватает определения. Мы считаем что понимаем слова не только потому что внешне это можем как-то подтвердить(иной человек может сказать, что мы понимаем значение слова правильно), но и из внутреннего ощущения такого вот понимания, т.е. я могу наблюдать конкретное слово, видеть изгибы у букв и т.д. и эти ощущения, вместе с связуемостью языка впринципе и дают ощущение понимания. Есть ли квалиа у ии это сложный вопрос(большинству вероятно кажется что нет), но стоит нам провести мысленный эксперимент, и представить что нейросеть на самом деле испытывает ощущения просто они нам недоступны, и всё также делает что её просят, как мы тут же заявим что она точно понимает значение того или иного слова, и такое вот "доказательство" нестрогое, но проводится на уровне чувств, мне, тем не менее кажется интересным.