Всё время я отстаивал позицию, что это синтаксический и стахостический попугай. Ничего он не понимает и тд. Но ведь если попросить его что-то сделать с текстом, то он делает именно то, что ты попросил. То есть смысл он понял! И это меня обламывает.

@Dima812 я согласен, что нифига не понимает.
Ищет в биг дата совпадения, но это не понимание смысла.

@fili но и человек обращается к своему опыту, ищет совпадения.

@Dima812 Отличие человека в том, что он понимает смысл нового для себя вопроса, даже если в своём опыте не находит релевантной памяти для подобного.

@fili это усвоения нового и нахождения в нем смысла очень похоже не обучение ии. Нейросеть ведь тоже изначально ничего не смыслит.

@Dima812@mastodon.de он не понял. Смысл - плод разума в сознании. Считай что оно выражает коллективное бессознательное. Что часто тождественно правильному ответу. Но ты попадаешь в ошибку антропной оптики.

@Dima812@mastodon.de @rf@mastodon.ml
а кто понимает?

@paul @rf ну люди порой понимают)

@Dima812 я вообще не знаток LLM, но если я что-то понимаю, то ни просто не могут «понимать» слова как люди, потому что они не имеют как такового интеллекта.

Они наверное могут иметь что-то типа ассоциации после обучения (условно: загрузили в ии-шку миллион фоток разных собак и задали описание, что это все собаки, часть из них - это таксы, другая часть - овчарки и т.д.). Пользователь пишет слово «собака» и ИИ выдает «ассоциацию» на это слово. С текстом скорее всего что-то похожее.

Мб я и не прав, но я это для себя понимаю так

@Dima812 вот что ИИ сказала про себя:

**Токенизация**: текст разбивается на токены — не всегда целые слова, часто части слов (например, "понимание" → "понима" + "ние").

**Эмбеддинги**: каждый токен превращается в вектор чисел (сотни/тысячи измерений), отражающий его значение. Близкие по смыслу слова получают близкие векторы.

**Внимание (attention)**: механизм трансформера позволяет модели смотреть на все токены запроса одновременно и определять, какие из них важны друг для друга. Так слово "банк" в контексте "берег банка" и "деньги в банке" получает разные представления.

**Контекст**: значение слова формируется не изолированно, а через его связи с остальным текстом — модель строит представление всего запроса как единую структуру, а не сумму отдельных слов.

**Важный нюанс**: модель не "понимает" в человеческом смысле (нет сознания, опыта, референции к реальному миру). Она предсказывает статистически вероятные продолжения на основе паттернов, извлечённых из огромного массива текстов при обучении. Результат часто выглядит как понимание, но механизм принципиально другой.

@lunacharskii тут посмотри https://www.youtube.com/watch?v=529gNoh1mok

@Dima812 Очевидно не понимает. В составе нейросетей нет механизма "обдумывания", это относительно простой для понимания алгоритм. Просто чем больше от тренируется делать то, что мы хотим, тем он сложнее

@Dima812 @rf Щас бы ещё определить, что такое “понимать” и может ли алгоритм по сложности схожий с калькулятором что-то “понимать” в принципе

@Dima812 @rf имхо "понимает" это абсолютно пустое слово
Да, понимает

@Dima812 @rf

Дай, пожалуйста, определение тогда: что значит «Понимать смысл слов»?

@r36310 понимать смысл, значит делать то, что просят.

@Dima812 в такой формулировке, наверное, да. Но у тебя и компиляторы тоже делают то, что просят.

@r36310 @Dima812 @rf ло мисмо диго💯

@Dima812 @rf нужно опредилиться с терминами сначала - что значит "понимает" и что значит "смысл слов"? мне смыслы этих слов не очень понятны в этом вопросе

@Dima812 @rf перефразируя классику, а понимаешь ли ты?

@Dima812 @r36310
>понимать смысл, значит делать то, что просят.

Китайская комната, таким образом, понимает ваши запросы. Плохо, что нет варианта "не знаю" или похожего(не меняйте варианты, это сбросит голоса уже проголосовавших, пусть будет да/нет).

Вообще, это неправильный путь, надо у нейросетей искать возможность синтетического знания априори(например, составление верных математических теорем). И это будет прорыв. Математики пока не нашли универсального математического/логического способа для доказательства/отыска новых теорем, а нейросеть это же обычная программа - математический алгоритм. И если окажется что такая программа крайне удачно решает математические проблемы, то выйдет, что математика сама выводит математику. Пока такому исходу "мешают" теоремы Гёделя о неполноте.

А по поводу понимания слов, тут действительно не хватает определения. Мы считаем что понимаем слова не только потому что внешне это можем как-то подтвердить(иной человек может сказать, что мы понимаем значение слова правильно), но и из внутреннего ощущения такого вот понимания, т.е. я могу наблюдать конкретное слово, видеть изгибы у букв и т.д. и эти ощущения, вместе с связуемостью языка впринципе и дают ощущение понимания. Есть ли квалиа у ии это сложный вопрос(большинству вероятно кажется что нет), но стоит нам провести мысленный эксперимент, и представить что нейросеть на самом деле испытывает ощущения просто они нам недоступны, и всё также делает что её просят, как мы тут же заявим что она точно понимает значение того или иного слова, и такое вот "доказательство" нестрогое, но проводится на уровне чувств, мне, тем не менее кажется интересным.

@Dima812
То есть, ты думаешь, что разработчики, которые разрабатывают LLM для понимания, не достигают этой цели?

@Dima812 проголосовал "да", но в очень узком смысле "имеет информацию о слове помимо самого слова" и для подключенных к ним "интерфейсам" (текст на входе, текст на выход) способность определять, как слово меняет контекст, это, пожалуй, максимум, на который в них можно рассчитывать.

Однако, две важных оговорки:
1. Это отличается от "понимания" слов человеком, который "из коробки" (гусары, молчать!) поставляется с более разнообразными "интерфейсами", влияние на которые могут описывать слова. Сейчас для новых модальностей (графики, звука) либо делается внешняя обвязка, либо дотренировывается модель, так что способа адаптировать значение слова под новые модальности в той же модели, похоже, не существует. (И я сомневаюсь, что может. Значение в новой модальности ведь новая информация.)
2. Что у человека, что у модельки такое "понимание" от слова к слову может разниться. Что прикольно, по похожим причинам: степень натренированности (опыт) и ширина трактовок (неразрешённая неоднозначность).