Оригинал статьи находится на странице "https://erichware.name/?p=8415"

Я много раз писал и говорил, что называть "ИИ" искусственным интеллектом неправильно, что интеллект - это другое, а тут - в лучшем случае "имитация интеллекта", да и то с большой натяжкой. Но люди привыкли и большинство не понимают, в чем же разница.

Я хочу попробовать "на пальцах" эту разницу объяснить, подробнее, чем здесь. Да, я понимаю, что как работает человеческий (и животный) интеллект (тот самый ЕИ) - по сути остается загадкой до сих пор. Тем не менее, есть очевидные и принципиальные различия.

Ребенок рождается без знаний, без владения языком и без всякого опыта жизни. Мы не будем сейчас говорить о том, помнит ли он прошлые жизни, как он вообще мыслит в этом возрасте и т.д. Важно не это. Важно то, как происходит процесс его обучения с самого начала.

Ребенок видит предметы и действия с ними, слышит произносимые вокруг слова и их интонации. Постепенно он начинает сопоставлять предметы и действия с отдельными словами, естественно, не вникая в грамматику языка, просто запоминает и связывает. Чем больше ребенок видит и слышит - тем быстрее он улавливает все эти закономерности.

Известно, что ребенок начинает "все понимать" задолго до того, как начинает говорить сам. Это осложняет анализ его мозговой деятельности, но тем не менее понятно, что к началу владения речью ребенок знает крайне мало. И вот тогда он начинает задавать вопросы. Ему отвечают. Как? Вот это как раз интересно.

Если ребенок спрашивает "что это такое?", то взрослые объясняют ему это иными словами из того запаса, которым он владеет. Иногда приходится объяснять одно, чтобы "через это" объяснить другое. Но в любом случае познание ребенком мира происходит через смысл услышанного. Причем этого услышанного на самом деле не так уж и много.

А вот т.н. "LLM" ("большие языковые модели", которые и принято называть термином ИИ) учатся совсем иначе. Если говорить коротко и грубо, то "проглатывая" сотни терабайтов текстов эти LLM просто разбивают всю информацию на отдельные примитивные блоки ("токены") и по сути запоминают какие токены в каких сочетаниях встречаются. Токены это не обязательно слова, это могут быть даже части слов. Но речь идет о запоминании их взаимного расположения!

В памяти LLM миллионы токенов связаны миллиардами признаков с весовыми коэффициентами. Когда вы задаете вопрос, ЛЛМ не понимает его смысла так, как понимаем его мы! Она разбивает вопрос на токены, причем по ходу превращая их в числа. А потом с помощью специальных алгоритмов обрабатывает эти числа, на выходе сообщая свой ответ.

Со стороны это выглядит как осмысленный диалог равных собеседников (потому обыватели и называют это "интеллектом"), но на самом деле речь идет об огромном числе математических операций над кучей чисел, не имеющих по сути никакой логической связи со словами и их смыслом. Именно потому, что нужны миллионы токенов и миллиарды связей, ЛЛМ и жрут такое непотребное количество ресурсов. Обычные процессоры с такими вычислениями не справляются, приходится делать специальные.

И понятно, что чем больше готовых текстов вы "загоните" в свою модель, тем полнее будет ее "коллекция" токенов и признаков, их связывающих. Но человеку не нужно впихивать в себя терабайты текстов, чтобы осмысленно отвечать на простые вопросы!

Да, понятно, что человек не может ответить на вопрос за пределами своей компетентности. Музыкант не ответит на вопрос по ядерной физике. Но он, не прочитав ни одной книги по, допустим, истории, все равно сможет грамотно и осмысленно беседовать на эту тему! Да, он не будет знать, когда жил Македонский или когда был 2 съезд РСДРП (я вот на экзамене по истории КПСС тоже это забыл). Но в остальном - без проблем! Почему?

Потому что человек понимает СМЫСЛ слов, которые использует. Ему не нужно помнить допустимые и распространенные их сочетания! Он понимает, что слово "хлеб" и слово "свежий" связаны определенным смыслом, а слово "жаба" со словом "хлеб" никак не сочетается! ЛЛМ этого не понимает. Она просто знает, что в ее памяти сочетание "свежий хлеб" встречается 100 раз вместе с другими словами (завтрак, магазин и т.д.), а сочетание "хлеб жаба" не встречается никогда. А значит и весовые коэффициенты в заложенных формулах будут разные. Но разве мы думаем такими же методами?

Иными словами, мы связываем слова по их смыслу, определенному через другие слова (и это иногда циклично). А ЛЛМ связывает слова по частоте их встречаемости в тех или иных сочетаниях. И при желании ЛЛМ может знать, что этот писатель часто пользуется таким эпитетом, а этот - таким.

Поэтому нейросети пишут рассказы "в стиле" кого угодно. Но сам рассказ - просто набор словосочетаний на основе таблицы (я когда-то проводил такой опыт). Таблица огромна, параметров - миллионы, а то и миллиарды, поэтому нам кажется, что она делает все как мы. Но тем не менее, написанные ИИ тексты всегда можно отличить, особенно при соответствующем опыте знакомства с ними.

Есть любители "писать" нейросетями буквально все: от писем друзьям до научных статей. Многие пишут программы (про свой эксперимент я недавно писал на Хабре) и даже делают видеоролики. Но в чем тут смысл - понять не могу, особенно если это "не для бизнеса".

Важно понять одно: естественный интеллект работает не так как языковые модели. Принцип другой! А значит, термин ИИ нельзя трактовать как "искусственный интеллект". Даже если со стороны он выглядит именно так. А если сюда еще включить такие понятия как "душа", "вдохновение" и т.д., то и вовсе. Но и без них все очевидно...