Оригинал статьи находится на странице "https://erichware.name/?p=8319"

Про т.н. "искусственный интеллект" я писал не раз. Правда, аббревиатура "ИИ" имеет и другие расшифровки: "искусственный идиот", "имитатор интеллекта" и т.д. Должен признать, что отчасти они верные, тем более, что имеющиеся "нейросети" к настоящему интеллекту отношения не имеют. Мало того! Во-первых, механизм программ "ИИ" не совсем отражает работу биологических нейросетей. А во-вторых, интеллект (человеческий в первую очередь, хотя он есть и у животных), вообще говоря, с нейронами не так уж и связан. Да и с деятельностью мозга в целом...

Впрочем, сейчас речь не о том. Просто у меня появился некоторый опыт общения с "ИИ". Опыт интересный и, возможно, полезный для других. А еще тут замешан интересный психологический феномен...

Начну с генерации изображений, просто потому, что это отдельная сфера и для меня почти ненужная. Хотя формально нет: по идее обложки и иллюстрации для моих книг логично делать через ИИ, как и поступают сейчас буквально все авторы. Но я предпочитал делать все в фотошопе (при нелюбви и неумении). Но картинка к посту в блоге от 1 мая сделана чатомжпт.

Это был ее 4 вариант, при том, что он тоже не отражает мое желание. Но мне просто надоело возиться. Да, эксперимент был в том, чтобы НЕ задавать конкретный "промпт", а написать "сделай картинку для такого названия поста, сам придумай какую". Название и картинка представлены тут.

Я прекрасно знаю, что ничего ПРИДУМАТЬ нейросеть не может, ибо думать не умеет. Но так говорят! И вот тут напишу подробнее о психологии, а потом уже про другой опыт.

Дело в том, что человек издавна хочет общаться с ИНЫМ РАЗУМОМ! Нам мало таких же как мы: хочется разнообразия. Люди пытались общаться с дельфинами (они официально реальные кандидаты на разумность), люди все время ищут "братьев по разуму" в космосе (хотя это огромный риск). И вдруг - вот оно: разум прямо в кармане! И люди ринулись "во все тяжкие", доверяя нейросети создание программ, назначение лекарств и консультации в любовных неудачах. Ну да...

С одной стороны, я как бы могу гордиться тем, что почти 10 лет назад описал все это в своих литературных произведениях. Но с другой - это печально, потому что масса людей играет с огнем в самом худшем смысле. А теперь и вовсе в США нейросетям доверят принятие решений о военных действиях. Офигели, ребята? И гибель иранских школьниц - только начало...

Так вот, я не спорю: общение с "иным разумом" - это действительно жутко интересно и это потребность нашего интеллекта. Но надо понимать, что даже самые лучшие "палантиры" - это не разум! Да, человек не может предсказать ответ ИИ, хотя все заложенные в него алгоритмы известны. Это как в шахматах: люди не могут перебрать ВСЕ варианты партии, поэтому играют. Был еще в СССР анекдот: "Две ЭВМ играют в шахматы. Одна делает ход. Вторая, проанализировав все варианты, отвечает: сдаюсь!". Это реально, ибо теоретически возможно для МОЩНОЙ ЭВМ. Но это не говорит о наличии интеллекта у этих ЭВМ...

Вернемся к опыту. Я не даю нейросетям редактировать свои посты (и рассказы), и уж тем более не даю писать вместо себя. И не буду этого делать, заранее всех предупреждаю! Но использовать нейросети в качестве поисковой системы, обобщающей сведения и делающей итоговое резюме - это нормально. Мало того! Именно для этого и были предназначены т.н. "экспертные системы" еще в 80-х годах прошлого века. Был язык "Пролог" специальный. Понятие "ИИ" некоторые программисты использовали, но чисто "для прикола", ибо понимали суть. А вот сейчас люди суть не понимают и используют этот термин всерьез.

Итак, случилось у меня, что мой ноутбук соизволил обновлять Вин10 на Вин11. Да только осечка вышла: памяти не хватило на диске (а заранее проверить - нет?). Процесс остановлен, а 11 Гб так и заняты. И все! Что скачалось - то скачалось, и черт знает как это убрать? Спросил у ЖПТ. Ответ порадовал: подробно описано куда все делось и как удалить вручную. Кстати, непонятно, прочему через саму ОС нельзя это убрать? Но нельзя. Кстати, ответ был дан не сразу, пришлось поговорить, ответить на уточняющие вопросы и т.д.

Еще был случай таки с программированием: не мог найти описание нужного свойства. Тоже подсказка была верной! То есть, чем перекапывать сотни ссылок в поиске (как я обычно делал в таких случаях), лучше спрашивать нейронку.

А вот еще одна задача показалась особенно интересной: мне нужно было перевести в текст аудиозапись интервью для блога. Делал я это дважды: один раз запись была качественной, второй раз нет (много шумов на фоне). Качественную запись ЖПТ обработал без проблем: разбил на голоса, все четко. А вот с плохой не справился. Причем никак не хотел в этом признаться. Но я понял, что он меня дурит и прямо сказал: "Не можешь - так и скажи". "Да, ты прав - не могу".

А вот Gemeni справилась. Правда, пришлось сильно текст корректировать, но не сравнить с фигней, которую давал ЖПТ!

Сейчас вот спросил про новую турецкую ракету, ибо в СМИ сведения противоречивые и скорее пропагандистские, чем реальные. Ответ был таким. Ракета есть, но как прототип, план на будущее. Испытаний не было, не было промежуточных разработок (по дальности, а они необходимы). Что же касается скорости, то она стандартная, ничего особенного тут нет.

В общем, понятно, что ИИ - это полезный инструмент в умелых руках и для тех задач, которые он и должен решать. Вся проблема в том, что люди склонны к идеализации и абсолютизации тех технических достижений, которые им нравятся или которые призваны сильно облегчить жизнь. Но критическое мышление надо сохранять всегда!

К сожалению, попытки военных переложить работу с человека на ИИ крайне опасны. И речь не о моральных запретах, отсутствующих у "робота". Речь именно о качестве и надежности алгоритмов. Аналогичная проблема есть в юриспруденции: можно ли доверить нейросетям судебное производство? Взяток не берут и судят "логически". Но тут и зарыта свора сенбернаров!

Логика неоднозначна и субъективна, и лично я сталкиваюсь с этим буквально ежедневно просто в бытовом общении с разными людьми. Странно, да? Но это факт, который и вы сами при желании вполне можете заметить. А если смотреть и читать детективы (не говоря о реальных судебных процессах), то именно логика зачастую приводит к ошибочным приговорам, как в ту, так и в другую сторону (хотя процент оправданий в судах вообще мизерный).

Да, очень соблазнительно перекинуть ответственность на "машину": вроде никто не виноват, и все "объективно". Фигушки. Алгоритмы создаются людьми. И заложить в них можно все что угодно. Не говоря о неизбежных ошибках как в самих алгоритмах, так и в программных реализациях. Уж я-то знаю, о чем говорю...

Судить должны люди: компетентные, честные, с хорошей зарплатой, высоким интеллектом, полным нужным образованием и т.д. И ракеты пускать тоже должны люди (хотя ЛЮДИ как раз не станут, но их мало). Я вполне допускаю, что через несколько лет весь мир будет контролироваться нейросетями. Но пока не поздно - прочтите мои рассказы, повести, романы. Там есть и об этой теме...