Текущая версия на 17:27, 28 декабря 2025

Посты в Tg: первая новелла, вторая новелла, третья новелла и продолжение, четвертая новелла
Пост на FB о первой новелле

Первая новелла - первые впечатления

Прочел первую новеллу из книги Кай-Фу Ли и Чэнь Цюфань «ИИ-2041. Десять образов нашего будущего» и фиксирую впечатления по свежим следам. Наверное, продолжу читать книгу и если впечатления изменятся — буду писать. Пока — следующие тезисы.

1. Конструкция книги: новелла, написанная одним автором, потом научный разбор второго. Первая новелла — про девочку-подростка из Мумбаи, семья которой купила страховку с ИИ-приложениями, которые имеют доступ к повседневной жизни и дают активные советы, эту жизнь меняющую, с экономическим подкреплением в виде изменения суммы взносов. В целом — к лучшему — отец бросил курить, стал осторожнее водить машину. При этом семью штрафуют за то, что ребенок часто ест конфеты и сласти, и это авторы одобряют — ЗОЖ, а вот то, что ИИ мешает девочке начать романтические отношения — осуждают.
2. Контекст написания. Книга издана в 2021 году, до прорыва с ChatGPT (2022). Поэтому в фокусе — модели глубокого обучения (deep learning), а не алгоритм трансформера, который дал успех. А у нас издана в будущем 2026 (я не шучу, в выходных данных указан будущий год) и позиционируется как предсказание. Это — предсказание из прошлого, когда успехи LLM были еще в будущем (хотя разработку ChatGPT уже активно вели), и на это надо делать поправку.
3. Авторы — из China Google, подразделения Google, работавшего в Китае, при этом Кай-Фу Ли — с Тайваня, получил образование и работал в Штатах, то есть по культуре в значительной мере американский китаец.
4. Социальные изменения общества, связанные с ИИ, в первой новелле отсутствуют. То есть мир уже 20 лет живет в обществе, где ИИ в виде рекомендательных систем уже активно используется, но мир практически не изменился. Может, это особенность первой новеллы, где действие помещено в Индию — чужую страну для авторов, которую они рассматривали как медленно развивающуюся (хотя реально Индия развивается очень быстро). Посмотрим в следующих новеллах.
5. Социальная конструкция очень странная. Страховая компания запускает ИИ, которому ставит целью уменьшение страховых взносов, то есть работу против интересов компании. При этом неясно, как эти взносы рассчитываются, по смыслу это происходит на основе обработки данных, то есть с помощью того же ИИ. Получается, что два ИИ работают в противофазе, что странно с инженерной точки зрения. Ну или идея коммерческой страховой компании — просто прикрытие для целей привести поведение людей в соответствии с некоторым идеологическим шаблоном, не показываемым явно.
6. Из новеллы следует, что романтические отношения, построение семьи и рождение детей рассматриваются ИИ как вредные, они ведут к увеличению страховых взносов, и ИИ хочет их расстроить. Хотя в некотором смысле это оправдано — за беременность платить придется, а потом — за детей. А вот почему именно роман девушки с конкретным нормальным парнем из касты неприкасаемых является особо отрицательным для ее здоровья и страховки — неясно. Все это подтверждает мою гипотезу, что за страховой лежит идеология, при чем не государственная, а чья-то еще, а вовсе не коммерческая выгода, а тогда проблема совсем не в ИИ.
7. Вывод автора о том, что нужно государственное регулирование, чтобы держать использование ИИ под контролем и проводить аудит компаний мне кажется вообще не обоснованным. С чего бы такая вера в добро государственного регулирования, особенно учитывая американскую культуру авторов? Или это у них проявилась китайская составляющая культуры (при том, что они — с Тайваня, а не из материкового Китая)? При инженерные аспекты такого контроля вообще не рассматриваются, хотя это — в научном разборе первой новеллы.

Вторая новелла

Продолжаю читать книгу Кай-Фу Ли и Чэнь Цюфань «ИИ-2041. Десять образов нашего будущего». Первые впечатления по первой новелле был в этом посте, а сегодня будут новеллы 2-4 в нескольких постах: опрос показал, что 70% предпочитают такой вариант, а не короткий пост со ссылкой.

Общее впечатление, что социально-экономическая действительность романа в 2041 году не изменилась и примерно соответствует существующей – подтверждается. Может, для авторов это логично, ведь концепт Фукуямы про конец истории на западе принимают всерьез, а авторы в значительной мере несут американскую культуру, хотя по происхождению китайцы с Тайваня. При этом темпы развития ИИ в представлении авторов, на мой взгляд, сильно занижены. Понятно, что роман говорит о том, что более-менее вошло в повседневную жизнь, но развитие смартфонов хорошо показывает, что для широкого распространения не требуются десятилетия, а достаточно года-двух. Сотовая связь действительно развивалась медленнее, там было нужно вышки везде поставить, а для ИИ это не нужно, базовая инфраструктура интернета есть. Но представления о низких темпах развития ИИ, кстати, соответствует времени написания книги – 2020-2021 годы, когда ChatGPT только появился. Быстро развиваться и умнеть он действительно начал позднее, что вызвало письмо сотни ученых с призывом остановить исследования из-за непредсказуемых последствий. Впрочем, сейчас об этом призыве, по-моему, забыли.

А теперь – про новеллы подробнее, в книге они действительно разные.

Вторая новелла – про использование ИИ в политической жизни при этом – анонимно. Это общество, в котором люди прячутся под масками от тотально установленных камер, а политические движения тоже продвигают свои идеи анонимно, создавая образы виртуальных агитаторов неизвестного авторства, которые при этом воспринимаются людьми с доверием, потому что умело ими манипулируют. А герой новеллы – нанятый другой партией талантливый создатель виртуальных образов, от которого требуют как-то дискредитировать агитатора, оплачивая для этого доступ к дорогим программам имитации. Нанятый, естественно, шантажом.

Герою удается обмануть нанимателя нестандартным решением: он создает не один контр-ролик, а несколько, первый поворачивает общественное мнение в нужную сторону, как и хотел наниматель – и это дает ему шанс ускользнуть, при этом заложив виртуальную мину – ролики, которые развернут тему дальше и повернут общественное сознание не так, как хотел наниматель. Потому как в политике хороших – нет, за маской слов всегда грязные цели элитных групп, и только у героя их нет – он отказывается от карьеры в столице Нигерии, где происходит дело и уезжает к отцу в деревню. И это – скрытая мораль: пробиваться вверх из низов эффективно только грязными методами, при этом получаемые плюшки того не стоят.

Чем-то этот сюжет напоминает Обитаемый остров Стругацких (только без Странника), где тоже правит анонимная группа. В реальности такая штука тоже встречалась – красные кхмеры Камбоджи. А еще ИИ тут – лишь новый инструмент масс-медиа. У Марка Твена есть хороший рассказ про современную ему политику «Как я баллотировался в губернаторы» – технологии отличались, а суть была та же.

Третья новелла

ИИ-2041. Третья новелла.

Третья новелла – про индивидуальных ИИ-помощников, способных за счет технологий иметь образ и действовать в мире дополненной реальности, где и происходит действие. Герои – два мальчика-близнеца, потерявшие родителей а автокатастрофе, где они сами выжили и воспитывающиеся в интернате. И им прямо на входе создают персональных ИИ-помощников, которому каждый может придать любой образ, и которые видны другим. Технологию я не понял, то ли люди почти постоянно ходят в VR-очках, которые подключены к общей сети так, что дополненное пространство получается общим, то ли там стоят проекторы, которые эти изображения выносят в реальность.

Важно, что этот помощник помогает ребенку учиться и направляет его. Как и в первой новелле, это происходит для блага ребенка по программе, заданной взрослыми. То есть ИИ-помощник помогает индивидуализировать траекторию, но не цель пути, она – задана системой. И самого ребенка особо не спрашивают, хотя личные особенности – учитываются. Но насколько их учитывать решают взрослые.

Один из близнецов – более активный, желает первенствовать, его усыновляют и он попадает в семью успешного инвестора, дети которого получают самого лучшее, но карьера – предопределена – надо заниматься и тоже стать инвестором, а если пытаешься своевольничать – тебя ждет наказание. Условия оказываются жестче, а свободы – меньше, чем было в интернате. А второй близнец – противоположность, у него открываются способности художника, и забирает его семья художников, для которых важно личное развитие. Впрочем, кончается все неплохо, Отец в семье, куда попал первый близнец, в конце понимает, что тот не хочет жесткой гонки и предоставляет самому выбирать себе путь – к чему, правда, тот оказывается не готов. Но он встречается с братом, они друг друга понимают и найдут опору друг в друге.

Когда читал, пришла идея разобрать этот конфликт по спиральной динамике. На поверхности там оранжевый успех против зеленого творческого проявления личности, но на обоих составляющих лежит очень мощный пласт культуры правил.

Еще отмечу, что создать личного помощника-собеседника можно уже сейчас. Хотя, наверное, с беседой в реальном времени могут быть проблемы, особенно если хочешь визуальный образ. Но технологии идут вперед, Алиса уже давно умеет беседовать в реальном времени, дальше вопрос, чтобы было куда подложить персональные характеристики собеседника, которые при общении с LLM ты можешь положить в системный промпт или RAG. LLM умеют имитировать любую личность, в том числе – отвечая за исторических и литературных персонажей, так что персонализация в коммуникации помощника, с которым ты хочешь беседовать – не проблема. Речь – тоже не проблема, голосовые синхронные переводчики работают. А с синтезом видео и дешифровкой твоих жестов и эмоций – разберутся, тем более, что эмоции считываются с голоса, мимика не очень нужна. Так что все это вполне может стать близким будущим. А может уже и есть в настоящем в каком-то виде, во всяком случае, быстрый поиск выдал приложение, в котором можно создать себе виртуальную девушку и с ней общаться (а вот виртуального парня почему-то не предлагают).

ИИ-2041. Третья новелла. Продолжение – про эмпатию ИИ.

В разборе третьей новеллы есть очень ценная мысль про ИИ: не надо сравнивать LLM по критериям для мышления людей, таким как тест Тьюринга, потому что ИИ мыслит иначе. И потому он будет выигрывать у людей или проигрывать им в зависимости от конструкции теста. А правильно искать синергию взаимодействия. Я тут отмечу, что придумывать тесты, в которых бы человек выигрывал ИИ, становится все сложнее. Автор говорит про эмпатию, но уже есть исследования, что люди предпочитают ИИ-психологом и те им лучше помогают, чем психологи-профи. А еще они гораздо дешевле, и доступны 24 часа.

Меня тут недавно в обсуждении на канале попросили ссылок про превосходство ИИ-психологов, и один из читателей быстро статью с подтверждением и статью с опровержением. Как бы тема не однозначная. Только в статье с подтверждением – нормальное исследование слепым методом, 830 кейсов. При этом выяснено, что самые высокие оценки получили ответы ChatGPT, о которых пациенты подумали, что им отвечает психолог, самые низкие - ответы психологов, приписанные ChatGPT, а остальные - посередине. Статья в Forbes, но там в начале есть ссылка на исследование, в котором все детали. А вот статья о превосходстве людей - это просто опрос психологов, где они должны были сравнить два конкретных описания одного кейса - от ChatCPT и от человека, и не написано, что они это делали в слепую, так что вероятно они знали, кто автор. Это - фигня, а не репрезентативное исследование, с моей точки зрения.

Так что пока полагаем, что ChatGPT – лучше. При этом с ним даже можно просто беседовать. В 90-е один из западных гуру психотерапии приезжал в Россию, познакомиться и оценить перспективы развития психотерапии у нас. Его вердикт был, что перспектив мало, потому что дружеские беседы на кухнях закрывают значительную часть психологических проблем. Ну а теперь можно с ИИ беседовать.

Четвертая новелла

ИИ-2041. Четвертая новелла.

И последняя на сегодня четвертая новелла. Там апокалипсис вечного ковида: мир, в котором эпидемия идет постоянно, поэтому все должны вакцинироваться каждый квартал все новыми вакцинами, а те, кто без вакцин должны сидеть дома, и за этим смотрят киберполицейские. И люди в это вписались, как вписались в ряде стран в предосторожности против ковида: на картах идет трекинг всех людей, при этом для каждого рассчитываются риск, что он заболел, пренебрегая предосторожностями, и другие люди в реальном времени предупреждаются о его приближении.

У главной героини рассказа страх болезни превысил разумные пределы, она три года живет в таком виртуальном коконе, но ее онлайн-друг разбивает такой кокон, симулируя, что он приехал повидаться, но попал в карантин и умирает. Девушка тут же забывает свой страх и бросается его спасать. Логика тут отсутствует, она не думает, ей управляет эмоциональный автопилот, а эмоции у нас устроены таким образом, что запросто перебивают друг друга и захватывают управление. И друг хорошо просчитал ее поведение, по-видимому, на основе длительного общения и с помощью ИИ, составил план и нашел помощников.

В комментариях к новелле автор обсуждает перспективы ИИ для медицины, и тут я с ним согласен – ИИ дает много дополнительных перспектив в разных направлениях – диагностика и мониторинг, создание новых лекарств, симуляция с помощью ИИ для сокращения программ экспериментов, предварительной обработке гипотез и так далее. Автор делает фокус именно на исследовательской части, полагая, что эксперимент с участием IBM Watson в консилиумах показал, что в лечении конкретного больного ИИ с человеком не сравнится. На мой взгляд, этот эксперимент показал другое: на ИИ легче свалить неверные решения, принятые на консилиуме, и отсудить у компании компенсацию, его не защищает профессиональное лобби. А вот изобретатели лекарств защищены фармацевтическим лобби, компании могут выпускать препараты, которые ухудшают, а не улучшают состояние больных, особенно во время эпидемии, проталкивая их закупки бюджетом, кейсы были не только в ковид, но и раньше.

И ковидный апокалипсис, на мой взгляд, не реалистичен. Хотя в инфо-пространстве такие сценарии будущего рисовали. Но не в Китае, где происходит действие новеллы. Китай на ковид среагировал жестко, и, на мой взгляд, объяснение может быть только в том, что сценарий искусственного конструирования вируса и специальной организации эпидемии власти полагали достаточно вероятным, чтобы рассматривать его всерьез и готовиться к худшему. Кстати, количество аргументов за искусственное происхождение вируса с тех пор, по-моему, возросло, продолжает оставаться неясным, была ли это не осторожность в китайской лаборатории, или диверсия каких-то американских сил, для которой плохо просчитали последствия. Но дальше я в эту тему углубляться не буду.

А вот с тем, что ковид дал мощный импульс удаленной работе и в значительной мере развязал место жизни и место работы – я согласен. Сейчас с этим пытаются разобраться в экономике и менеджменте, но в целом изменение позитивно.